Двоим американским юристам грозит наказание за использование популярного чат-бота с искусственным интеллектом ChatGPT при подготовке иска, сообщает The Associated Press. Искусственный интеллект "подсказал" им юридические прецеденты, которых на самом деле не было.
Адвокаты Стивен Шварц и Питер Лодука представляли интересы пассажира, получившего травмы во время авиаперелёта. Они должны были составить иск к авиакомпании, сославшись в нём на аналогичные судебные процессы, которые могли бы послужить прецедентами. Шварц решил прибегнуть к помощи ChatGPT, чтобы разыскать информацию о таких делах. Но процессы, о которых ему "рассказал" чат-бот, на самом деле оказались полностью вымышленными – это выяснилось уже на заседании, когда адвокатам пришлось объясняться с судьёй.
Стивен Шварц признался, что ChatGPT предложил ему сослаться на несколько дел об авиационных происшествиях, которые сам адвокат не смог обнаружить при поиске обычными средствами. Юрист решил довериться искусственному интеллекту, не подозревая, что некоторые из этих судебных процессов оказались полностью вымышленными. В ряде случаев ChatGPT упоминал авиакомпании, которых вообще никогда не существовало.
"Я действовал из ложной предпосылки, что этот веб-сайт получил информацию об этих делах из источников, к которым у меня не было доступа. Я не подозревал, что ChatGPT может сам фабриковать примеры судебных дел", – сказал Стивен Шварц на судебном заседании.
Юрист добавил, что "потерпел полный крах", поскольку не проверил корректность информации должным образом, и принёс извинения. По словам Шварца, из-за использования ChatGPT он "пострадал в личном и профессиональном плане", из-за чего чувствует себя униженным. Стивен Шварц заверил, что юридическая фирма, на которую он работал, после этого случая ввела дополнительные правила для адвокатов, чтобы предотвратить повторение таких инцидентов. Второй юрист, Питер Лодука, признал, что полностью доверял своему коллеге и не стал дополнительно проверять информацию, которую тот предоставил.
Судья выразил обоим адвокатам возмущение и заявил, что глубоко разочарован их работой – ведь юристы даже не попытались своевременно скорректировать иск и убрать из него ссылки на несуществующие прецеденты. О том, что в их иске содержится чистый вымысел, представители авиакомпании-ответчика уведомили Шварца и Лодуку ещё в марте. Более того, адвокаты не обратили внимания на откровенные несоответствия в созданной ChatGPT части иска, которые судья назвал "юридической чепухой". Судья зачитал отрывки из иска, наглядно демонстрирующие их бессмысленность с правовой точки зрения.
"Это первый задокументированный случай потенциального профессионального нарушения со стороны адвоката, связанный с использованием генеративного искусственного интеллекта. Он наглядно демонстрирует опасность использования многообещающих ИИ-технологий без осознания связанных с этим рисков", – прокомментировал специалист по цифровой безопасности Дэниел Шин, помощник директора по исследованиям в Центре юридических и судебных технологий при государственном юридическом университете William & Mary Law School в штате Вирджиния.
Какую ответственность понесут юристы, доверившиеся ChatGPT, в ближайшее время определит судья.
Читайте также:
- Судья в Колумбии использовал искусственный интеллект при вынесении решения по делу
- "Байден умер". В интернете нашли около 50 сайтов с фейковыми новостями, которые пишет ChatGPT
- Голливудские сценаристы выступили против использования искусственного интеллекта при написании текстов
- "Попытался убить всех". Искусственный интеллект "сошёл с ума" во время военных испытаний в США
-
1⚠️ Доброе утро! Предлагаем обзор главных новостей за 10 октября
- 3635
- 1
- 2
-
2🔥 Пятеро детей погибли при пожаре в Костанайской области: названа предварительная причина трагедии
- 2784
- 7
- 53
-
3🚌 Семь автобусных маршрутов поменяли схемы движения из-за ремонта в Астане
- 2369
- 0
- 2
-
4📆 Когда у казахстанских школьников начнутся осенние каникулы
- 2391
- 0
- 14
-
5❓ Как интересно провести выходные 12 и 13 октября в Алматы и Астане
- 2282
- 1
- 3
-
6🌈 Как выглядело полярное сияние в небе над Казахстаном, показали очевидцы
- 2318
- 0
- 20
-
7🦷🦷 В казахстанских школах планируют открыть стоматологические кабинеты
- 2258
- 6
- 42
-
8🔔 11 должностных лиц ФСМС, включая зампреда, наказали после проверки аудиторов
- 2181
- 3
- 11
-
9❄️ Первый снег выпал в Петропавловске
- 2067
- 0
- 14
-
10⚡️ Национальный банк Казахстана снова решил сохранить базовую ставку
- 2026
- 0
- 8