Верховный суд штата Нью-Мексико признал адвоката Стивена Ааронса виновным в неуважении к суду после того, как он подал апелляционный документ с вымышленными показаниями и другими ошибками, созданными с помощью ChatGPT. Об этом пишет ARStechnica.
Как ChatGPT создал фальшивые показания?
Суд также передал дело в дисциплинарную комиссию для дальнейшего рассмотрения. В решении отмечается, что адвокат продемонстрировал "отсутствие раскаяния и беспокойства в отношении своего клиента". Ааронсу запретили выступать перед Верховным судом Нью-Мексико до завершения дисциплинарного расследования. Кроме того, его оштрафовали на 5 000 долларов. Средства должны поступить в Фонд защиты клиентов Коллегии адвокатов Нью-Мексико.
Адвокат более 40 лет работает в сфере уголовного права. Его наняли родственники Оскара Рене Сандовала, которого в феврале 2025 года приговорили к пожизненному заключению за убийство Ширин Аль-Джибури – своей партнерши и матери его детей.
В августе 2025 года Ааронс подал апелляционную жалобу, подготовленную с помощью ChatGPT. Через несколько недель прокуратура штата обратилась в суд с просьбой исключить части этого документа из материалов дела. Суд установил, что в тексте приводились ложные показания от имени полностью вымышленных людей. Среди них – офицеры Мишель Амарильо и Санчес, Маналь Аль-Джибури и Тереза Маркес.
Также документ содержал вымышленные или искаженные показания других людей. Например, в нем говорилось об угрозах Дэнни Стентону и его жене Линде, хотя соответствующие утверждения не соответствовали материалам судебного процесса. Кроме того, Ааронс неверно описал одежду и внешность подозреваемого, ссылаясь на вымышленные показания.
Адвокат загрузил в ChatGPT материалы суда
Во время слушания 21 августа Ааронс пояснил, что сначала воспользовался сервисом Rev.com для автоматической расшифровки аудиозаписей судебного процесса. Затем он загрузил транскрипт и другие материалы в ChatGPT.
По его словам, он использовал версию чат-бота на основе модели OpenAI o3. Адвокат ожидал, что система создаст точное и достоверное изложение судебных событий.
Я предполагал, что она сгенерирует безупречный исход процесса, – заявил он.
Ааронс также сказал, что считал результаты достоверными из-за широкого использования искусственного интеллекта в юридической и медицинской сферах. В то же время он признал, что не проверил фактические утверждения и юридические ссылки перед подписанием и подачей документа в суд. Он также не сообщил клиенту, что апелляция содержит многочисленные фактические и юридические ошибки.
Адвокат утверждал, что сама стенограмма судебного заседания была достаточно точной. По его мнению, проблемы возникли уже после загрузки этого материала вместе с другими документами в ChatGPT. Среди них были материалы дела, перечень вопросов апелляции и часть доказательств.
Однако суд подчеркнул, что ответственность за содержание документа несет юрист, который его подписывает. Не имеет значения, помогал ли ему искусственный интеллект, студент юридического факультета или другой адвокат.
Судьи раскритиковали объяснения адвоката
Во время слушания судьи резко отреагировали на заявления Ааронса о том, что он не знал о способности ИИ выдумывать факты.
Судья Шеннон Бейкон заявила, что проблема так называемых "галлюцинаций" искусственного интеллекта давно широко известна. Она отметила, что даже ее 13-летний племянник и 75-летняя мачеха знают о риске получения ложной информации от чат-ботов.
Либо вы прятали голову в песок – и это был сознательный выбор оставаться в неведении, – либо вы пошли на риск. И ни один из этих вариантов не соответствует кодексу профессионального поведения, – сказала Бэкон.
По ее словам, Ааронс нарушил как минимум восемь или девять положений профессионального кодекса. Адвокат пытался подчеркнуть, что в его документе не было вымышленных судебных дел, а лишь неверные описания реальных прецедентов. Однако Бейкон заявила, что существенной разницы между вымышленной ссылкой и искажением реального решения нет. В обоих случаях юрист нарушает обязанность быть честным перед судом.
Главный судья Джули Варгас также отвергла попытки Ааронса перевести разговор на общие вопросы регулирования искусственного интеллекта. Она подчеркнула, что в центре дела находится конкретный подсудимый, который остается под стражей, а ошибки адвоката могут напрямую повлиять на его будущее.
Меня сейчас не интересуют политические вопросы. Меня интересует, что мы должны сделать с вашим клиентом и как действовать с учетом поведения, которое вы продемонстрировали, – заявила Варгас.
Судья Майкл Вигил подчеркнул, что использование ИИ само по себе не является проблемой. Допустимым является представление непроверенного текста в суд.
Он сравнил ситуацию с работой молодого юриста: если адвокат подписывает документ, не проверив его, ответственность ложится на него независимо от того, насколько опытным был автор подготовленного материала.
Клиенту не сообщили об использовании ChatGPT
Отдельную критику со стороны судей вызвал тот факт, что Ааронс не рассказал клиенту о масштабе проблемы.
В ходе слушания адвокат признал, что не сообщил Сандовалу, говорящему на испанском, об использовании ChatGPT и ложных утверждениях в апелляции. Родственникам клиента он лишь сказал, что с поданным документом возникла проблема.
Когда Бейкон спросила, объяснил ли он семье, что именно произошло, Ааронс ответил: "Я не говорил о ChatGPT. Я просто сказал, что возникла проблема с апелляцией". Судья заявила, что клиент должен знать полный масштаб ситуации, чтобы осознанно решить, хочет ли он и в дальнейшем пользоваться услугами этого адвоката.
Ваш клиент страдает от этого гораздо больше, чем вы когда-либо пострадаете, – сказала Бейкон.
Суд изъял все предыдущие апелляционные документы из материалов дела и поручил офису государственного защитника назначить Сандовалу нового адвоката. Рассмотрение дела должно продолжиться в течение судебного срока 2026 – 2027 годов.
Ааронс заявил, что сожалеет об ошибке и надеется, что дисциплинарная комиссия расценит ее как непреднамеренную. В то же время суд подчеркнул, что незнание возможностей и ограничений ИИ не освобождает специалиста от обязанности проверять каждый документ перед его подачей.