Адвокат использовал ChatGPT для защиты клиента, а тот придумал ему свидетелей, которых не было
Попытка американского адвоката упростить себе работу с помощью искусственного интеллекта завершилась громким скандалом в суде. Юрист подал апелляцию по делу об убийстве, придумал с помощью чат-бота свидетелей и их показания, которые существовали лишь в воображении нейросети.
Вымышленные свидетели
Адвокат Стивен Д. Ааронс из штата Нью-Мексико представлял интересы Оскара Сандоваля, которого ранее признали виновным в убийстве жены. Стремясь подготовить безупречную апелляционную жалобу, юрист обратился за помощью к ChatGPT, поскольку слышал об использовании искусственного интеллекта врачами. Вместо качественного анализа материалов чат-бот сгенерировал текст с полностью вымышленными показаниями свидетелей, пишет 404 Media.
В поданном в суд документе появились показания от совершенно несуществующих людей. В частности, некий Денни Стентон якобы заявлял об угрозах в свой адрес, а Линда Стентон рассказывала об угрозе для своего мужа.
Другие вымышленные искусственным интеллектом лица описывали внешность и одежду нападавшего. Когда коллегия из пяти судей Верховного суда штата Нью-Мексико разоблачила подделку, адвокат объяснил свое поведение собственной глупостью и наивной надеждой получить идеальный документ.
Мне мало утешения от осознания того, что именно моя глупость собрала нас всех вместе в этот день,
– сказал адвокат Стивен Д. Ааронс во время слушаний.
Приговор адвокату
Судьи выразили возмущение такой халатностью юриста. Они напомнили, что галлюцинации искусственного интеллекта – общеизвестная проблема, о которой знают даже подростки и пенсионеры.
Представители суда подчеркнули, что адвокат либо сознательно игнорировал правила, либо решил рискнуть судьбой клиента. При этом сам Ааронс признался, что даже не сообщил находящемуся в заключении клиенту о скандале, ограничившись лишь расплывчатыми заявлениями для его семьи о проблемах с документами.
По решению Верховного суда штата Нью-Мексико адвоката признали виновным в прямом неуважении к суду и отстранили от дела. Для защиты осужденного назначили государственного адвоката, а самого Ааронса временно лишили права выступать в суде и обязали уплатить 5 тысяч долларов штрафа в фонд защиты клиентов. Дело передали в дисциплинарную комиссию для дальнейшего расследования.