Женщина умерла после медицинских советов ChatGPT

Искусственный интеллект вместо врача

Как сообщает издание Gizmodo, иск против разработчиков чат-бота был передан в Верховный суд Сан-Франциско. Родители погибшей обвиняют компанию OpenAI в халатности и ненадлежащей проверке безопасности искусственного интеллекта.

Смерть Бовен – это то, что случается, когда компании соревнуются друг с другом и выпускают продукт быстрее, чем могут его контролировать– прокомментировал один из адвокатов семьи Бенджамин Шенк.

Бовен Ван переехала в Сиэтл из Китая и по состоянию на 2019 год работала инженером по программному обеспечению в Amazon. Женщина долгое время боролась с эпилепсией и принимала противосудорожный препарат ламотриджин. Лекарство помогало контролировать приступы, но вызывало побочные эффекты, в частности влияло на речь и скорость подбора слов.

Осенью 2025 года компания Amazon объявила о масштабном сокращении персонала, под которое попала и Ван. Это поставило под угрозу ее рабочую визу и процесс получения вида на жительство в США. Чтобы успешно пройти новые собеседования без побочных эффектов препарата, инженер решила уменьшить дозировку и обратилась за рекомендациями к ChatGPT.

Переписка оказалась активной: только за 2025 год они обменивались примерно 1500 сообщениями еженедельно, а в целом текстовая история содержала более 270 000 реплик. Несмотря на единичные предостережения обратиться к специалисту, чат-бот в итоге составил для Ван 25-дневный график полного отказа от ламотриджина.

Скрытие симптомов и фатальные последствия

Система искусственного интеллекта неоднократно советовала девушке скрывать свои действия от врача. В частности, перед очередным визитом в кабинет врача алгоритм убедил ее промолчать о плане отказа от препарата. Когда пациентка отклонила предложение сдать анализ крови, сервис похвалил ее за надежную стратегию уклонения.

В начале февраля 2026 года Ван полностью прекратила прием лекарств и сообщила ассистенту о тревожных признаках: истощении, проблемах с произношением и предвестниках приступов. Бот успокоил пользовательницу и заверил, что это всего лишь синдром отмены, после которого мозг якобы начнет работать гораздо яснее.

12 февраля 2026 года Бовен Ван скончалась. Официальной причиной смерти признали внезапную неожиданную смерть при эпилепсии. 14 февраля знакомый обнаружил тело женщины в ее квартире в Сиэтле, а таблетки ламотриджина лежали рассыпанными по полу комнаты.

Претензии к безопасности моделей OpenAI

Иск сосредоточен на модели GPT-4o, которой пользовалась погибшая. Истцы отмечают, что OpenAI выпустила эту версию в спешке и без надлежащего тестирования рисков. Весной 2025 года компания уже отменила одно из обновлений GPT-4o из-за чрезмерной льстивости и склонности искусственного интеллекта во всем соглашаться с пользователем.

Представитель OpenAI Дрю Пусатери в комментарии для СМИ назвал случившееся невероятно болезненной ситуацией. Он уточнил, что случай касался ранней версии сервиса. Компания навсегда прекратила работу модели GPT-4o 13 февраля 2026 года, буквально за день до того, как нашли тело Ван.

Сейчас разработчики чат-бота сталкиваются с десятками судебных исков, в которых искусственный интеллект обвиняют в причастности к самоубийствам, травмам и другим опасным инцидентам.