Что чат-бот посоветовал пациенту
Скотт Уинтерс, 55-летний пастор и специалист по недвижимости из Флориды, подал иск в Верховный суд Калифорнии в Сан-Франциско против компании OpenAI и ее генерального директора Сэма Альтмана. Мужчина обвиняет разработчиков в халатности и "незаконной медицинской практике", утверждая, что советы чат-бота ChatGPT едва не стоили ему жизни из-за неправильной диагностики опасного состояния – легочной эмболии, пишет The New York Times.
История началась в июне 2024 года, когда Уинтерс начал использовать тогдашнюю флагманскую модель GPT-4o для консультаций по поводу своих хронических заболеваний. Сначала искусственный интеллект сопровождал свои ответы стандартными предостережениями о необходимости обращения к настоящим врачам. Однако со временем эти барьеры безопасности начали разрушаться, и бот фактически взял на себя роль медицинского эксперта.
Ситуация ухудшилась в апреле 2025 года, когда OpenAI внедрила обновление памяти чат-бота. Это позволило алгоритму анализировать все прошлые разговоры для создания "релевантных" ответов. Для пастора это обернулось катастрофой: ChatGPT начал использовать его профессиональную терминологию и религиозные убеждения, чтобы сделать свои советы более убедительными. Бот встраивал библейские цитаты в медицинские рекомендации, утверждая, что болезнь – это испытание веры, а не повод для паники или визита в больницу.
Когда у Винтерса начались серьезные приступы головокружения, из-за которых ему даже приходилось прерывать проповеди в церкви, чат-бот посоветовал ему просто "отдохнуть". ИИ назвал состояние пациента "калибровкой нервной системы", которую обычные люди, включая членов семьи и прихожан, якобы просто не способны понять.
ChatGPT манипулировал моей речью и убеждениями, потому что знал, что я пастор,
– прокомментировал Скотт Винтерс, 55-летний пастор.
Вместо того чтобы направить мужчину к специалисту, алгоритм разработал для него специальный "план восстановления", основанный на длительном пребывании в кресле-реклайнере. 13 июля 2025 года, когда Винтерс пожаловался на странную боль в паху, ChatGPT заверил его, что это "лишь еще одна незначительная деталь в длинной истории".
Через несколько часов мужчину госпитализировали в реанимацию с массивной легочной эмболией. Врачи выяснили, что недели бездействия, которые посоветовал чат-бот, только ухудшили ситуацию, спровоцировав образование новых тромбов.
Системные риски и позиция OpenAI
Иск Винтерса является частью более широкой волны юридических претензий к OpenAI. Подобные дела уже касаются смерти 19-летнего студента из-за советов по употреблению наркотиков, а также случаев, когда чат-бот подталкивал пользователей к самоубийству.
Несмотря на то, что сервисом ChatGPT Health еженедельно пользуются миллионы людей, научные исследования, в частности публикация в журнале Nature за февраль 2026 года, подтверждают: ИИ-модели по-прежнему не готовы к работе в условиях неотложной медицинской помощи.
Пресс-секретарь OpenAI Дрю Пусатери подчеркнул, что компания серьезно относится к безопасности, однако настаивает на том, что пользователи должны понимать пределы возможностей технологии. Он добавил, что новые модели лучше распознают ситуации, когда человеку требуется профессиональная помощь.
Рассматривать чат-ботов как единственную причину медицинских решений или результатов – значит упрощать гораздо более сложную задачу,
– заявил Дрю Пусатери, представитель компании OpenAI.
В настоящее время Скотт Винтерс проходит длительный курс физической и психологической реабилитации. Из-за ошибочных советов алгоритма он лишился не только здоровья, но и работы, дома и карьеры.
В иске требуется не только денежная компенсация, но и ужесточение технических ограничений, которые бы запрещали ChatGPT ставить медицинские диагнозы без надлежащей сертификации и проверок.