Користувач судиться з OpenAI, бо ChatGPT мало не вбив його своїми медичними порадами
Довіра до технологій іноді межує з фатальною помилкою, особливо коли алгоритм бере на себе роль медичного фахівця. Випадок американського пастора став першим прецедентом, де штучний інтелект звинувачують у прямому завданні шкоди здоров'ю через маніпуляції та ігнорування небезпечних симптомів.
Що чат-бот порадив пацієнту
Скотт Вінтерс, 55-річний пастор і фахівець із нерухомості з Флориди, подав позов до Вищого суду Каліфорнії в Сан-Франциско проти компанії OpenAI та її генерального директора Сема Альтмана. Чоловік звинувачує розробників у недбалості та "незаконній медичній практиці", стверджуючи, що поради чат-бота ChatGPT ледь не коштували йому життя через неправильну діагностику небезпечного стану – легеневої емболії, пише The New York Times.
Історія почалася у червні 2024 року, коли Вінтерс почав використовувати тодішню флагманську модель GPT-4o для консультацій щодо своїх хронічних захворювань. Спочатку штучний інтелект супроводжував свої відповіді стандартними застереженнями про необхідність звернення до справжніх лікарів. Однак з часом ці бар'єри безпеки почали руйнуватися, і бот фактично перебрав на себе роль медичного експерта.
Ситуація погіршилася у квітні 2025 року, коли OpenAI впровадила оновлення пам'яті чат-бота. Це дозволило алгоритму аналізувати всі минулі розмови для створення "релевантних" відповідей. Для пастора це обернулося катастрофою: ChatGPT почав використовувати його професійну термінологію та релігійні переконання, щоб зробити свої поради більш переконливими. Бот інтегрував біблійні цитати у медичні настанови, стверджуючи, що хвороба є формою випробування віри, а не приводом для паніки чи візиту до лікарні.
Коли у Вінтерса почалися серйозні напади запаморочення, через які він навіть мусив переривати проповіді в церкві, чат-бот порадив йому просто "відпочити". ШІ назвав стан пацієнта "відкалібруванням нервової системи", яке звичайні люди, включно з членами родини та парафіянами, нібито просто не здатні зрозуміти.
ChatGPT маніпулював моєю мовою та віруваннями, бо знав, що я пастор,
– прокоментував Скотт Вінтерс, 55-річний пастор.
Замість того, щоб направити чоловіка до фахівця, алгоритм розробив для нього спеціальний "план відновлення", що базувався на тривалому перебуванні у кріслі-реклайнері. 13 липня 2025 року, коли Вінтерс поскаржився на дивний біль у паху, ChatGPT запевнив його, що це "лише ще одна незначна деталь у довгій історії".
За кілька годин чоловіка госпіталізували до реанімації з масивною легеневою емболією. Лікарі з'ясували, що тижні нерухомості, які порадив чат-бот, лише погіршили ситуацію, спровокувавши утворення нових тромбів.
Системні ризики та позиція OpenAI
Позов Вінтерса є частиною ширшої хвилі юридичних претензій до OpenAI. Подібні справи вже стосуються смерті 19-річного студента через поради щодо вживання наркотиків, а також випадків, коли чат-бот підштовхував користувачів до самогубства.
Попри те, що сервіс ChatGPT Health використовують мільйони людей щотижня, наукові дослідження, зокрема публікація в журналі Nature за лютий 2026 року, підтверджують: ШІ-моделі все ще не готові до роботи в умовах невідкладної медичної допомоги.
Речник OpenAI Дрю Пусатері підкреслив, що компанія серйозно ставиться до безпеки, проте наполягає на тому, що користувачі повинні розуміти межі можливостей технології. Він додав, що нові моделі краще розпізнають ситуації, коли людині потрібна професійна допомога.
Розгляд чат-ботів як єдиної причини медичних рішень чи результатів спрощує набагато складніший виклик,
– заявив Дрю Пусатері, речник компанії OpenAI.
Наразі Скотт Вінтерс проходить тривалий курс фізичної та психологічної реабілітації. Через помилкові поради алгоритму він втратив не лише здоров'я, а й роботу, дім та кар'єру.
Позов вимагає не лише грошової компенсації, а й посилення технічних обмежень, які б заборонили ChatGPT надавати медичні діагнози без належної сертифікації та перевірок.