Прихована небезпека порад від ШІ

Покладатися лише на ChatGPT для отримання порад щодо здоров'я може бути ризиковано. Генеративний ШІ все ще є відносно новою технологією, яка постійно змінюється й часто помиляється. Нове дослідження представило дані про те, хто використовує ChatGPT для запитів про здоров'я, з якою конкретно метою, а також може дозволити користувачам розуміти, як використовувати ШІ правильно і з найменшими ризиками, якщо вже вони категорично не хочуть відмовлятися від такої безплатної допомоги, повідомляє 24 Канал з посиланням на The Conversation.

Дивіться також Штучний інтелект Ілона Маска заявив, що і він, і Трамп заслуговують смертної кари

Хто використовує ChatGPT для здоров'я і що вони запитують

У червні 2024 року дослідники з Австралії опитали понад 2 000 людей, чи використовували вони ChatGPT, щоб отримати допомогу в питаннях здоров'я. Виявилось, що кожен десятий (9,9%) використовував ШІ з цією метою в першій половині 2024 року. Середній показник довіри до штучного інтелекту серед цієї групи людей становить 3,1 з 5.

Також було виявлено, що частка людей, які використовують ChatGPT для отримання інформації про здоров'я, була вищою серед тих, хто мав низький рівень медичної грамотності, народився в неангломовній країні або розмовляв удома іншою мовою. Це свідчить про те, що на ChatGPT більше покладаються люди, яким важко взаємодіяти з традиційними формами медичної інформації в чужій країні.

Найпоширеніші питання, які люди ставили ChatGPT, стосувалися:

  • дізнатися про стан здоров'я (48%).
  • з'ясувати, що означають симптоми (37%).
  • запитати про дії (36%).
  • або зрозуміти медичні терміни (35%).

Такі питання є ризикованими, оскільки ШІ може надати лише приблизне уявлення, але не замінить клінічну консультацію досвідченого лікаря.

Знову ж таки, люди, які народилися в неангломовній країні або розмовляли вдома іншою мовою, частіше ставлять такі запитання.

Чому це важливо

Кількість людей, які використовують генеративний ШІ для отримання інформації про здоров'я, ймовірно, зростатиме. Згідно з дослідженням, 39% людей, які ще не використовували ChatGPT у питаннях охорони здоров'я, розглядають можливість зробити це протягом наступних шести місяців.

Загальна кількість людей, які використовують інструменти генеративного ШІ для отримання інформації про здоров'я, ще вища, якщо врахувати інші інструменти, такі як Google Gemini, Microsoft Copilot і Meta AI.

Той факт, що люди з мовним бар'єром, які перебувають у чужій країні, частіше користуються ШІ для медичних питань, також є проблемою, бо штучний інтелект, як пишуть дослідники, "додає ще один рівень складності" через свою меншу ефективність в інших мовах, відмінних від англійської.

Саме тому автори статті переконані, що нам потрібні людські та комп'ютерні сервіси, де іншомовність не була б перешкодою для отримання високоякісної медичної інформації.

Медична грамотність зі штучним інтелектом

Хоча ШІ дедалі краще відповідає на питання медичного характеру, він усе ще менш точний, ніж професійні лікарі, а також припускається помилок у складних темах, пов'язаних з охороною здоров'я, кажуть дослідники. Наприклад, уже відомі випадки, коли використання інструментів ШІ загального призначення для прийняття рішення про те, чи варто лягати в лікарню чи ні, призводили до сумних наслідків.

На жаль, говорячи про медичну грамотність у використанні ШІ, автори статті не дають ніяких конкретних рекомендацій, крім того, що в питаннях госпіталізації варто звертатися до місцевого австралійського центру, який надає національну безкоштовну гарячу лінію з дипломованими медичними працівниками на зв'язку.

Однак, з головних порад можна виділити такі:

  • Не варто сприймати відповідь ШІ як остаточний діагноз. Алгоритм може підказати відповідь у загальних рисах, але не деталізувати її під ваші індивідуальні потреби.
  • Перевіряйте інформацію в надійних джерелах – ВООЗ, спеціалізовані медичні ресурси, сайти клінік і лікарень, статті в рецензованих медичних журналах.
  • Не займайтеся самолікуванням, особливо якщо це стосується серйозних хвороб, які мають імовірність смерті. Якщо ШІ радить певні ліки, добавки чи методи лікування, не починайте прийом без консультації з лікарем. Деякі ліки можуть мати серйозні побічні ефекти, взаємодіяти з іншими препаратами, які ви вже приймаєте, або не підходити саме вам.
  • Перевійте дату інформації. Медицина швидко розвивається, рекомендації можуть змінюватися. Якщо ШІ дає пораду, він може звертатися до власних завчених даних, які були актуальні на момент навчання мовної моделі. Якщо ви користуєтесь безплатною версією ШІ, то вона, швидше за все, навчена на даних як мінімум річної давності, оскільки найновіші версії моделей ШІ завжди лише платні. Таким чином учені та лікарі могли вже змінити методи лікування вашої хвороби і ви зробите все неправильно.
  • Ставте питання максимально точно. Якщо ви використовуєте ШІ для пошуку медичної інформації, формулюйте запити детально. Наприклад, запит "У мене болить голова, що це може бути" – це неправильне питання. Правильне звучатиме приблизно так: "Я маю головний біль зліва, він триває три дні, без підвищення температури, але з нудотою. Які можливі причини". Залежно від характеру питання і вашого стану, сюди можна додати ваші характеристики: вік, стать, супутні хронічні проблеми, поточні прийоми ліків, нещодавні травми, зміну умов проживання та інше. Чим точніше питання, тим менша ймовірність отримати загальну або хибну відповідь.
  • Ніколи не довіряйте ШІ в екстрених ситуаціях. Якщо поруч хтось у важкому стані, на кшталт сильної кровотечі, втрати свідомості чи проблем із диханням, не ґуґліть і не питайте нічого в ШІ. Відразу зверніться по допомогу до справжніх лікарів.
  • Усвідомте обмеження штучного інтелекту. ШІ не бачить вас, не може провести фізичний огляд чи аналізи. Він працює лише з текстовими даними, які вивчив у певний момент свого навчання, а це означає, що він не може точно оцінити саме ваш стан здоров’я.
  • Нарешті, остерігайтеся "галюцинацій" ШІ. Якщо відповідь здається надто конкретною, але без посилань на джерела, або має підозріло складні терміни без пояснень – є ризик, що алгоритм просто вигадав їх щойно. Так буває у випадку цієї технології. У такому разі слід перевірити інформацію в інших джерелах.