Як автоматизація призвела до трагедії?
32-річна Ребека Кардозо Тененте Моліна померла після п'яти днів болісного очікування на переведення до відділення інтенсивної терапії. Причиною затримки, яка виявилася фатальною, родичі називають роботу державної системи управління на базі штучного інтелекту. Цей алгоритм, розроблений для оптимізації розподілу лікарняних ліжок, фактично заблокував доступ жінки до необхідної медичної допомоги. Про деталі інциденту повідомляє видання Futurism з посиланням на бразильське медіа MG1.
Дивіться також Штучний інтелект замість машиніста: японська технологія змінить рух поїздів
Трагедія сталась у невеликому муніципалітеті Сан-Жуан-Непомусено, де Ребеку госпіталізували через проблеми з жовчними каменями. Стан пацієнтки почав стрімко погіршуватися, і лікарі зрозуміли, що їй терміново потрібне місце в реанімації. Найближча вільна палата інтенсивної терапії була в місті Олівейра, розташованому приблизно за 299,3 кілометра звідти. Проте для переведення пацієнтки медики мали отримати дозвіл від автоматизованої системи Core-MG, яка координує всі переміщення хворих у штаті.
Що ми побачили – так це те, що лікарі втратили автономію у прийнятті рішень щодо критичного стану пацієнта,
– прокоментувала сестра загиблої та за сумісництвом адвокатка сім'ї Самела Кардозо Тененте Фуртадо.
Цифри проти реальності
Проблема полягала в алгоритмі оцінювання тяжкості стану хворого. Система Core-MG автоматично присвоює кожному пацієнту певний бал, на основі якого формується черга. Попри те, що аналізи Ребеки свідчили про критичне погіршення, штучний інтелект вперто оцінював її стан на 6,8 бала з 10 можливих.
Родичі вважають, що реальна тяжкість хвороби відповідала найвищому балу – 10. Через таку помилку алгоритму інші пацієнти, яким система присвоїла 6,9 або 8 балів, отримували пріоритет і "перестрибували" жінку в черзі.
Фуртадо описує систему як негнучку й помилкову. За її словами, навіть коли лікарі вводили нові дані тестів, які підтверджували погіршення здоров'я Ребеки, програма відмовлялася підвищувати її рівень пріоритетності.
Сім'я навіть намагалася діяти через екстрені юридичні позови, щоб прискорити процес транспортування, але бюрократичні та технічні перепони забрали надто багато часу. П'ять днів очікування стали критичними, і організм жінки не витримав.
Моя сестра та інші люди – це не просто цифри, не просто протоколи і не просто ідентифікаційні номери, закинуті в систему,
– заявила Самела Кардозо Тененте Фуртадо.
Дивіться також Чотири дні до апокаліпсису: штучний інтелект влаштував кривавий хаос у симуляції
Позиція влади та наслідки
Влада штату Мінас-Жерайс запустила систему Core-MG 19 травня 2026 року. Тоді заступниця міністра охорони здоров'я штату Поліана Кардозо Лопес запевняла, що нова технологія дозволить тричі на день оновлювати карту вільних місць і забезпечить кращий контроль над клінічним станом пацієнтів. Чиновники очікували, що ШІ допоможе збирати точніші дані та ефективніше керувати ресурсами лікарень.
У відповідь на звинувачення родини загиблої департамент охорони здоров'я штату повідомив медіа, що переведення завжди залежать від наявності ліжок, які відповідають специфічним медичним потребам хворого. Представники відомства додали, що Core-MG не змінював фундаментальні протоколи транспортування, а лише автоматизував їх.
Проте цей випадок піднімає гостре питання: чи мають алгоритми право приймати остаточне рішення там, де раніше вирішальне слово належало досвідченому лікарю, який бачить пацієнта на власні очі.
Поки триває розслідування, ця історія залишається похмурим нагадуванням про те, що технологічні інновації без людського нагляду можуть мати непоправні наслідки, а бездумне впровадження ШІ – це не завжди корисно.