Как автоматизация привела к трагедии?
32-летняя Ребека Кардозо Тененте Молина скончалась после пяти дней мучительного ожидания перевода в отделение интенсивной терапии. Причиной задержки, которая оказалась фатальной, родственники называют работу государственной системы управления на базе искусственного интеллекта. Этот алгоритм, разработанный для оптимизации распределения больничных коек, фактически заблокировал доступ женщины к необходимой медицинской помощи. О деталях инцидента сообщает издание Futurism со ссылкой на бразильское СМИ MG1.
Смотрите также Искусственный интеллект вместо машиниста: японская технология изменит движение поездов
Трагедия произошла в небольшом муниципалитете Сан-Жуан-Непомусено, где Ребеку госпитализировали из-за проблем с желчными камнями. Состояние пациентки начало стремительно ухудшаться, и врачи поняли, что ей срочно нужно место в реанимации. Ближайшая свободная палата интенсивной терапии находилась в городе Оливейра, расположенном примерно в 299,3 километрах оттуда. Однако для перевода пациентки медики должны были получить разрешение от автоматизированной системы Core-MG, которая координирует все перемещения больных в штате.
Что мы увидели – так это то, что врачи утратили автономию в принятии решений относительно критического состояния пациента,
– прокомментировала сестра погибшей и по совместительству адвокат семьи Самела Кардозо Тененте Фуртадо.
Цифры против реальности
Проблема заключалась в алгоритме оценки тяжести состояния больного. Система Core-MG автоматически присваивает каждому пациенту определенный балл, на основе которого формируется очередь. Несмотря на то, что анализы Ребеки свидетельствовали о критическом ухудшении, искусственный интеллект упорно оценивал ее состояние в 6,8 балла из 10 возможных.
Родственники считают, что реальная тяжесть болезни соответствовала наивысшему баллу – 10. Из-за такой ошибки алгоритма другие пациенты, которым система присвоила 6,9 или 8 баллов, получали приоритет и "перепрыгивали" женщину в очереди.
Фуртадо описывает систему как негибкую и ошибочную. По ее словам, даже когда врачи вводили новые данные тестов, подтверждавшие ухудшение здоровья Ребеки, программа отказывалась повышать ее уровень приоритетности.
Семья даже пыталась действовать через экстренные судебные иски, чтобы ускорить процесс транспортировки, но бюрократические и технические препятствия отняли слишком много времени. Пять дней ожидания стали критическими, и организм женщины не выдержал.
Моя сестра и другие люди – это не просто цифры, не просто протоколы и не просто идентификационные номера, занесенные в систему,
– заявила Самела Кардозо Тененте Фуртадо.
Смотрите также Четыре дня до апокалипсиса: искусственный интеллект устроил кровавый хаос в симуляции
Позиция властей и последствия
Власти штата Минас-Жерайс запустили систему Core-MG 19 мая 2026 года. Тогда заместитель министра здравоохранения штата Полиана Кардозо Лопес уверяла, что новая технология позволит три раза в день обновлять карту свободных мест и обеспечит лучший контроль над клиническим состоянием пациентов. Чиновники ожидали, что ИИ поможет собирать более точные данные и эффективнее управлять ресурсами больниц.
В ответ на обвинения семьи погибшей департамент здравоохранения штата сообщил СМИ, что перевозки всегда зависят от наличия коек, соответствующих специфическим медицинским потребностям больного. Представители ведомства добавили, что Core-MG не изменял фундаментальные протоколы транспортировки, а лишь автоматизировал их.
Однако этот случай поднимает острый вопрос: имеют ли алгоритмы право принимать окончательное решение там, где раньше решающее слово принадлежало опытному врачу, который видит пациента собственными глазами.
Пока продолжается расследование, эта история остается мрачным напоминанием о том, что технологические инновации без человеческого надзора могут иметь непоправимые последствия, а бездумное внедрение ИИ — это не всегда полезно.