Министр здравоохранения США публикует отчет со ссылками на фейковые исследования, выдуманные ИИ
- Министр здравоохранения США Роберт Кеннеди-младший представил отчет с фейковыми исследованиями, намекающий на использование генеративного ИИ.
- Из более 500 источников в отчете по меньшей мере семь оказались несуществующими, а цитаты частично или полностью сфабрикованными.
- Использование ИИ в официальных документах вызывает беспокойство, особенно учитывая предыдущие случаи создания фальшивых цитат в научных и юридических материалах.
Скандальный отчет, представленный министром здравоохранения Робертом Кеннеди-младшим, оказался нашпигован несуществующими исследованиями и ложными цитатами, которые имеют все признаки выдумок генеративного искусственного интеллекта.
Искусственный интеллект и фальшивые источники
На прошлой неделе Роберт Фрэнсис Кеннеди-младший, занимающий должность министра здравоохранения США, представил публике отчет специальной комиссии, названной "Сделаем Америку снова здоровой" (MAHA). Документ сразу же раскритиковали за псевдонаучные утверждения, в частности о вредности мобильного излучения и "чрезмерной медикаментозности детей". Однако на этом все не закончилось, поскольку впоследствии выяснилось, что отчет также содержит многочисленные ссылки на вымышленные исследования, что вызывает подозрения в использовании генеративного ИИ, сообщает 24 Канал со ссылкой на расследование образовательной организации NOTUS Института журналистики Олбриттона.
Смотрите также Читатели возмущены, найдя в книге следы ИИ․ Автор забыла удалить из текста его комментарий
Внимательные эксперты обнаружили, что многие цитаты в отчете не только содержат ошибки, но и частично или полностью сфабрикованы. Из более 500 источников, указанных в документе, по меньшей мере семь оказались несуществующими. Часть ссылок ведет на неактивные страницы, а некоторые утверждения в отчете изложены в искаженной форме – все это является характерными признаками "галлюцинаций" ИИ.
Эпидемиолог Кэтрин Киз, упомянутая в отчете как соавтор исследования о тревожности у подростков, опровергла сам факт существования такого материала. По ее словам, она и ее коллеги действительно занимались этой темой, однако не публиковали подобной статьи в журнале JAMA Pediatrics с указанной группой авторов или под таким названием.
Кроме того, еще две ссылки в отчете, которые якобы демонстрируют влияние рекламы медикаментов на увеличение назначений препаратов от СДВГ и антидепрессантов для детей, оказались полностью вымышленными.
Другие источники содержали значительные обобщения. Например, в случае исследования из Техаса, которое проводилось с 2011 по 2015 годы и было сделано для одной конкретной территории. Однако в отчете MAHA оно подается как репрезентативное для всей страны в 2025 году. Такой подход раскритиковал сам автор работы, детский пульмонолог Гарольд Фарбер.
Тревожная тенденция
На фоне общего недоверия к научным структурам во времена администрации Трампа, использование генеративного ИИ в официальных документах приобретает особую угрозу. Ранее мы уже видели многочисленные случаи, когда искусственный интеллект создавал фальшивые цитаты в юридических и научных материалах по всему миру, однако теперь эта проблема добралась до самых высоких государственных структур в США.
Кеннеди, который не имеет надлежащей медицинской квалификации, во время выступления в Конгрессе признался, что ему не стоит доверять в медицинских вопросах. Его позиция по вакцинации также вызывает возмущение: он неоднократно продвигал ложные утверждения о связи между вакцинами и аутизмом и ставил под сомнение эффективность прививки от кори, паротита и краснухи – несмотря на масштабную вспышку кори в стране.
Как считает научный коммуникатор Джо Хенсон, применение ИИ в формировании государственной политики – это не просто неуместное использование технологии, а потенциальный инструмент пропаганды. Он считает, что такие действия демонстрируют незаинтересованность в науке как основе для принятия решений в сфере здравоохранения.