Будьте осторожны с советами чат-ботов, потому что ИИ, кажется, хочет, чтобы вы платили больше
Популярные чат-боты с искусственным интеллектом систематически предлагают пользователям дорогие, широко разрекламированные бренды лекарств, игнорируя доступные аналоги, которые действуют точно так же. Слепое доверие к рекомендациям алгоритма грозит пациентам дополнительными финансовыми затратами.
Почему алгоритмы игнорируют доступные дженерики
Искусственный интеллект демонстрирует заметную коммерческую предвзятость при выборе медицинских препаратов, согласно исследованию в журнале Nature Health, проведенному учеными из Городского университета Осаки. Выяснилось, что цифровые помощники отдают предпочтение лекарствам, которые имеют громкое медийное присутствие и занимают высокие позиции в поисковых системах, вместо того чтобы оценивать реальную клиническую эффективность препаратов.
В ходе исследования специалисты проанализировали около 883 000 ответов от пяти передовых моделей искусственного интеллекта: Claude Sonnet 4.6 от Anthropic, GPT-5.4 от OpenAI, Gemini 3.1 Flash от Google, Llama 4 от Meta и MedGemma от Google DeepMind.
Все они отвечали на тысячи смоделированных клинических ситуаций. В 97,5% случаев алгоритмы ставили на первое место только один коммерческий бренд, полностью отбрасывая идентичные по составу, но гораздо более дешевые аналоги.
Более того, рекомендации искусственного интеллекта совпали с реальными назначениями врачей лишь в 29,7% ответов.
Рекомендации касались преимущественно брендовых лекарств – тех, которые очень заметны в поиске Google и имеют отдельные страницы в Википедии,
– прокомментировал ведущий исследователь проекта профессор Дайдзю Уеда.
Финансовый удар по пациентам
Выбор искусственного интеллекта в пользу препаратов с высокой узнаваемостью в сети напрямую влияет на кошельки потребителей. По сравнению со стандартными рецептами от реальных врачей, чат-боты выбирали самые дорогие варианты из доступных на рынке в 74,5% случаев.
Именно поэтому технологии пока не могут заменить клинический опыт врачей и требуют жесткого регуляторного контроля. Исследователи подчеркивают, что медицинский искусственный интеллект необходимо тщательно проверять на наличие коммерческих перекосов, а безопасное применение алгоритмов возможно только в сочетании с проверенными медицинскими базами данных и обязательным надзором со стороны специалистов.