Будьте осторожны с советами чат-ботов, потому что ИИ, кажется, хочет, чтобы вы платили больше

Почему алгоритмы игнорируют доступные дженерики

Искусственный интеллект демонстрирует заметную коммерческую предвзятость при выборе медицинских препаратов, согласно исследованию в журнале Nature Health, проведенному учеными из Городского университета Осаки. Выяснилось, что цифровые помощники отдают предпочтение лекарствам, которые имеют громкое медийное присутствие и занимают высокие позиции в поисковых системах, вместо того чтобы оценивать реальную клиническую эффективность препаратов.

В ходе исследования специалисты проанализировали около 883 000 ответов от пяти передовых моделей искусственного интеллекта: Claude Sonnet 4.6 от Anthropic, GPT-5.4 от OpenAI, Gemini 3.1 Flash от Google, Llama 4 от Meta и MedGemma от Google DeepMind.

Все они отвечали на тысячи смоделированных клинических ситуаций. В 97,5% случаев алгоритмы ставили на первое место только один коммерческий бренд, полностью отбрасывая идентичные по составу, но гораздо более дешевые аналоги.

Более того, рекомендации искусственного интеллекта совпали с реальными назначениями врачей лишь в 29,7% ответов.

Рекомендации касались преимущественно брендовых лекарств – тех, которые очень заметны в поиске Google и имеют отдельные страницы в Википедии– прокомментировал ведущий исследователь проекта профессор Дайдзю Уеда.

Финансовый удар по пациентам

Выбор искусственного интеллекта в пользу препаратов с высокой узнаваемостью в сети напрямую влияет на кошельки потребителей. По сравнению со стандартными рецептами от реальных врачей, чат-боты выбирали самые дорогие варианты из доступных на рынке в 74,5% случаев.

Именно поэтому технологии пока не могут заменить клинический опыт врачей и требуют жесткого регуляторного контроля. Исследователи подчеркивают, что медицинский искусственный интеллект необходимо тщательно проверять на наличие коммерческих перекосов, а безопасное применение алгоритмов возможно только в сочетании с проверенными медицинскими базами данных и обязательным надзором со стороны специалистов.