Искусственный интеллект незаметно переписывает человеческие воспоминания
Искусственный интеллект способен легко внедрять в человеческую память вымышленные события и убеждать в том, чего на самом деле никогда не происходило. Серия экспериментов доказала, что сгенерированные машинами детали искажают факты, а человеческий мозг охотно принимает чужие выдумки за собственные воспоминания.
Эксперимент с фотографиями и убеждением
Как сообщает немецкое издание Merkur, ученые провели масштабное тестирование, которое продемонстрировало поразительную уязвимость человеческой психики перед алгоритмами. Профессор MIT Media Lab Патти Маес вместе с коллегами показала 200 участникам 24 обычные фотографии с изображениями свадьбы, городской улицы и гонок. Затем одной группе показали те же кадры, а другой – изображения, измененные генеративным ИИ. На них алгоритмы добавили военных, подкорректировали мимику или внесли намеки на климатические изменения.
Во время финального опроса респонденты, которые видели модифицированные кадры, массово заявляли о ложных воспоминаниях. Более того, они оказались абсолютно уверенными в правдивости вымышленных деталей.
Я считаю все это принципиально очень опасным,
– прокомментировала профессор MIT Media Lab Патти Маес.
Деградация навыков и расслабление мозга
Ученые обратили внимание на то, что чрезмерное доверие к технологиям вызывает так называемую когнитивную капитуляцию. Исследователи из Пенсильванского университета Гидеон Нейв и Стивен Шоу отмечают, что люди постепенно перестают тренировать свои умственные способности.
Подтверждением этому стал другой эксперимент с участием 54 добровольцев, которые писали эссе. Те, кто создавал тексты с помощью ChatGPT, продемонстрировали самую слабую нейронную активность мозга по данным электродов. Впоследствии этим участникам было крайне трудно вспомнить собственные мысли и процитировать написанное.
Проблема потери компетенций затрагивает даже специалистов. Согласно исследованию 2025 года, опубликованному в научном журнале The Lancet Gastroenterology and Hepatology, 19 опытных врачей проанализировали почти 1 500 колоноскопий. После регулярного использования ИИ-помощника их способность самостоятельно выявлять предраковые состояния снизилась примерно на 20 процентов. Когда интеллектуальную "мышцу" не тренируют ежедневно, она быстро слабеет.
Иллюзия контроля над технологией
Искусственный интеллект способен искажать даже показания очевидцев преступлений или аварий. В одном из экспериментов люди после общения с чат-ботом демонстрировали в три раза больше ложных воспоминаний о правонарушении, увиденном на видео. Почти половина участников другого теста искренне поверила в существование неснятых ремейков кинофильмов, в частности версии "Матрицы" с Уиллом Смитом.
Исследовательница из Института больших данных Джорджтаунского университета Маттеа Сим провела эксперимент с участием 331 человека. Люди смотрели анимацию наезда автомобиля на пешехода, а затем читали отчет ИИ об инциденте. Если алгоритм уверенно указывал на ошибочный дорожный знак, лишь 45 процентов людей помнили реальную картину, тогда как среди читателей точного отчета результат составлял почти 84 процента. Даже четкое предупреждение об авторстве машины не защитило респондентов от манипуляции.
Общеизвестно, что ИИ может ошибаться, однако человеческий надзор может оказаться не самым удачным решением этой проблемы,
– добавила исследовательница Маттеа Сим.
Когда алгоритмы активно вмешиваются в память людей, традиционная концепция контроля со стороны оператора оказывается под угрозой, ведь меняется само восприятие реальности.