Почему ИИ дает одинаковые ответы
Исследователи из Департамента компьютерных наук Копенгагенского университета провели масштабное тестирование 27 различных больших языковых моделей, о чем сообщает издание TechRadar. Специалисты проанализировали около 70 миллионов ответов на 155 различных тем – от ядерного оружия до K-Pop, использовав 200 вариантов запросов.
Результаты показали, что даже самая продвинутая модель GPT-5 генерирует на 18,5 процента менее разнообразные ответы, чем стандартная поисковая система Google. В целом информация от чат-ботов оказалась почти на 19 процентов однообразнее, чем результаты классической поисковой выдачи. Это существенно сужает диапазон взглядов и интерпретаций, к которым пользователи получают доступ.
Люди в значительной степени подвергаются воздействию одной и той же информации снова и снова. Таким образом, ИИ-чат-боты не просто меняют то, как мы находим знания, но и то, к каким именно знаниям мы имеем доступ,
– прокомментировал первый автор исследования Дастин Райт.
Угроза коллапса знаний и эффект глобализации
Ученые предупреждают, что постоянная опора на искусственный интеллект вытесняет альтернативные точки зрения на периферию восприятия. В результате формируется замкнутый круг: самый популярный контент становится еще более доминирующим, тогда как другие мнения и факты остаются без внимания общества.
Мы рискуем подвергнуть людей воздействию меньшего количества точек зрения и более узкого диапазона знаний. Это может создать порочный круг, в котором самый популярный контент становится еще более доминирующим, а остальной контент все больше игнорируется,
– заявила профессор и ведущий автор исследования Изабель Аугенштайн.
Она сравнила этот процесс с глобализацией, когда в любой точке мира можно купить одинаковые товары или посетить одинаковые кафе. Это удобно, но в то же время уничтожает уникальное разнообразие.
Угрожает ли нам сценарий идиократии
Несмотря на риски, исследователи отмечают, что окончательный коллапс знаний человечеству пока не грозит. Более новые модели искусственного интеллекта демонстрируют несколько большее разнообразие ответов по сравнению со своими предшественниками.
Разработчикам систем ИИ необходимо искать баланс между точностью ответов и сохранением широты человеческих взглядов. Если создатели алгоритмов не расширят спектр источников для обучения ботов, пользователи рискуют оказаться в информационном пузыре, который постепенно будет снижать общий уровень осведомленности общества.