Искусственный интеллект будет иметь ужасное влияние на нашу науку
Ученые изучили 68 миллионов исследований, чтобы понять, как искусственный интеллект влияет на науку. Результаты оказались неутешительными: хотя ИИ способствует карьерному росту ученых, он сужает круг вопросов, которые они задают. Это снижает креативность и вероятность достичь неожиданного открытия.
Это плохо
Согласно исследованию, использование инструментов искусственного интеллекта для анализа данных и моделирования результатов имеет огромное влияние на карьерные перспективы молодых ученых, значительно повышая их шансы занять влиятельные позиции в своих отраслях. Но то, что является благом для отдельных исследователей, похоже, имеет более широкую цену для всей науки, сообщает 24 Канал со ссылкой на выводы ученых, опубликованные в виде препринта статьи, не прошедшей рецензирование).
Смотрите также Ученые описали новую экзистенциальную угрозу, которая уже касается миллиардов людей
Исследователи из Чикагского университета и Университета Цинхуа в Китае проанализировали почти 68 миллионов научных работ по шести научным дисциплинам (без учета компьютерных наук) и обнаружили, что работы, в которых используются методы ИИ, цитируются чаще, но при этом сосредотачиваются на более узком наборе тем и чаще повторяются. Чем больше ученые используют ИИ, тем больше они сосредотачиваются на одном и том же наборе проблем, на которые можно ответить с помощью больших существующих наборов данных, и тем меньше они исследуют фундаментальные вопросы, которые могут привести к совершенно новым отраслям исследования.
Я был удивлен драматическим масштабом вывода: [искусственный интеллект] резко увеличивает способность людей оставаться и продвигаться в системе. Это означает, что у людей появляется огромный стимул использовать такие системы в своей работе. Это выбор между процветанием и выживанием в конкурентной научно-исследовательской сфере,
– говорит Джеймс Эванс, соавтор статьи.
Поскольку этот стимул приводит к растущей зависимости от машинного обучения, "вся система науки, которая делается с помощью искусственного интеллекта, сокращается", уверен Эванс.
В исследовании рассматривались работы, опубликованные с 1980 по 2024 год в областях биологии, медицины, химии, физики, материаловедения и геологии. Оказалось, что ученые, которые использовали инструменты искусственного интеллекта для проведения своих исследований, публиковали в среднем на 67 процентов больше работ каждый год, а их статьи цитировались втрое чаще, чем те, кто не использовал ИИ.
Затем Эванс и его соавторы проанализировали карьерные траектории 3,5 миллиона ученых и разделили их на младших ученых (то есть тех, кто не возглавлял исследовательскую группу), и признанных ученых, которые возглавляли исследовательские группы. Так было обнаружено, что младшие ученые, которые использовали ИИ, имели на 32% больше шансов потом возглавить исследовательскую группу. Они продвигались к этому этапу своей карьеры гораздо быстрее, по сравнению с их коллегами без ИИ, которые с большей вероятностью вообще оставили академическую науку.
Далее авторы использовали модели искусственного интеллекта, чтобы классифицировать темы, охваченные исследованиями с искусственным интеллектом и без него, а также исследовать, как различные типы работ цитируют друг друга и стимулируют ли они новые направления исследований.
Выяснилось, что во всех шести научных областях исследователи, которые использовали ИИ, "сократили" тематическую базу на 5 процентов по сравнению с исследователями, которые не применяли ИИ.
В сфере исследований с использованием искусственного интеллекта также доминировали работы "суперзвезд". Примерно 80 процентов всех ссылок в этой категории приходилось на 20 процентов наиболее цитируемых работ, а 95 процентов всех ссылок - на 50 процентов наиболее цитируемых работ, что означает, что около половины исследований, проведенных с помощью ИИ, очень редко или вообще никогда не цитировались снова.
Аналогично, Эванс и его соавторы - Фэнгли Сюй, Юн Ли и Цяньюэ Хао - обнаружили, что исследования с искусственным интеллектом вызвали на 24% меньше последующих публикаций, которые развивали тему, чем исследования без ИИ.
Эти результаты свидетельствуют о том, что ИИ в науке стал более сконцентрированным вокруг конкретных горячих тем, которые становятся "одинокими толпами" с пониженным взаимодействием между работами. Такая концентрация приводит к большему совпадению идей, а также сокращению объема и разнообразия знаний в науке,
– пишут авторы исследования.
Джеймс Эванс, который специализируется на изучении того, как люди учатся и проводят исследования, говорит, что эффект сокращения научных исследований подобен тому, что произошел с появлением интернета и переходом академических журналов в онлайн. В 2008 году он опубликовал статью в журнале Science, в которой показал, что с переходом издателей на цифровые технологии изменились типы исследований, на которые ссылаются исследователи. Они цитировали меньше работ из меньшей группы журналов и отдавали предпочтение новым исследованиям.