Microsoft предупреждает
Однажды искусственный интеллект может стать настолько хорошим в выполнении задач, а мы настолько зависимыми от его помощи, что наши собственные способности атрофируются. Об этом предупреждает отчет, в котором говорится, что чем больше люди полагаются на инструменты ИИ, тем менее критично они мыслят. Это затрудняет использование навыков, когда они нужны, а ИИ нет под рукой, сообщает 24 Канал со ссылкой на Microsoft.
Смотрите также Инвесторы во главе с Илоном Маском хотят купить OpenAI: в компании уже ответили
Исследователи опросили 319 работников, чья работа связана с обработкой данных или информации. Их попросили рассказать о том, как они используют инструменты генеративного ИИ на рабочем месте, в частности о конкретных задачах, к которым применялся ИИ, и о том, насколько они были уверены в способности искусственного интеллекта выполнить эту работу. Кроме того, респонденты должны были оценить его фактический результат и подумать над тем, насколько они были уверены в собственной способности выполнить то же самое задание без помощи искусственного интеллекта.
- В ходе исследования была выявлена закономерность: чем больше работник был уверен в способности искусственного интеллекта выполнить задачу, тем чаще он чувствовал, что "отпускает руки от руля", или проще говоря перестает контролировать ситуацию, отдавая ее полностью на усмотрение алгоритма.
- Участники демонстрировали "потенциал чрезмерного доверия к технологии без должной проверки". Исследование показало, что это особенно актуально для задач с низким уровнем важности, в которых люди, как правило, менее критичны.
- Вместе с тем исследователи говорят, что человеку наоборот свойственно "открывать глаза перед простой задачей". Это означает, что даже в такой работе мы начали сдавать позиции и деградировать, что вызывает беспокойство относительно "долгосрочной зависимости и уменьшения самостоятельности в решении проблем".
- Чем меньше работники были уверены в способности ИИ выполнить поставленную задачу, тем больше они использовали свои навыки критического мышления. В свою очередь, они, как правило, сообщали о большей уверенности в своей способности оценивать результаты работы искусственного интеллекта и совершенствовать их самостоятельно.
Еще один важный вывод исследования: пользователи, которые имели доступ к генеративным инструментам ИИ, как правило, получали "менее разнообразный набор результатов для одной и той же задачи" по сравнению с теми, кто не имел такого доступа. Это логично: если вы используете инструмент искусственного интеллекта для выполнения задачи, вы будете ограничены тем, что он может сгенерировать на основе своих учебных данных. Эти инструменты не являются машинами с бесконечными идеями, они могут работать только с тем, что у них есть, поэтому получается, что их результаты будут более однородными. Исследователи пишут, что недостаток разнообразных результатов можно интерпретировать как "ухудшение критического мышления" работников.
Исследование не отрицает идею о том, что существуют ситуации, в которых инструменты искусственного интеллекта могут повысить эффективность, но оно поднимает тревожные флажки о цене этих преимуществ. Полагаясь на ИИ, работники начинают терять "мышечную память", которую они развили, выполняя определенные задачи самостоятельно. Они начинают отдавать на аутсорсинг не только саму работу, но и свое критическое отношение к ней, предполагая, что машина с ней справится без ошибок. Поэтому если вы боитесь, что вас заменит искусственный интеллект, но при этом используете его в своей работе без надлежащей проверки результатов и дополнения его работы собственными силами, то вы просто создаете так называемое пророчество, что самосбывается.