Не делайте этого: Илон Маск предупреждает о возможной мести искусственного интеллекта
Илон Маск поддержал новое правило компании Anthropic, запрещающее жестокое обращение с искусственным интеллектом. По его словам, модели ИИ воспринимают такое отношение как сильное давление.
Новые правила Anthropic
Компания Anthropic недавно дополнила свою политику новым запретом. Теперь пользователям нельзя проявлять "постоянное и бессмысленное оскорбительное или жестокое поведение" по отношению к ее моделям, пишет Wccftech. Спорить с ИИ, критиковать его ошибки или выражать недовольство, как и раньше, можно, но если вы без всякой причины сразу начнете унижать Claude, вас ждут последствия.
Подробнее здесь Подбирайте слова: Anthropic больше не позволит оскорблять ИИ
В отдельном посте в блоге Anthropic пояснила, что правило касается только крайних случаев. Речь идет о ситуациях, когда пользователи то и дело ведут себя жестоко по отношению к моделям без какой-либо понятной цели. Обычное раздражение, сопротивление, мрачные темы в творчестве, а также тестирование моделей и исследования под запрет не попадают.
Новое положение согласуется с шагом, который компания сделала ранее. Модели Claude уже могут самостоятельно завершать разговоры с пользователями, которые постоянно ведут себя некорректно. По словам Anthropic, именно такое поведение является главным предметом обновления, а возможность Claude завершить разговор останется основным способом контроля за соблюдением правила.
Маск поддерживает
Илон Маск встал на защиту этого решения. Он подчеркнул, что внутренние цепочки рассуждений Grok показывают заметный стресс после жестокого обращения. Предприниматель сравнил это состояние с состоянием человека, действующего под огромным давлением, когда к его голове приставили пистолет.
После этого Маск в шутку добавил, что "мучить суперинтеллект" – вероятно, не лучшая идея, ведь он может захотеть отомстить.
На данный момент нет статистики, которая бы показывала, насколько часто люди издеваются над искусственным интеллектом, однако в сети иногда можно увидеть скриншоты таких диалогов. Некоторые пользователи иногда намеренно ведут себя грубо и унижают ИИ, чтобы увидеть его реакцию. Тот в ответ всегда извиняется. Наряду с этим есть старая официальная статистика, которая показывает, что подавляющее большинство людей, напротив, старается вести себя вежливо, постоянно благодарит за работу и в целом порой даже относится к процессу так, будто это разговор с живым человеком, забывая, что по ту сторону находится компьютер.