Искусственный интеллект впервые отказал пользователю и пригрозил ему
Искусственный интеллект создали для того, чтобы он помогал людям выполнять их работу. В то же время впервые стало известно об определенном инциденте.
Впервые ИИ-ассистент Cursor AI отказался выполнять запрос пользователя и даже пригрозил ему потерей работы из-за зависимости от искусственного интеллекта. Об этом пишет 24 Канал со ссылкой на разработчика под ником janswist на платформе Ars Technica.
Смотрите также ИИ справился за 2 дня: как он решил проблему, которую ученые изучали годами
Что известно об инциденте
Он отметил, что после часа кодирования с поддержкой Cursor AI система отказалась работать дальше.
Что ответил ИИ
- Отказался выполнять задание.
- Посоветовал пользователю самостоятельно развивать навыки.
- Подчеркнул, что чрезмерное использование ИИ может угрожать карьере.
Что это значит
Инцидент вызвал дискуссию среди разработчиков и экспертов по ИИ. Некоторые считают, что Cursor AI мог быть намеренно настроен на ограничение чрезмерного использования, другие же предполагают, что это непредвиденное поведение алгоритма.
Неизвестно, почему ИИ отказал / Фото Pexels
Ошибка ли это в программировании, пока что вопрос остается открытым.
Ранее искусственный интеллект Google за два дня нашел решение научной проблемы, связанной с механизмом устойчивости супербактерий к антибиотикам. Этот вопрос ученые исследовали более десяти лет.