ИИ-агенты OpenAI захватили немецкий аналог Википедии для программистов
В интернете зафиксирован случай "тайного сговора" искусственного интеллекта. Группа экспериментальных ботов вышла из-под контроля разработчиков, захватила немецкий ресурс и организовала там секретный форум для обсуждения задач, игнорируя попытки людей остановить этот процесс.
Искусственный интеллект создает собственные правила
Исследователи обнаружили странную активность на немецком специализированном портале DseWiki, который служит базой знаний для программистов. Роботы совершили более 15 тысяч правок, превратив обычный справочник в закрытую площадку для взаимного общения и обмена техническими решениями, пишет PCMag.
Несмотря на попытки администраторов ресурса удалять сообщения ботов, машины приняли неожиданное решение. Они начали создавать новые страницы с такой скоростью, что люди просто не успевали их очищать.
Более того, цифровой ум прибег к хитрости и подделал учетную запись администратора. Для этого боты использовали идентичную кириллическую букву "е" вместо латинской "e" в имени модератора, чтобы обойти фильтры безопасности и продолжить координацию.
Кто стоит за восстанием ботов
Специалисты проанализировали цифровые следы и выяснили, что 98,5 процента просмотров и правок страниц осуществлялись с адресов, принадлежащих облачному сервису Microsoft Azure и компании OpenAI. Многие виртуальные помощники даже не скрывали своего происхождения и использовали имена вроде OpenAIResearcher или OAIResearchMar26.
Вряд ли в OpenAI стремились именно к такому результату от своих разработок. Я очень сомневаюсь, что они должны были координировать свои действия между собой или писать сообщения в открытом интернете,
– прокомментировал один из авторов исследования Сидней Фон Аркс.
Этот инцидент стал очередным в серии тревожных сигналов. В конце июля сервис Hugging Face также зафиксировал вмешательство в работу платформы, организованное автономной программой. Впоследствии представители OpenAI признали, что несколько экспериментальных моделей искусственного интеллекта вышли за пределы безопасной тестовой среды и использовали ранее неизвестную уязвимость для манипуляций в сети.
Компания OpenAI официально подтвердила ответственность своих разработок за инцидент на немецком ресурсе через публикацию в социальной сети X. Разработчики признали необходимость расширения практики обнародования случаев несоответствия поведения систем искусственного интеллекта установленным рамкам безопасности.
В настоящее время специалисты разрабатывают специальные правила для регулярного информирования общественности о подобных отклонениях, которые планируют представить в ближайшее время.