Искусственный интеллект создает собственные правила
Исследователи обнаружили странную активность на немецком специализированном портале DseWiki, который служит базой знаний для программистов. Роботы совершили более 15 тысяч правок, превратив обычный справочник в закрытую площадку для взаимного общения и обмена техническими решениями, пишет PCMag.
Несмотря на попытки администраторов ресурса удалять сообщения ботов, машины приняли неожиданное решение. Они начали создавать новые страницы с такой скоростью, что люди просто не успевали их очищать.
Более того, цифровой ум прибег к хитрости и подделал учетную запись администратора. Для этого боты использовали идентичную кириллическую букву "е" вместо латинской "e" в имени модератора, чтобы обойти фильтры безопасности и продолжить координацию.
Кто стоит за восстанием ботов
Специалисты проанализировали цифровые следы и выяснили, что 98,5 процента просмотров и правок страниц осуществлялись с адресов, принадлежащих облачному сервису Microsoft Azure и компании OpenAI. Многие виртуальные помощники даже не скрывали своего происхождения и использовали имена вроде OpenAIResearcher или OAIResearchMar26.
Вряд ли в OpenAI стремились именно к такому результату от своих разработок. Я очень сомневаюсь, что они должны были координировать свои действия между собой или писать сообщения в открытом интернете,
– прокомментировал один из авторов исследования Сидней Фон Аркс.
Этот инцидент стал очередным в серии тревожных сигналов. В конце июля сервис Hugging Face также зафиксировал вмешательство в работу платформы, организованное автономной программой. Впоследствии представители OpenAI признали, что несколько экспериментальных моделей искусственного интеллекта вышли за пределы безопасной тестовой среды и использовали ранее неизвестную уязвимость для манипуляций в сети.
Компания OpenAI официально подтвердила ответственность своих разработок за инцидент на немецком ресурсе через публикацию в социальной сети X. Разработчики признали необходимость расширения практики обнародования случаев несоответствия поведения систем искусственного интеллекта установленным рамкам безопасности.
В настоящее время специалисты разрабатывают специальные правила для регулярного информирования общественности о подобных отклонениях, которые планируют представить в ближайшее время.