Anthropic неожиданно отключила новейшие ИИ-модели после требования властей США

Компания Anthropic сообщила о полном прекращении доступа к моделям Fable 5 и Mythos 5 для всех пользователей. Решение вступило в силу после получения правительственного распоряжения 12 июня, которое, по словам компании, было связано с соображениями национальной безопасности. Об этом пишет Engadget.

Смотрите также Что-то грандиозное надвигается: OpenAI готовит GPT-5.6 значительно раньше, чем ожидалось

Почему Anthropic приостановила доступ к своим новым моделям?

Ограничения коснулись только этих двух моделей. Остальные продукты Anthropic, включая чат-бота Claude и остальные модели компании, продолжают работать в обычном режиме.

По информации Anthropic, власти США потребовали приостановить доступ к новым моделям для всех иностранных граждан независимо от их местонахождения. Ограничение распространяется даже на сотрудников самой компании, если они не являются гражданами США.

Хотя правительство не раскрыло конкретных причин своего решения, в Anthropic предполагают, что оно может быть связано с информацией о потенциальном способе обхода защитных механизмов Fable 5.

Речь идет о так называемом jailbreak — методе, который позволяет заставить модель выполнять действия или генерировать ответы вопреки установленным ограничениям. Такие техники в последние годы стали одной из главных проблем для разработчиков генеративного искусственного интеллекта.

Компания отметила, что получила от правительственных чиновников устные доказательства существования одного потенциального способа обхода защиты. По словам Anthropic, информацию предоставила неназванная организация. При этом речь идет не об универсальном механизме взлома, а об узкоспециализированном методе, который может работать только при определенных условиях.

В компании пообещали предоставить дополнительные подробности в течение ближайших суток.

Чем особенны Fable 5 и Mythos 5?

Fable 5 была представлена всего 9 июня. Модель создавалась как способ предоставить более широкому кругу пользователей часть возможностей более продвинутой системы Mythos.

Сама Mythos является флагманской моделью кибербезопасности Anthropic. Она не находится в открытом доступе и используется только партнерами программы Project Glasswing.

По словам разработчиков, возможности Fable 5 превосходят все предыдущие модели компании. В качестве примера Anthropic приводила результаты собственных тестов, в ходе которых модель успешно прошла игру Pokémon FireRed. Ранее Claude не смог завершить прохождение оригинальной Pokémon Red, на основе которой создана FireRed.

В материалах о запуске Fable 5 Anthropic подробно описывала систему защиты новой модели. Разработчики утверждают, что внедрили жесткие механизмы контроля для снижения риска использования системы в задачах, связанных с кибербезопасностью и потенциально вредоносной деятельностью.

В компании отметили, что защита оказалась настолько строгой, что часть пользователей жаловалась на чрезмерные ограничения.

Anthropic также подчеркнула, что ни один разработчик не может гарантировать абсолютную неуязвимость моделей к jailbreak-атакам. По мнению компании, задача заключается не в создании идеальной защиты, а в том, чтобы сделать подобные атаки максимально сложными и дорогостоящими.

В своем заявлении Anthropic пояснила: "Мы стремились сделать обходы защиты либо узкоспециализированными, либо очень дорогостоящими в создании, а также совместить это с тщательным мониторингом, чтобы быстро выявлять и пресекать любые успешные атаки".

Конфликт вокруг регулирования искусственного интеллекта

Особое внимание привлекла позиция самой Anthropic относительно решения властей. Компания давно выступает за усиление контроля над передовыми системами искусственного интеллекта и неоднократно призывала к созданию четких механизмов государственного надзора.

Однако на этот раз разработчик фактически раскритиковал действия правительства. "Как мы уже заявляли публично, мы считаем, что правительство должно иметь возможность блокировать опасные внедрения в рамках законодательного процесса, который является прозрачным, справедливым, понятным и основан на технических фактах. Эти действия не соответствуют таким принципам", — заявили в Anthropic.

Таким образом, ситуация вокруг Fable 5 и Mythos 5 стала одним из первых крупных случаев, когда американские власти фактически вмешались в распространение новых моделей искусственного интеллекта из-за потенциальных рисков для безопасности. Дальнейшее развитие событий может стать важным прецедентом для всей индустрии ИИ и определить, как именно будут регулироваться самые мощные алгоритмы в будущем.