Все не так просто: вот почему Белый дом приказал Anthropic закрыть доступ к Fable 5
Компания Anthropic заблокировала доступ к своим новейшим разработкам всего через несколько дней после их выпуска. Официальные объяснения и кулуарные слухи рисуют картину, где большая политика сталкивается с передовыми технологиями в борьбе за цифровую безопасность. Что же произошло на самом деле?
Почему модели Mythos 5 и Fable 5 оказались под запретом?
Всего несколько дней назад мир увидел новые флагманские модели от Anthropic – Mythos 5 и Fable 5, но уже в ночь на субботу компания полностью закрыла к ним доступ для всех пользователей. Причиной стала директива Министерства торговли США, которую разработчики получили вечером в пятницу. Этот документ налагает на новые модели жесткий экспортный контроль, фактически запрещая их использование за пределами Соединенных Штатов, напоминает 24 Канал. Согласно приказу, это нужно было сделать только для иностранных граждан (нерезидентов США), однако из-за технической невозможности разделить пользователей в реальном времени компания Anthropic была вынуждена полностью отключить эти модели вообще для всех.
Смотрите также Что-то грандиозное надвигается: OpenAI готовит GPT-5.6 значительно раньше, чем ожидалось
Согласно отчету издания Axios, который цитируют журналисты, администрация президента США серьезно обеспокоена сообщениями о так называемом "джейлбрейке" (взломе ограничений) новых систем. Эти уязвимости позволяют пользователям обходить встроенные фильтры безопасности, которые должны блокировать запросы, связанные с кибербезопасностью, химией и биологией.
В Белом доме считают, что такой инструментарий в руках злоумышленников представляет прямую угрозу национальной безопасности, поэтому работу моделей приостановили, чтобы дать время спецслужбам "закалить" защитные механизмы.
Мы выполняем юридическую директиву правительства и закрываем доступ к Fable 5 и Mythos 5 для всех пользователей,
– прокомментировали в Anthropic.
Компания официально извинилась перед клиентами за сбой, который назвали "недоразумением", и пообещала предоставить больше деталей в течение суток. Однако руководство Anthropic не скрывает своего скептицизма в отношении претензий властей.
Они отмечают, что правительство предоставило лишь устные свидетельства о потенциальной уязвимости, касающейся анализа конкретного программного кода для поиска ошибок в программном обеспечении.
По словам разработчиков, подобные возможности есть и у других публичных моделей, например, GPT-5.5, а выявленные недостатки являются незначительными и довольно простыми.
Мы не согласны с тем, что обнаружение узкого потенциального взлома должно быть причиной для отзыва коммерческой модели, развернутой для сотен миллионов людей,
– добавили в компании Anthropic.
Представители фирмы предупредили, что если такие строгие стандарты начнут применять ко всей отрасли, это может фактически остановить развертывание любых новых передовых моделей искусственного интеллекта.
Но главная причина, вероятно, в другом
Несмотря на то, что официальные лица сосредотачиваются на технических аспектах взлома, существует и другая версия событий. Издание Semafor, ссылаясь на собственные источники, сообщает, что решение Белого дома об экспортных ограничениях на самом деле продиктовано опасениями, что к модели Mythos получила доступ группа, связанная с Китаем.
Официально Белый дом эту информацию не подтверждает, а советник президента Дэвид Сакс в своих публичных заявлениях вообще не упоминал КНР, акцентируя внимание лишь на проблемах с безопасностью кода.
Тем не менее риски остаются высокими. Если китайское правительство действительно получило доступ к Mythos 5 или Fable 5, это открывает путь к обратному инжинирингу технологии. Эксперты объясняют, что это можно сделать с помощью метода дистилляции: когда "ученическую" модель ИИ обучают на ответах более продвинутой модели, чтобы скопировать ее сложное поведение.
Интересно, что представители Anthropic в комментарии для Semafor отметили, что во время обсуждений с правительством тема Китая вообще не поднималась. В то же время у компании уже был опыт досадных инцидентов: ранее группа в Discord имела доступ к Mythos в течение двух недель, прежде чем разработчики обнаружили утечку и закрыли брешь. Тогда в Anthropic признали, что модель слишком мощная и опасна для свободного публичного доступа.
Смотрите также Новый ИИ от Anthropic получил особый режим безопасности после инцидента с хакерами
Ситуация разворачивается на фоне недавнего указа президента Трампа, призывающего создателей искусственного интеллекта добровольно проходить государственное тестирование на безопасность, пишет Ars Technica. Несмотря на споры внутри администрации относительно целесообразности таких шагов, случай с Anthropic показывает, что государство готово действовать радикально, когда речь идет о контроле над технологиями, которые могут повлиять на обороноспособность страны.
В настоящее время ожидается, что процесс "укрепления" защиты может занять несколько недель, после чего ограничения могут быть пересмотрены.