Суд разрешил Пентагону заблокировать Anthropic из-за ограничений Claude

Апелляционный суд округа Колумбия в США 25 сентября постановил, что Министерство обороны имело законные полномочия включить технологии Anthropic в перечень поставщиков, представляющих риск для цепочки поставок. Об этом пишет ARStechnica.

Почему Пентагон решил заблокировать Anthropic?

Решение приняла коллегия из трех судей со счетом 2:1. Суд рассматривал сложный вопрос о том, насколько американские военные могут полагаться на мощные системы искусственного интеллекта, если разработчик заранее ограничивает часть их возможностей.

Конфликт между Anthropic и администрацией Дональда Трампа возник из-за правил использования Claude. Компания не соглашалась разрешить применение своих моделей для некоторых военных задач, в частности для автономного применения летальной силы и массовой слежки за американцами.

В марте Anthropic подала иск против администрации США после того, как федеральное правительство приказало государственным учреждениям прекратить использование ее продуктов, а оборонным подрядчикам – не вести дела с компанией.

Теперь апелляционный суд поддержал позицию Пентагона. Судьи отметили, что администрация имела право учитывать риск того, что ограничения Anthropic могут помешать использованию Claude в военных операциях.

Суд признал риском не только возможный взлом

Ключевой спор в деле касается значения понятия "риск для цепочки поставок".

Anthropic утверждала, что соответствующее законодательство касается прежде всего ситуаций, когда поставщик или другая сторона намеренно пытается саботировать систему, похитить данные или иным образом нанести ущерб государственной инфраструктуре.

Однако большинство судей апелляционной инстанции применило иную трактовку законодательства. Суд обратил внимание на то, что одна из норм, 41 U.S.C. § 4713, определяет потенциальный риск шире. В ней говорится о возможности того, что "любое лицо" может изменить работу технологического продукта таким образом, чтобы наблюдать за ним, блокировать, нарушать или иным образом манипулировать его функционированием.

Само слово "любое", по логике суда, означает, что норма не ограничивается иностранными противниками или сторонами, имеющими враждебные намерения.

Судьи также обратили внимание на слово "отказывать" или "deny". По их мнению, оно может относиться к ситуации, когда Anthropic не позволяет американскому правительству использовать отдельные возможности Claude.

В конечном итоге мы пришли к выводу, что опасения министра относительно того, что Anthropic отключает возможность Claude выполнять законные действия, требуемые Министерством обороны, соответствуют понятию "риска для цепочки поставок" в значении статьи 4713,
– говорится в решении большинства судей.

Апелляционный суд также заявил, что Министерство обороны обоснованно опасалось, что Anthropic может изменить Claude таким образом, чтобы модель не выполняла функции, которые военное ведомство считает разрешенными по контракту и необходимыми для национальной безопасности.

Речь идет о преднамеренной угрозе со стороны Anthropic?

Нет. И именно это является одним из центральных моментов решения.

Суд прямо указал, что согласен с выводами другого федерального суда: Anthropic не действовала со злым умыслом в отношениях с Министерством обороны. В то же время апелляционная инстанция постановила, что для применения более широкой нормы закона и признания компании риском для цепочки поставок такой умысел вообще не является необходимым.

"Мы не оспариваем вывод Северного округа о том, что использование термина "противник" вместе с такими словами, как "саботировать", "злонамеренно внедрять" и "иным образом подрывать", свидетельствует о необходимости недобрых намерений для применения статьи 3252. Также мы не оспариваем вывод Северного округа о том, что у Anthropic не было таких злых намерений в отношениях с Министерством", – отметили судьи.

Однако, по их мнению, другая законодательная норма имеет более широкое определение и не требует доказательства умышленного причинения вреда.

Почему суды вынесли разные решения?

Интересно, что два американских суда уже рассматривали фактически один и тот же конфликт и пришли к разным выводам.

В прошлом месяце федеральный суд Северного округа Калифорнии признал действия администрации США незаконными. Судья Рита Лин, назначенная Джо Байденом, постановила, что Anthropic не соответствует критериям поставщика, создающего риск для цепочки поставок.

Ее решение основывалось на статье 10 U.S.C. § 3252. Она предусматривает значительно более узкое понятие риска, связывая его с действиями противника, который может саботировать систему, злонамеренно добавить нежелательную функцию или иным образом подорвать ее работу.

Апелляционный суд не оспорил основной вывод этого суда в отношении статьи 3252. Однако проблема заключалась в том, что американское правительство одновременно применило к Anthropic другую норму – 41 U.S.C. § 4713. Именно ее на этот раз анализировал Апелляционный суд округа Колумбия.

Согласно этой норме суд получил исключительную юрисдикцию для пересмотра соответствующих решений в сфере государственных закупок. И ее формулировка оказалась значительно шире.

Таким образом, два судебных решения не обязательно прямо противоречат друг другу в трактовке одного и того же положения. Они касаются разных законодательных оснований, которые правительство использовало для включения Anthropic в список рискованных поставщиков.

Судьи спорят о пределах закона

Особое мнение по делу высказала судья Карен Хендерсон, которая не согласилась с решением большинства.

Она считает, что формулировки, использованные в статье 4713, следует рассматривать в контексте всего закона. По ее мнению, они касаются умышленного блокирования работы технологического продукта или слежения за ним после того, как он попал в федеральную цепочку поставок.

Хендерсон напомнила, что Конгресс принял эту норму после призывов американской разведки противостоять угрозе со стороны "враждебных государств и других злоумышленников", которые могут проникать в информационные и технологические системы федерального правительства через цепочки поставок. Поэтому, по ее мнению, закон не следует толковать настолько широко, чтобы он распространялся на компанию, которая открыто и честно устанавливает ограничения на использование собственного продукта.

В чем заключался конфликт вокруг Claude?

Anthropic закладывает в Claude ограничения, которые не позволяют модели выполнять определенные задачи.

Апелляционный суд отметил, что эти ограничения уже неоднократно мешали Claude выполнять запросы государственных пользователей. Кроме того, возник спор относительно того, позволяют ли контрактные правила использовать Claude в одной из текущих зарубежных военных операций.

В результате Министерство обороны оказалось в ситуации, когда не могло быть уверенным, что система выполнит необходимое действие именно тогда, когда это потребуется.

Именно эта зависимость военной операции от решений частного разработчика стала важной частью аргументации правительства. Судьи описали проблему как баланс между двумя потенциальными рисками. С одной стороны, чрезмерно ограниченная модель может неожиданно отказаться выполнять необходимую военную функцию. С другой – система без достаточных ограничений может генерировать неприемлемые цели для применения летальной силы.

В решении это сформулировано так:

"Соединенные Штаты поднимают глубоко тревожный вопрос о том, что чрезмерно ограниченные модели ИИ могут неожиданно прекратить работу и тем самым привести к провалу важных военных операций. Anthropic поднимает не менее тревожный вопрос о том, что неограниченные модели ИИ могут придумывать неприемлемые цели для применения летальной военной силы".

Суд отметил, что именно администрация США и министр обороны Пит Хегсет должны определять, как балансировать между этими рисками.

Anthropic может продолжить судебную борьбу

Компания уже заявила, что не согласна с решением апелляционного суда.

"Мы с уважением не согласны с решением суда. Другой федеральный суд уже признал незаконным аналогичное решение правительства. Мы по-прежнему уверены в своей позиции и рассматриваем все возможности, включая дальнейшее пересмотр дела", – заявил представитель Anthropic телеканалу CNBC.

Компания может обратиться ко всему составу судей Апелляционного суда округа Колумбия с просьбой о повторном рассмотрении дела или подать апелляцию в Верховный суд США.

В то же время конфликт между Anthropic и администрацией Трампа уже не выглядит столь однозначным, как в начале судебного спора. Министр торговли США Говард Латник ранее заявлял, что правительство и Anthropic смогли восстановить рабочие отношения и находятся "на одной волне".

Пока что решение апелляционного суда означает, что Пентагон получил судебное подтверждение своих полномочий по блокированию технологий Anthropic на основании более широкой трактовки законодательства о рисках цепочки поставок. В то же время другое федеральное решение, признавшее действия администрации незаконными на основании другой законодательной нормы, остается важной частью этого юридического спора.