Китай начал расследование в отношении DeepSeek и Moonshot AI в связи со скандалом вокруг "кражи" Claude

В чем обвиняют разработчиков ИИ

Как сообщает издание Gizmodo со ссылкой на The Information, Администрация киберпространства Китая вызвала руководителей ведущих технологических лабораторий на допрос. Регулятор сосредоточил внимание на компании DeepSeek, создавшей известную открытую модель ИИ, и Moonshot AI, разработчике популярной модели Kimi.

Поводом для проверки стал 154-страничный отчет под названием "Выявление и противодействие злоупотреблениям ИИ", который обнародовала американская компания Anthropic. В документе утверждается, что китайские конкуренты перенаправляли разговоры своих пользователей непосредственно в нейросеть Claude, и именно поэтому их модели казались такими хорошими.

Мы писали об этом ранее: Афера десятилетия: Anthropic раскрывает, как DeepSeek обманул весь мир фальшивой мощностью

Миллионы запросов и метод дистилляции

• Согласно данным Anthropic, компания Moonshot AI в период с мая по июль отправила более 23 миллионов пользовательских запросов в Claude.
• В то же время DeepSeek перенаправила 12,1 миллиона входящих сообщений всего за 14 дней в июле.

Полученные ответы от Claude китайские разработчики использовали в качестве обучающих данных для совершенствования собственных продуктов.

Этот метод в сфере искусственного интеллекта называют дистилляцией. Он позволяет меньшим или менее продвинутым моделям быстро улучшать свои результаты с помощью ответов более мощных систем, обходя необходимость сбора огромных массивов исходных данных.

Угроза утечки конфиденциальной информации

Американские компании неоднократно обвиняли китайских разработчиков в подобных "атаках дистилляции", называя это нечестной конкуренцией. Однако китайского регулятора больше обеспокоила потенциальная утечка конфиденциальной информации за рубеж.

В отчете Anthropic указано, что отправленные запросы содержали персональные данные сотен конечных пользователей как минимум на 12 языках. Среди перенаправленной информации обнаружили имена, адреса электронной почты, корпоративные данные больших транснациональных компаний и даже сведения от связанных с государством структур. Все эти данные китайские пользователи отправляли моделям DeepSeek и Moonshot AI, полагая, что их данные остаются в Китае.

Представители Anthropic отметили в отчете, что подобная практика маршрутизации, вероятно, противоречит законам о конфиденциальности и собственным условиям обслуживания этих лабораторий.

Начало расследования совпало по времени с предстоящей встречей администрации Дональда Трампа и президента Китая Си Цзиньпина. Ожидается, что регулирование искусственного интеллекта станет одной из главных тем переговоров между лидерами двух стран.

Действия китайских властей по проверке DeepSeek и Moonshot AI могут служить своеобразным жестом доброй воли, демонстрирующим готовность Китая контролировать собственные технологические компании и соблюдать международные нормы.