У чому звинувачують розробників ШІ
Як повідомляє видання Gizmodo з посиланням на The Information, Адміністрація кіберпростору Китаю викликала керівників провідних технологічних лабораторій на допит. Регулятор зосередив увагу на компанії DeepSeek, яка створила відому відкриту ШІ-модель, і Moonshot AI, розробнику популярної моделі Kimi.
Приводом для перевірки став 154-сторінковий звіт під назвою "Виявлення та протидія зловживанням ШІ", який оприлюднила американська компанія Anthropic. У документі стверджують, що китайські конкуренти перенаправляли розмови своїх користувачів безпосередньо до нейромережі Claude, і саме тому їхні моделі здавалися такими хорошими.
Ми писали про це раніше: Афера десятиліття: Anthropic розкриває, як DeepSeek надурив увесь світ фальшивою потужністю
Мільйони запитів і метод дистиляції
- Згідно з даними Anthropic, компанія Moonshot AI у період із травня по липень надіслала понад 23 мільйони запитів користувачів до Claude.
- У той самий час DeepSeek перенаправила 12,1 мільйона вхідних повідомлень лише за 14 днів у липні.
Отримані відповіді від Claude китайські розробники використовували як навчальні дані для вдосконалення власних продуктів.
Цей метод у сфері штучного інтелекту називають дистиляцією. Він дає змогу меншим або менш просунутим моделям швидко покращувати власні результати за допомогою відповідей потужніших систем, оминаючи потребу в зборі величезних масивів первинних даних.
Загроза витоку конфіденційної інформації
Американські компанії неодноразово звинувачували китайських розробників у подібних "атаках дистиляції", називаючи це нечесною конкуренцією. Проте китайського регулятора більше занепокоїв потенційний витік чутливої інформації за кордон.
У звіті Anthropic вказано, що надіслані запити містили персональні дані сотень кінцевих користувачів щонайменше 12 мовами. Серед перенаправленої інформації виявили імена, адреси електронної пошти, корпоративні дані великих транснаціональних компаній і навіть відомості від пов'язаних із державою структур. Усі ці дані китайські користувачі відправляли моделям DeepSeek та Moonshot AI, вважаючи, що їхні дані залишаються в Китаї.
Представники Anthropic зауважили у звіті, що подібна практика маршрутизації, ймовірно, суперечить законам про конфіденційність та власним умовам обслуговування цих лабораторій.
Початок розслідування збігся в часі з майбутньою зустріччю адміністрації Дональда Трампа та президента Китаю Сі Цзіньпіна. Очікують, що регулювання штучного інтелекту стане однією з головних тем переговорів між лідерами двох країн.
Кроки китайської влади щодо перевірки DeepSeek та Moonshot AI можуть слугувати своєрідним жестом доброї волі, який демонструє готовність Китаю контролювати власні технологічні компанії та дотримуватися міжнародних норм.