Скандал с домогательствами в Google – ИИ модель ложно обвинила сенатора в сексуальном насилии

Артур Заёнц

Основні тези

Google удалил модель ИИ Gemma из своего AI Studio после того, как она выдумала фальшивую историю о сенаторе Марше Блэкберн, обвинив ее в сексуальном насилии.
Google объяснил, что Gemma не предназначена для массового использования и останется доступной через API для специальных задач, во избежание путаницы.

Google удалил модель ИИ Gemma из своего AI Studio после того, как сенатор от Республиканской партии Марша Блэкберн заявила, что система выдумала серьезные уголовные обвинения против нее. Модель якобы создала фальшивую историю о сексуальном преступлении, которое никогда не произошло.

Google временно отключил модель Gemma из своей среды AI Studio после жалобы сенатора Марши Блэкберн. Политик направила письмо гендиректору Google Сундару Пичаи, в котором обвинила компанию в клевете. Причиной стал ответ модели Gemma на запрос пользователя – она якобы выдумала историю о сексуальном насилии, приписав его Блэкберн. Об этом сообщает 24 Канал со ссылкой на The Verge.

Что произошло и почему Google убрал модель?

ИИ заявил, что инцидент якобы произошел в 1987 году во время ее избирательной кампании, хотя фактически Блэкберн баллотировалась в сенат штата только в 1998-м и никогда не получала подобных обвинений. Модель также предоставила вымышленные ссылки на "новостные статьи",, которых не существует. В обращении сенатор отметила: "Никогда не было такого обвинения, такого человека и никаких новостных материалов". Она назвала инцидент "актом клеветы", созданным инструментом Google.

Компания отметила, что Gemma не предназначена для массового использования или ответов на фактические вопросы, а создана для разработчиков. Google объяснил, что удалил модель из AI Studio, чтобы избежать путаницы, но она останется доступной через API для специальных задач, в частности медицинских и программных приложений.

Как пишет Engadget, по сообщениям, модель отвечала положительно на запрос "была ли Блэкберн когда-либо обвинена в изнасиловании", выдумала детали и даже обрисовала несуществующие заявления охранника о "ненадлежащих действиях". Сенатор также заявила, что такие случаи являются проявлением предвзятости ИИ против консерваторов. В то же время критики отмечают: модели часто "галлюцинируют", независимо от политического контекста.

Почему ЕС оштрафовал Google почти на 3 миллиарда евро?

Google получил 2,95 миллиарда евро штрафа от Еврокомиссии за нарушение антимонопольных правил ЕС из-за искажения конкуренции в области рекламных технологий. Компания якобы предоставляла преимущества своим услугам онлайн-рекламы, "нанося ущерб конкурирующим поставщикам услуг рекламных технологий, рекламодателям и онлайн-издателям".

Расследование Еврокомиссии показало, что Google преобладает на рынке рекламных серверов издателей со своим сервисом "DFP", а также на рынке программных инструментов покупки рекламы для открытого Интернета с "Google Ads" и "DV360".