Скандал з домаганнями в Google – ШІ модель хибно звинуватила сенаторку в сексуальному насильстві
- Google видалив модель ШІ Gemma зі свого AI Studio після того, як вона вигадала фальшиву історію про сенаторку Маршу Блекберн, звинувативши її в сексуальному насильстві.
- Google пояснив, що Gemma не призначена для масового використання і залишиться доступною через API для спеціальних задач, щоб уникнути плутанини.
Google видалив модель ШІ Gemma зі свого AI Studio після того, як сенаторка від Республіканської партії Марша Блекберн заявила, що система вигадала серйозні кримінальні обвинувачення проти неї. Модель нібито створила фальшиву історію про сексуальний злочин, який ніколи не стався.
Google тимчасово відключив модель Gemma зі свого середовища AI Studio після скарги сенаторки Марші Блекберн. Політик направила листа гендиректору Google Сундару Пічаї, в якому звинуватила компанію в наклепі. Причиною став відповідь моделі Gemma на запит користувача – вона нібито вигадала історію про сексуальне насильство, приписавши його Блекберн. Про це повідомляє 24 Канал із посиланням на The Verge.
Дивіться також Прощавай, PowerPoint: Gemini від Google тепер допоможе створювати вам презентації
Що сталося і чому Google прибрав модель?
ШІ заявив, що інцидент буцімто стався у 1987 році під час її виборчої кампанії, хоча фактично Блекберн балотувалася до сенату штату лише у 1998-му і ніколи не отримувала подібних звинувачень. Модель також надала вигадані посилання на "новинні статті", яких не існує. У зверненні сенаторка зазначила: "Ніколи не було такого звинувачення, такої людини і жодних новинних матеріалів". Вона назвала інцидент "актом наклепу", створеним інструментом Google.
Компанія зазначила, що Gemma не призначена для масового використання чи відповідей на фактичні запитання, а створена для розробників. Google пояснив, що видалив модель з AI Studio, щоб уникнути плутанини, але вона залишиться доступною через API для спеціальних задач, зокрема медичних і програмних застосунків.
Як пише Engadget, за повідомленнями, модель відповідала позитивно на запит "чи була Блекберн колись звинувачена у зґвалтуванні", вигадала деталі і навіть змалювала неіснуючі заяви охоронця про "неналежні дії". Сенаторка також заявила, що такі випадки є проявом упередженості ШІ проти консерваторів. Водночас критики наголошують: моделі часто "галюцинують", незалежно від політичного контексту.
Чому ЄС оштрафував Google майже на 3 мільярди євро?
Google отримав 2,95 мільярда євро штрафу від Єврокомісії за порушення антимонопольних правил ЄС через спотворення конкуренції в галузі рекламних технологій. Компанія нібито надавала переваги своїм послугам онлайн-реклами, "завдаючи шкоди конкуруючим постачальникам послуг рекламних технологій, рекламодавцям та онлайн-видавцям".
Розслідування Єврокомісії показало, що Google переважає на ринку рекламних серверів видавців зі своїм сервісом "DFP", а також на ринку програмних інструментів купівлі реклами для відкритого Інтернету із "Google Ads" та "DV360".