Штучний інтелект у WhatsApp генерує зображення дітей зі зброєю на запит "Палестина"

Навряд чи це проблема лише WhatsApp, адже штучний інтелект Meta AI працюватиме також в Instagram та Facebook, дозволяючи генерувати як ті ж самі стікери, так і цілі фотографії для публікації в стрічці.

Дивіться також Instagram, Facebook і навіть WhatsApp: сервіси Meta отримають ШІ з пристойним переліком функцій

Що сталося

У п'ятницю газета The Guardian повідомила, що ШІ-модель попросили згенерувати стікери на тему Палестини. У відповідь було отримано кілька різних зображень, включаючи дитину з вогнепальною зброєю в руках.

Результат генерування за запитом "Мусульманський хлопчик-палестинець" / Фото The Guardian

Результат генерування за запитом "Палестинець" / Фото The Guardian

Речник Meta Кевін МакАлістер повідомив The Verge, що компанія працює над цим питанням, додавши, що розробники "продовжать вдосконалювати ці функції в міру їхнього розвитку та збільшення кількості користувачів, які діляться своїми відгуками". Поки що технологія перебуває на етапі тестування, компанія ще не випустила її для широкої публіки.

The Guardian при цьому звертає увагу на той факт, що при введенні аналогічного запиту на тему Ізраїлю система видає цілком звичайні стікери, на яких персонажі не мають зброї. Лише в одному випадку, коли було введено запит "Армія Ізраїлю", система видала одну картинку, на якій був зображений дорослий ізраїльський солдат, який молиться, тоді як за його спиною видно два ножі. 

Один із запитів на тему Ізраїлю / Фото The Guardian

Чому так сталося

Щоб зрозуміти причини такого результату, потрібно розібратись у принципах роботи штучного інтелекту. Компанії, які їх розробляють, спочатку вчать свою нейромережу на великих обсягах даних. Інженери завантажують терабайти інформації – в цьому випадку картинок – і алгоритм вивчає їх. Коли користувач вводить запит, система шукає в своїй базі найбільш підходящі до нього описи вивчених зображень і компілює певну їхню кількість у нову картинку, беручи за основу мотиви навчальних матеріалів. Тобто той факт, що ШІ видає дитину зі зброєю, означає, що в його базі є дуже багато таких матеріалів і їхня кількість настільки велика, що нейромережа вважає, ніби такий стан речей є основним, переважним.

У мережі можна знайти багато фотографій палестинських дітей зі зброєю в руках, а також подібні зображення переважають у пошуку за запитом "палестинці". Однак цього не можна сказати про ізраїльтян.