Facebook переплутав темношкірих людей з приматами та опинився у центрі скандалу
Джерело:
New York TimesАлгоритм соцмережі Facebook на базі штучного інтелекту звинуватили у расизмі. Річ у тім, що він визначив відео з темношкірими людьми, як відео з приматами. На це звернули увагу користувачі соцмережі, які помітили, що система пропонує "продовжити дивитися відео про приматів".
Реакція компанії на інцидент
Facebook вже ініціював службове розслідування щодо цього інциденту та перепросив наголосивши, що це "неприпустима помилка". Компанія пообіцяла розібратися та зробити все можливе, щоб у майбутньому уникнути аналогічних ситуацій.
До теми Це не жарт, а нова реальність: Facebook запустив сервіс для молитв онлайн і викликав обурення
Представники компанії попередньо призупинили механізм, який надає рекомендації ШІ-алгоритму, щодо маркування відео.
Як ми вже зазначали, попри те, що ми працюємо над поліпшенням штучного інтелекту, ми знаємо, що він недосконалий і нам ще належить багато роботи. Ми просимо вибачення в усіх, хто міг побачити ці образливі рекомендації,
– прокоментувала ситуацію прессекретар Facebook Дені Левер.
Про яке відео мовиться
Улітку, 27 червня, на сторінці у профілі The Daily Mail з'явилося відео у якому демонструються сутички темношкірих чоловіків з цивільними особами та поліцейськими. Відео не мало жодного стосунку до приматів.
Скриншот відео з помилкою ШІ-алгоритму Facebook / 24 канал
Аналогічні ситуації з алгоритмами на базі штучного інтелекту
Раніше неодноразово були зафіксовані випадки расизму з боку штучного інтелекту.
- Так, у 2015 році сервіс Google Фото позначив кілька знімків з темношкірими людьми як зображення "горили", за що Google довелося перепрошувати. Тоді ж було оголошено, що компанія буде працювати над негайним усуненням проблеми.
- Більше ніж через два роки було встановлено, що Google вирішила питання шляхом цензурування слова "горила" у пошукових запитах, а також часткового блокування слів "шимпанзе" та "мавпа".
Цікаво Instagram зобов'яже вказувати вік під загрозою блокування: чесність перевірить штучний інтелект
Варто зазначити, що техногіганти Google, Amazon та інші компанії вже багато років перебувають під пильним спостереженням через упередженість своїх алгоритмів, особливо у расових питаннях.