Реакція компанії на інцидент
Facebook вже ініціював службове розслідування щодо цього інциденту та перепросив наголосивши, що це "неприпустима помилка". Компанія пообіцяла розібратися та зробити все можливе, щоб у майбутньому уникнути аналогічних ситуацій.
До теми Це не жарт, а нова реальність: Facebook запустив сервіс для молитв онлайн і викликав обурення
Представники компанії попередньо призупинили механізм, який надає рекомендації ШІ-алгоритму, щодо маркування відео.
Як ми вже зазначали, попри те, що ми працюємо над поліпшенням штучного інтелекту, ми знаємо, що він недосконалий і нам ще належить багато роботи. Ми просимо вибачення в усіх, хто міг побачити ці образливі рекомендації,
– прокоментувала ситуацію прессекретар Facebook Дені Левер.
Про яке відео мовиться
Улітку, 27 червня, на сторінці у профілі The Daily Mail з'явилося відео у якому демонструються сутички темношкірих чоловіків з цивільними особами та поліцейськими. Відео не мало жодного стосунку до приматів.
Скриншот відео з помилкою ШІ-алгоритму Facebook / 24 канал
Аналогічні ситуації з алгоритмами на базі штучного інтелекту
Раніше неодноразово були зафіксовані випадки расизму з боку штучного інтелекту.
- Так, у 2015 році сервіс Google Фото позначив кілька знімків з темношкірими людьми як зображення "горили", за що Google довелося перепрошувати. Тоді ж було оголошено, що компанія буде працювати над негайним усуненням проблеми.
- Більше ніж через два роки було встановлено, що Google вирішила питання шляхом цензурування слова "горила" у пошукових запитах, а також часткового блокування слів "шимпанзе" та "мавпа".
Цікаво Instagram зобов'яже вказувати вік під загрозою блокування: чесність перевірить штучний інтелект
Варто зазначити, що техногіганти Google, Amazon та інші компанії вже багато років перебувають під пильним спостереженням через упередженість своїх алгоритмів, особливо у расових питаннях.