1 
46-річний Метт Арнольд прийшов до супермаркету Sainsbury's у районі Іст-Далвіч на південному сході Лондона, щоб придбати товари для стендап-заходу у футбольному клубі Dulwich Hamlet. Після того як чоловік просканував покупки та картку Nectar, до нього підійшли двоє менеджерів. Про це пише The Guardian.
Чому покупця вивели з магазину?
Працівники заявили Арнольду, що не можуть його обслужити через інцидент, який нібито стався раніше. Після цього вони попросили чоловіка залишити магазин і спробували провести його до виходу.
"Вони просто сказали мені, що проведуть мене назовні", – розповів Арнольд. За його словами, він вирішив сам вийти з магазину, оскільки хотів зберегти гідність. Працівники зрештою погодилися не супроводжувати його.
Вже на виході Арнольд помітив на одному з моніторів системи відеоспостереження повідомлення з червоним колом навколо його обличчя. Це дозволило йому припустити, що саме система розпізнавання облич могла стати причиною дій персоналу.
Покупець попросив залишити його придбані товари у візку, щоб за ними міг повернутися його колега. Приблизно через п'ять хвилин друг Арнольда зайшов до магазину, оплатив покупки та забрав їх.
Я думаю, працівники були цілком розгублені через це, що зрозуміло, але погодилися. Мій колега Дейв зайшов, оплатив покупки та забрав їх приблизно через п'ять хвилин. Не було жодної паузи, щоб замислитися, жодної спроби зрозуміти, що так не поводиться людина, яка щось краде. Вони просто сліпо виконували накази машини, – сказав Арнольд.
Наступного дня головний офіс Sainsbury's зв'язався з чоловіком і вибачився за ситуацію. Мережа також призупинила використання технології Facewatch у цьому магазині на час внутрішнього розслідування.
Представник Sainsbury's заявив, що компанія вибачилася перед Арнольдом за його досвід у магазині в Далвічі. Водночас у мережі наполягають, що причиною інциденту стала не сама технологія розпізнавання облич, а людська помилка.
"Sainsbury's зв'язалася з паном Арнольдом, щоб вибачитися за його досвід у нашому супермаркеті в Далвічі. Інцидент був спричинений людською помилкою, а не технологією розпізнавання облич. Покупці можуть бути впевнені, що система Facewatch має точність 99,98%, а кожне зіставлення перевіряє навчений менеджер", – сказав представник компанії.
У Facewatch також заявили, що технологія в цьому випадку спрацювала правильно. За словами представника компанії, система надіслала магазину коректне попередження, однак його неправильно опрацювали працівники.
"Коректне попередження було надіслане продавцю, але згодом через людську помилку його неправильно опрацювали в магазині", – зазначив представник Facewatch. У компанії пояснили, що призупинення роботи системи в конкретному магазині є запобіжним заходом. Це має запобігти появі нових попереджень, поки персонал проходить додаткове навчання. Sainsbury's також зазначила, що попередження від системи залишаються доступними на пристроях працівників протягом години. Компанія веде облік усіх випадків, коли людину було неправильно ідентифіковано.
Подібні випадки вже траплялися
Інцидент з Арнольдом не є першим випадком проблем із Facewatch у британських магазинах. У вересні минулого року інший покупець, Воррен Раджах, був змушений залишити магазин Sainsbury's в районі Елефант-енд-Касл на півдні Лондона після того, як система помилково ідентифікувала його.
Подібні ситуації виникали й у магазинах інших британських мереж, зокрема Home Bargains та B&M. Це стало частиною ширшої дискусії про використання технологій розпізнавання облич у громадських місцях і про те, наскільки сильно працівники можуть покладатися на автоматизовані рішення.
Арнольд вважає, що Sainsbury's та інші компанії, які використовують Facewatch, повинні повністю відключити систему щонайменше до моменту, коли зможуть гарантувати її безпомилкову роботу.
"Sainsbury's, як і будь-яка інша компанія, що використовує Facewatch, повинна негайно його відключити, принаймні доти, доки вони не зможуть гарантувати, що система працює бездоганно", – заявив він.
На його думку, якщо проблему виявили в одному магазині, це не означає, що вона обмежується лише ним. Арнольд звернув увагу на те, що Facewatch працює як централізована система, тому потенційна помилка може мати ширші наслідки.
Покупець побоюється ширшого впливу ШІ
Сам Арнольд визнав, що технології відеоспостереження можуть бути корисними в окремих ситуаціях. Водночас він виступає проти практики, коли автоматизоване попередження фактично перетворюється на готове рішення для працівника.
"Я не люблю культуру стеження, але можу зрозуміти, як іноді вона може бути необхідною. Непотрібним є інше – дозволяти машинам ухвалювати рішення, а потім очікувати, що люди беззаперечно виконуватимуть їхні накази", – сказав він.
За словами Арнольда, найбільше його непокоїть можливість того, що подібна помилка може трапитися з людиною, яка не зможе за себе постояти. "Будь-кого можуть звинуватити помилково, і в якийсь момент такою людиною стане хтось вразливий, хтось із проблемами психічного здоров'я, наприклад із тривожністю. Це неминуче", – зазначив він.
Чоловік також побоюється психологічних наслідків для молодших людей або тих, кому складніше протистояти працівникам магазину.
"Я також переживав би через руйнівний для впевненості в собі ефект, який це може мати на молодшу людину або на когось, хто менш готовий чи здатний постояти за себе так, як це зробив я", – додав Арнольд.
Водночас Sainsbury's продовжує наполягати, що сама технологія у цьому випадку не помилилася. Мережа пов'язує інцидент із неправильними діями персоналу, тоді як Facewatch стверджує, що надіслане магазину попередження було правильним.
Ситуація показує головну проблему використання автоматизованих систем у магазинах: навіть якщо алгоритм працює відповідно до своїх параметрів, остаточне рішення все одно залишається за людьми. Помилка працівника після отримання сигналу від системи може призвести до того, що покупець фактично буде покараний за дії, яких не вчиняв.