Історія з фотографіями
Одразу варто зауважити, що трапилося все ще у 2021 році – у розпал пандемії COVID-19. Чоловік не зміг звичайним чином відвести сина до лікаря і звернувся до нього через інтернет. Медсестра ж для того, щоб зібрати максимальну кількість даних попросила чоловіка зробити детальні фото пахової зони сина.
Не пропустіть Штучний інтелект дозволив померлій жінці "поспілкуватися" з людьми, які відвідали її похорон
Після того, як фото були завантажені у хмарне сховище, алгоритми Google взялися за роботу, однак все закінчилося не дуже добре. Штучний інтелект Google ідентифікував фото як матеріали сексуального насильства над дітьми (CSAM) і подав звіт до Національного центру зниклих безвісти та експлуатованих дітей (NCMEC). Це призвело до розслідування поліції.
Через два дні після завантаження фотографій Google закрила усі облікові записи батька, включно з обліковим записом Google Fi. Представники компанії подзвонили Марку (ім'я батька), щоб повідомити йому, що фото його сина ідентифіковано, як "шкідливий контент", який розглядається як "серйозне порушення політики компанії та може бути незаконним". Пізніше батько також дізнався, що Google позначив ще й відео на його телефоні, і поліція Сан-Франциско почала розслідування.
Зрештою з Марка було знято усі звинувачення у протиправних діях і зараз поліція не має до нього жодних запитань. Однак в Google не поспішили не те що перепросити, а хоча б вжити будь-яких заходів, з відновлення акаунта чоловіка. Так, облікові записи Марка в Google досі заблоковані.
Реакція Google на помилку
Представник компанії зазначив наступне:
Ми дотримуємося законодавства США у визначенні того, що таке сексуальне насильство, і використовуємо поєднання технології, зіставлення хешів і штучного інтелекту, щоб ідентифікувати його та видалити з наших платформ.
Також він зауважив, що співробітники Google, які працюють над ситуаціями CSAM, проходять навчання від медичних експертів, щоб зрозуміти де на фото можуть бути висипання та інші проблеми в делікатних областях. Водночас представник Google наголосив, що жоден зі співробітників не є лікарем, а медичних експертів не залучають до кожного випадку.
Читайте на сайті Український стартап продає кадри війни та допомагає постраждалим українцям
Варто зазначити, що компанія Google згідно із законом США зобов'язана звітувати про випадки потенційного насильства над дітьми. Минулого року Google повідомив про 621 583 випадки. З цих випадків 4260 було передано до поліції для подальшого розслідування.
Звісно це не дає їй права фактично продовжувати переслідування людини після того, як з неї зняли усі звинувачення. Залишається важливе питання, чому Google не спішить визнавати свою помилку та відновлювати дані користувача і коли вона збирається це зробити.