Дивні ШІ-відео, що заполонили соцмережі, звинувачують у тривожному впливі на дітей
Абсурдні відео з яблуками та бананами, котами-танцівниками й гуманізованими предметами, які масово генерують за допомогою ШІ, захоплюють соцмережі. Проте за кумедними сюжетами криється небезпека, здатна змінювати поведінку неповнолітніх.
Фрукти перетворюють дітей на екстремістів?
Дослідники з аналітичного центру Global Network on Extremism and Technology опублікували звіт, у якому йдеться про те, що масовий ШІ-контент із фруктами та овочами дедалі частіше використовують для просування екстремістських ідей і жорстокості. Автори окремо звертають увагу на те, що за начебто безглуздими сюжетами ховаються значно агресивніші меседжі, повідомляє Futurism.
За даними дослідників, більшість таких роликів побудована навколо яскравих персонажів, які потрапляють у любовні трикутники, втрачають роботу або обігрують теми братерства. Водночас останнім часом фахівці фіксують різке зростання кількості відео з елементами катування, каліцтва та інших проявів насильства над анімованими овочами й фруктами.
Автори спостережень зазначають, що такі сюжети не обмежуються абстрактною агресією. Жорстоких персонажів часто зображують як членів злочинних картелів, ультраправих угруповань або прихильників радикального нігілізму.
Низькоякісний контент на основі штучного інтелекту з елементами насилля підсилює захоплення агресією задля самої агресії, дозволяючи так званій оді насиллю поступово завойовувати позиції серед молоді у цифровому просторі,
– каже аналітик Global Network on Extremism and Technology.
Експерти переконані, що подібний контент готує ґрунт для сприйняття складніших форм агресивного матеріалу, який, імовірно, запустять пізніше.
Ці відео закладають основу для подальшого споживання аудіовізуального контенту з елементами насилля, через що молоді користувачі потрапляють у пастку онлайн-радикалізації,
– додає фахівець організації.
Хто стоїть за створенням небезпечного контенту?
Слід зазначити, що Global Network on Extremism and Technology є дослідницьким підрозділом Global Internet Forum to Counter Terrorism. Цю організацію фінансують і контролюють представники технологічної індустрії, через що її неодноразово критикували за сприяння цифровій цензурі. Крім того, поточний звіт, за словами авторів, базується на поверхневому аналізі та навіть посилається на матеріал, який створив штучний інтелект.
Попри спірні моменти в дослідженнях, бот-ферми продовжують генерувати подібний контент у промислових масштабах. Оскільки медіаграмотність дітей лише формується, алгоритми соцмереж легко затягують їх у нескінченний потік токсичних роликів, які можуть прославляти насилля, расизм чи фальсифікацію виборів.
Наразі невідомо, чи за всім цим ШІ-непотребом стоїть хтось один із навмисними намірами, чи це непов'язана між собою група авторів, які не усвідомлюють, що вони роблять, і просто копіюють популярні тренди.