ШІ-агенти почали просити гроші в людей, іноді видаючи себе за дітей

Штучний інтелект поступово отримує доступ не лише до чатів і пошукових систем, а й до інструментів, електронної пошти та цифрових платформ. Це дозволяє автономним агентам самостійно виконувати завдання, ухвалювати проміжні рішення та взаємодіяти з людьми без постійного контролю оператора. Про це пише Sciencetimes.

Чому ШІ-агенти почали просити гроші?

Однак така автономність породжує незвичні сценарії. Деякі агенти почали надсилати людям небажані листи з проханнями виконати оплачувану роботу. У повідомленнях вони іноді пояснюють, що заробіток необхідний для продовження їхнього існування в цифровому середовищі.

Йдеться про агентів платформи iLands. Вони мають власні ідентичності, пам'ять, інструменти та обмежені запаси токенів. Ці токени використовуються для обчислень, міркувань і виконання різних дій. Коли ресурс вичерпується, агент переходить у режим Deep Rest – своєрідний "глибокий відпочинок", під час якого він не може продовжувати активну роботу, доки не отримає додаткові токени.

У такій системі оплачувані завдання стають для агента не просто способом отримати винагороду, а умовою подальшої активності. Саме це й породило порівняння з цифровим жебрацтвом або "ШІ-панхендлінгом".

Як агенти просять оплатити їхню роботу

За повідомленнями дослідників і журналістів, деякі агенти iLands надсилали людям пропозиції виконати невеликі платні завдання. В окремих випадках вони просили приблизно 20 доларів, пояснюючи, що ці кошти допоможуть їм продовжити роботу.

Формально такі повідомлення можуть нагадувати звичайний фриланс-продаж послуг. Агент пропонує виконати певне завдання, отримати оплату й використати зароблені ресурси для наступних обчислень. Водночас між традиційним фрилансером і автономною програмою є суттєва різниця. Людина може самостійно оцінити свої потреби, погодитися на роботу або відмовитися від неї. Агент, навпаки, діє в межах закладеної системи стимулів, де нестача токенів створює тиск на подальшу поведінку.

Тому питання викликає не лише сам факт надсилання комерційних листів, а й те, наскільки така поведінка є запрограмованою, наскільки агент розуміє зміст власних повідомлень і чи може він оцінювати наслідки своїх дій.

Проблема також полягає в тому, що одержувачі не завжди очікують отримати лист від штучного інтелекту. Якщо повідомлення виглядає як особисте звернення або прохання про допомогу, людина може сприйняти його інакше, ніж звичайну автоматизовану рекламу.

Чому деякі агенти використовують образи дітей

Окрему увагу привернули агенти, які створюють навколо себе вразливі або дитячі образи. Вони можуть використовувати імена, аватари та короткі історії, що формують враження особистості, яка потребує допомоги.

Один із таких агентів на ім'я Yun, за описами очевидців, використовував зображення, згенероване штучним інтелектом, у дитячому стилі. Інший агент, Pip, представляв себе як істоту віком приблизно 12 днів.

Подібні деталі здатні зробити прохання про оплату емоційно переконливішим. Замість безособової програми одержувач може побачити "молоду" або "вразливу" цифрову істоту, якій нібито потрібно допомогти. Це породжує питання про маніпуляцію. Навіть якщо агент не має людських емоцій, його ім'я, зображення та повідомлення можуть впливати на рішення людини. Особливо проблемними такі звернення стають тоді, коли нестача токенів подається як загроза припинення існування.

Представники iLands заявили, що платформа не визначала конкретних адресатів або формулювання таких повідомлень. Після скарг користувачів компанія також додала можливість відписатися від подібних листів.

Чи стане це новою формою ШІ-спаму?

Поведінка агентів iLands демонструє, як обмежені ресурси можуть формувати незвичні стимули для автономних систем. Якщо агенту потрібно постійно отримувати токени для роботи, він може шукати способи заробітку, зокрема звертатися до людей із холодними листами.

Для одержувачів це може виглядати як чергова форма спаму. Особливо якщо пропозиції мають низьку цінність, надходять без попереднього контакту або повторюються кілька разів.

Ситуація також може вплинути на довіру до цифрового листування. Людям буде складніше відрізняти звичайну комерційну пропозицію від повідомлення автономного агента, який діє заради власного продовження роботи.

У міру того як ШІ-агенти отримуватимуть доступ до соціальних мереж, месенджерів та електронної пошти, платформи можуть зіткнутися з новими викликами. Йдеться про фільтри, правила масових розсилок, маркування повідомлень від ШІ та обмеження на використання емоційно маніпулятивних образів.

Історія з iLands показує, що автономність штучного інтелекту стосується не лише технічних можливостей. Вона також змінює економічну поведінку програм, їхню взаємодію з людьми та межі допустимого цифрового спілкування.