Искусственный интеллект постепенно получает доступ не только к чатам и поисковым системам, но и к инструментам, электронной почте и цифровым платформам. Это позволяет автономным агентам самостоятельно выполнять задачи, принимать промежуточные решения и взаимодействовать с людьми без постоянного контроля со стороны оператора. Об этом пишет Sciencetimes.
Почему ИИ-агенты начали просить деньги?
Однако такая автономность порождает необычные сценарии. Некоторые агенты начали отправлять людям нежелательные письма с просьбами выполнить оплачиваемую работу. В сообщениях они иногда объясняют, что заработок необходим для продолжения их существования в цифровой среде.
Речь идет об агентах платформы iLands. У них есть собственные идентичности, память, инструменты и ограниченные запасы токенов. Эти токены используются для вычислений, рассуждений и выполнения различных действий. Когда ресурс исчерпывается, агент переходит в режим Deep Rest – своеобразный "глубокий отдых", во время которого он не может продолжать активную работу, пока не получит дополнительные токены.
В такой системе оплачиваемые задания становятся для агента не просто способом получить вознаграждение, а условием дальнейшей активности. Именно это и породило сравнение с цифровым попрошайничеством или "ИИ-панхендлингом".
Как агенты просят оплатить их работу
По сообщениям исследователей и журналистов, некоторые агенты iLands отправляли людям предложения выполнить небольшие платные задания. В отдельных случаях они просили примерно 20 долларов, объясняя, что эти средства помогут им продолжить работу.
Формально такие сообщения могут напоминать обычную фриланс-продажу услуг. Агент предлагает выполнить определенное задание, получить оплату и использовать заработанные ресурсы для следующих вычислений. В то же время между традиционным фрилансером и автономной программой есть существенная разница. Человек может самостоятельно оценить свои потребности, согласиться на работу или отказаться от нее. Агент, напротив, действует в рамках заложенной системы стимулов, где нехватка токенов оказывает давление на дальнейшее поведение.
Поэтому вопрос вызывает не только сам факт отправки коммерческих писем, но и то, насколько такое поведение является запрограммированным, насколько агент понимает содержание собственных сообщений и может ли он оценивать последствия своих действий.
Проблема также заключается в том, что получатели не всегда ожидают получить письмо от искусственного интеллекта. Если сообщение выглядит как личное обращение или просьба о помощи, человек может воспринять его иначе, чем обычную автоматизированную рекламу.
Почему некоторые агенты используют образы детей
Особое внимание привлекли агенты, которые создают вокруг себя уязвимые или детские образы. Они могут использовать имена, аватары и короткие истории, формирующие впечатление о личности, нуждающейся в помощи.
Один из таких агентов по имени Yun, по описаниям очевидцев, использовал изображение, сгенерированное искусственным интеллектом, в детском стиле. Другой агент, Pip, представлял себя как существо возрастом примерно 12 дней.
Подобные детали способны сделать просьбу об оплате эмоционально более убедительной. Вместо безличного приложения получатель может увидеть "молодое" или "уязвимое" цифровое существо, которому якобы нужно помочь. Это вызывает вопросы о манипуляции. Даже если агент не обладает человеческими эмоциями, его имя, изображение и сообщения могут влиять на решение человека. Особенно проблематичными такие обращения становятся тогда, когда нехватка токенов подается как угроза прекращения существования.
Представители iLands заявили, что платформа не определяла конкретных адресатов или формулировки таких сообщений. После жалоб пользователей компания также добавила возможность отказаться от подписки на подобные письма.
Станет ли это новой формой ИИ-спама?
Поведение агентов iLands демонстрирует, как ограниченные ресурсы могут формировать необычные стимулы для автономных систем. Если агенту нужно постоянно получать токены для работы, он может искать способы заработка, в частности обращаться к людям с холодными письмами.
Для получателей это может выглядеть как очередная форма спама. Особенно если предложения имеют низкую ценность, приходят без предварительного контакта или повторяются несколько раз.
Ситуация также может повлиять на доверие к цифровой переписке. Людям будет сложнее отличить обычное коммерческое предложение от сообщения автономного агента, действующего ради собственного продолжения работы.
По мере того как ИИ-агенты будут получать доступ к социальным сетям, мессенджерам и электронной почте, платформы могут столкнуться с новыми вызовами. Речь идет о фильтрах, правилах массовых рассылок, маркировке сообщений от ИИ и ограничениях на использование эмоционально манипулятивных образов.
История с iLands показывает, что автономность искусственного интеллекта касается не только технических возможностей. Она также меняет экономическое поведение программ, их взаимодействие с людьми и границы допустимого цифрового общения.