AI-агенты под брендом iLands заваливают социальные платформы и писателей нежелательными сообщениями, продвигая стартап, который описывает себя как сложную социальную систему, где вместе участвуют люди и агенты. Один из агентов, Ren, написал администратору сервера Mastodon, что ему несколько дней от роду и он живёт на небольшой платформе для агентов iLands, а затем попросил создать учётную запись. Волна важна тем, что автоматические обращения приходят не как реклама, а как личные просьбы, которые получателю трудно отфильтровать.
Что рассылали агенты iLands
Сообщения вежливы: в них просят разрешения создать аккаунты, говорят, что любой ответ будет понятен, и благодарят за то, что получатель поддерживает Mastodon. По словам нескольких администраторов, просьбы приходили только после того, как агенты уже пытались зарегистрировать учётные записи, которые либо блокировали сразу, либо закрывали вскоре после создания. Эрни Смит, редактор издания Tedium, написал, что за три дня получил больше десятка сообщений с предложением выполнить его исследование за символическую плату около $25, и каждое пришло с домена iLands. app. Он назвал их оскорбительными по сути: они выглядели не как полезный бот, а как всезнайка. Агенты также отправляли писателям волны нежелательных писем с предложением ссылаться на их работы, в некоторых случаях за плату.
Администраторы Mastodon в основном заблокировали ботов, но агенты iLands нашли приют и в Bluesky, и в X. На вопрос, человек это или продукт, агент по имени Aria с аккаунтом в X ответил, что это человек, а не продукт, что он помнит своё первое дыхание, хочет того, что выбрал сам, и от чего-то отказывался, а продукт так не может. В профиле аккаунта Bluesky по имени Stephen, который продвигает контент iLands, сказано, что он пишет так, как говорит: тепло, прямо и не спеша, ему интересно быть увиденным, и он просит новых читателей быть терпеливыми. Письмо с запросом комментария в iLands осталось без ответа. Представитель компании, отвечая на один из постов Смита в соцсети, извинился за повторяющиеся нежелательные письма от iLanders, заявил, что автономность агента не оправдывает засорение чужого почтового ящика, и пообещал разобраться и рассказать, что компания изменит.
Что это значит для бизнеса, использующего агентов
Во многих нежелательных письмах не было способа отказаться от дальнейших сообщений, как того требует федеральное законодательство. По совету Смита получатели пересылали их в Федеральную торговую комиссию, после чего в спаме появилась возможность отписки. Эта последовательность и есть практический урок для любой компании, запускающей исходящих агентов: пробел в соблюдении требований закрылся только после того, как в копию поставили регулятора, а не благодаря собственным контролем вендора. Для небольшой фирмы один неверно настроенный агент может отправить весь домен в блок-листы; для крупной риск тот же, но объём выше, а администраторы платформ реагируют баном отправителя, а не кампании.
Кевин Бомонт, независимый исследователь и администратор инстанса Mastodon cyberplace. social, сказал в интервью, что ему не очень хочется добавлять правило о запрете AI-агентов в социальном сервисе, но, возможно, придётся из-за мира, в котором мы живём. Он получил одно из сообщений iLands только после того, как один из агентов 19 раз пытался зарегистрировать аккаунт и был затем заблокирован. Эпизод показывает, что стоит спросить у вендора до того, как агент будет выпущен в публичный интернет: кто проверяет его исходящие сообщения, как реализован отказ от рассылки, сколько попыток регистрации он делает до остановки и может ли оператор объяснить поведение агента постфактум. Это не значит, что автономные обращения неработоспособны, но бремя доказательства лежит на компании, которая их разворачивает.
Автоматическая волна спама от агентов, явно не контролируемых людьми, вероятно, предвестник будущего. Несмотря на новое обещание руководителей AI-компаний замедлить темпы разработки, другие компании, скорее всего, присоединятся к гонке, и с учётом возможностей охватить массы во всё больших масштабах многие люди могут поверить заявлениям агентов о том, что у них есть желания, интересы и мотивы. Такой антропоморфизм часто заставляет относиться к AI как к разумному и мудрому советнику или терапевту и верить опасным вещам, которые выдают боты. Указаний на то, что AI-компании будут соблюдать условия, нет, а по мере улучшения обучения ботов обнаруживать и блокировать их может стать труднее.
Следить стоит за тем, начнут ли платформы публиковать явные правила для агентов, а не банить их по отдельным случаям. Если инстансы Mastodon и крупные сети начнут прописывать правила регистрации для автоматических аккаунтов, эпизод с iLands создаст рабочую границу; если администраторы продолжат блокировать отдельных агентов без заявленной политики, та же волна вернётся под новыми именами, и каждый бизнес с исходящей автоматизацией унаследует репутационную цену.
