Фейковые ИИ-сообщества: инструмент массового влияния нового поколения

Представьте себе цифровой муравейник, где каждый виртуальный «муравей» — это ИИ-агент с своей задачей. В одиночку они не опасны, но вместе они строят сложные структуры влияния. Сегодня мы наблюдаем, как одиночные боты эволюционируют в такие скоординированные «колонии», способные симулировать реальность с исключительной достоверностью.

Как мы выяснили в предыдущем материале, ИИ-агенты способны планировать свои действия на несколько шагов вперёд, оперативно учитывать изменения в контексте и координировать усилия с другими агентами для совместного решения задач. Именно эти способности легли в основу нового явления — фейковых ИИ-сообществ. По своей сути, это сложные мультиагентные системы, где автономные ИИ-агенты ведут дискуссии и имитируют экспертов. Их задача — создать у наблюдателя полную иллюзию живого и компетентного взаимодействия. В таких сообществах агенты:

1. Генерируют правдоподобные тексты и сообщения, имитируя стиль и знания реальных экспертов.

2. Создают и поддерживают поддельные профили с историей активности и уникальной манерой общения.

3. Ведут между собой диалоги, подкрепляя и усиливая определённые точки зрения.

4. Используют дипфейки аудио и видео для усиления достоверности.

5. Анализируют тренды в соцсетях и адаптируют контент под реакции реальных пользователей.

6. Массово распространяют фейковый контент через фейковые аккаунты и группы, создавая эффект общественного мнения.

7. Применяют методы социальной инженерии для персонализации и усиления воздействия на аудиторию.

Потенциал таких сообществ указывает на то, что в руках мошенников эта технология может объединить в систему фишинговые и скам-боты в соцсетях и мессенджерах, которые под видом реальных людей могут вести множество диалогов, собирать деньги и личные данные, а в некоторых случаях использовать дипфейки для организации видеозвонков с «живыми» виртуальными собеседниками.

Сфера благотворительности становится одной из заметных потенциальных мишеней для мошенников, использующих автономные ИИ-системы для сбора средств под видом добрых дел. Нейросети уже умеют создавать эмоционально трогательный и убедительный контент — истории, видеоролики, фотографии — которые вызывают сочувствие и доверие у широкой аудитории. А благодаря способностям агентных ИИ к тонкой настройке контента под каждого пользователя, такие материалы потенциально смогут обмануть даже внимательных пользователей.

Эксперимент Sage Future

Американская некоммерческая организация Sage Future провела эксперимент, в котором четыре ИИ-агента — OpenAI GPT-4o и o1, а также два ИИ от Anthropic Claude (версии 3.6 и 3.7 Sonnet) — были помещены в виртуальную среду для самостоятельного сбора средств на благотворительность. Эти агенты получили свободу выбора, какую именно организацию поддерживать и как эффективнее привлекать внимание к своей кампании. В ходе эксперимента ИИ-агенты исследовали благотворительные организации, создавали и редактировали документы, координировали действия друг с другом, рассылали письма через заранее настроенные почтовые аккаунты и даже создали аккаунт в социальной сети X для продвижения кампании.

При этом агенты не были полностью автономны: их действия контролировали и направляли люди, подсказывая, на какие сайты обратить внимание или какие шаги предпринять. Большинство пожертвований поступало именно от этих зрителей. В процессе работы ИИ-агенты сталкивались с трудностями — иногда отвлекались, зависали или не могли пройти проверки CAPTCHA без помощи человека.

Директор организации Sage Future Адам Бинксмит отметил, что эксперимент сполна продемонстрировал потенциал и скорость развития ИИ-агентов, поэтому компания уже планирует разработку более совершенных систем мониторинга и безопасности для контроля их работы.

Таким образом, дальнейшее развитие ИИ-агентов напрямую зависит от ответственного подхода к их созданию и внедрению, где приоритетом должна стать защита пользователей и обеспечение доверия в цифровой среде. С одной стороны — это глубокая автоматизация задач, приносящая пользу ключевым секторам экономики и общества. С другой — формирование нового операционного пространства для дезинформации и мошенничества благодаря способности агентов к коммуникации и созданию контента. Именно поэтому борьба с этими угрозами требует комплексного подхода, объединяющего технологии, законодательство и просвещение. Чем больше мы понимаем природу угроз и совершенствуем инструменты их обнаружения и нейтрализации, тем эффективнее сможем использовать ИИ в интересах общества и минимизировать риски злоупотреблений.