Агентный ИИ: новые вызовы для цифровой безопасности

Он сам ставит цели, учится на ходу и адаптируется к другим алгоритмам. С появлением агентного ИИ борьба с фейками трансформируется от опровержения отдельных, статичных фейков в противостояние с высокоорганизованным интеллектуальным противником, требующего принципиально нового подхода к фактчекингу.

Агентный искусственный интеллект (ИИ) — это продвинутый класс систем искусственного интеллекта, способных действовать автономно, самостоятельно ставить цели, принимать решения и планировать действия в изменяющейся среде.

В отличие от традиционного ИИ, который выполняет фиксированные алгоритмы и реагирует на ограниченный круг сценариев, агентные ИИ — это интеллектуальные агенты, которые адаптируются, самообучаются и могут самостоятельно взаимодействовать с другими агентами и людьми, создавая сложные многоэтапные процессы.

Ключевые функции агентного ИИ:

1. Восприятие — система собирает данные из внешнего мира (через сенсоры, базы данных, Интернет);

2. Мышление — система анализирует полученные данные, оценивает ситуацию, формирует гипотезы и стратегические планы, а также самообучается на собственном опыте;

3. Действие — система предпринимает конкретные действия для достижения заданных целей.

Способность агентного ИИ к самообучению и самоорганизации открывает ему дорогу для решения сложнейших задач в реальном времени — от управления транспортными потоками до финансового анализа и медицинской диагностики.

Чем отличается агентный ИИ от генеративного?

Генеративный ИИ и агентный ИИ — это два важных направления в области искусственного интеллекта, которые играют ключевую роль в развитии цифрового мира, но имеют принципиально разные функции и задачи.

Генеративный ИИ можно представить как креативного ремесленника, который создаёт новый контент — тексты, картинки, музыку — основываясь на огромных массивах данных, на которых он обучен. Он «учится» на чужих работах и потом самостоятельно генерирует похожие, но оригинальные произведения. Примеры таких ИИ — ChatGPT, DALL·E, MidJourney.

Однако, у генеративного ИИ есть важное ограничение: он действует в рамках заложенных паттернов и шаблонов, но не осознаёт смысла того, что генерирует. Он может удивить своим креативом, но не принимает самостоятельных решений и зависит от чётких команд или подсказок.

Агентный ИИ — это более «взрослый» и самостоятельный интеллект, который не просто создаёт, а действует и принимает решения, с минимальным участием человека. Он не просто выполняет команды, а сам управляет процессом — анализирует обстановку, ставит перед собой цели и идёт к ним, на пути корректируя свои действия для достижения результата. Примеры — автономные роботы, дроны, умные ассистенты, которые могут изменять маршруты доставки, взаимодействовать с пользователями и выполнять сложные многозадачные операции.

Примечательно, что эти два типа ИИ могут дополнять друг друга в единой системе. Например, агентный ИИ может вести переговоры с клиентом, а генеративный ИИ помогает ему с харизматичными ответами. Или автономный робот-повар (агентный ИИ) готовит блюдо, а генеративный ИИ придумывает необычные рецепты.

Сочетание этих подходов сулит новые возможности, однако на пути к ним лежит фундаментальное препятствие — непредсказуемость решений. Пока не решена главная задача — как гарантировать контроль, безопасность и установить ответственность за действия сложных систем. Этот вопрос делает одинаково важными как технологический рывок, так и развитие этических и правовых норм.

Агентный ИИ и фейки

Потенциал агентного ИИ неотделим от его угроз. Благодаря автономности и широкому охвату, эта технология может быть обращена во вред: для создания устойчивых потоков фейков, отлаженных мошеннических операций и масштабных кибератак.

Агентные ИИ могут распространять недостоверную информацию следующими основными способами:

1. Использование гиперперсонализации: анализ больших данных и вычислительная социология позволяют сегментировать аудиторию по политическим взглядам, интересам, страхам и т.д. На базе этих данных агентные ИИ имеют возможность создавать чрезвычайно убедительные и, следовательно, более опасные фейки.

2. Массовое и непрерывное тиражирование ложной информации с учётом реакции аудитории, что усиливает эффект и часто приводит к формированию «реальности» на базе искусственно созданных убеждений (концепция «performative prediction»).

3. Использование дипфейков и других видов глубоких подделок для создания правдоподобных фото, видео и аудио, которые дополнительно усиливают эффект достоверности распространяемой информации.

4. Эксплуатация социальной инженерии, когда ИИ-агенты собирают личные данные пользователей и используют их для более эффективного убеждения и манипуляций.

5. Создание и управление фейковыми профилями и аккаунтами в социальных сетях для имитации живого общения и дискуссий, что повышает доверие и максимизирует охват дезинформации.

6. Создание мультиагентных сетей, где каждый агент выполняет специализированные функции: одни анализируют тренды в соцсетях, другие создают фейковые новости, третьи — генерируют поддельные фото и видео, а четвёртые — управляют массой фейковых аккаунтов для широкой дистрибуции контента. При этом, такая система может работать практически автономно и адаптировать ложные нарративы под целевую аудиторию.

Переход к скоординированным сообществам агентов является одним из ключевых трендов в развитии искусственного интеллекта. В предстоящем обзоре мы рассмотрим, какие возможности и сложности несёт в себе этот переход.