Как AI-аватары превратились из модной игрушки в инструмент политических манипуляций

Пока вы читаете этот текст, тысячи несуществующих людей продают одежду, собирают пожертвования и агитируют за политиков. Появление AI‑аватаров и виртуальных инфлюенсеров стало логичным продолжением развития фильтров, AR‑масок и генеративной графики: от лёгкой ретуши мы перешли к полностью синтетическим лицам. За несколько лет эта технология породила отдельный рынок, но вместе с ним — беспрецедентные риски мошенничества, эксплуатации, политической пропаганды и долгосрочных психологических проблем для социума. Ранее мы неоднократно освещали опасность, которую несут AI, боты и другие технологии.

В этом материале вместе с международными экспертами GFCN мы детально разберем, как устроен рынок цифровых клонов, по каким маркерам их всё еще можно распознать и почему именно они становятся главным оружием киберпреступников и политтехнологов.

От модных 3D-игрушек к индустрии на сотни миллиардов

Одним из первых знаковых случаев коммерческого успеха цифровых аватаров стало создание в 2016 году виртуального блогера Lil Miquela в Instagram. Она позиционировалась как бразильско-американская девушка, за которой креативное агентство Brud. Несмотря на подчеркнутую роботизированную внешность, в течение долгого времени не было известно, является ли она реальным человеком. Аккаунт полностью имитировал стандартную активность инфлюенсера и раскрыл свое происхождение только в 2019 году.

У виртуальной модели есть коллаборации с реальными брендами, а ее аккаунты в TikTok, Instagram* и иных социальных сетях насчитывают миллионы подписчиков.

Это не единственный пример удачного использования технологии. В Японии компанией Aww Inc в 2018 году была создана модель Imma, которая также стала успешной и имеет коллаборации с известными брендами, в частности Puma. В Бразилии виртуальный ассистент e-commerce ретейлера Magazine Luiza — Lu do Magalu — в настоящий момент имеет 8,9 млн подписчиков в Instagram.

Помимо исключительно образов инфлюенсеров, создаются и AI-аватары, заточенные под конкретные задачи. Так, можно отметить аккаунт, изначально созданный как AI-модель, — Shudu.

AI-аватары выступают не только как виртуальные люди. Они находят активное применение в ведении аккаунтов организаций, рекламе и блогинге реальных лиц. В Китае был проведен эксперимент, где аватары вели стрим вместо настоящих блогеров, предварительно обучившись на их материалах. Сегодня значительная часть рекламного контента и обзоров формируется именно с их помощью. В Корее AI-аватары еще в 2024 году рассматривались для применения в качестве ассистентов при взаимодействии с клиентами в банковской сфере.

Аналитики международных исследовательских компаний прогнозируют взрывное масштабирование рынка использования технологии. В отчетах фигурируют оценки от 47,5 до 308,3 млрд долларов США к 2034 году. Виртуальные персонажи позволяют ретейлу и сфере развлечений сочетать управляемый имидж, низкие репутационные риски и круглосуточную работу.

Как отмечает российский эксперт GFCN по AI-технологиям Алексей Парфун, стремительное развитие индустрии AI-аватаров обгоняет законодательство:

«Формируется абсолютно новый юридический рынок — права на цифровые копии людей. Кому принадлежит виртуальный инфлюенсер: агентству, бренду или разработчику модели? Ни интеллектуальная собственность, ни авторское право пока не способны точно описать AI-блогера как актив».

Кнопка «Сделать инфлюенсера»: почему детекторы фейков проигрывают

Развитие AI и появление платформ уровня Synthesia и HeyGen существенно снизили порог входа. Пользователь может загрузить текст, выбрать аватар, а система сгенерирует реалистичное видео. Платформа HeyGen предлагает создать AI-инфлюенсера за минуту, а сервисы вроде Оcoya автоматизируют его ведение в соцсетях, исключая человека-модератора. Аналогичные решения есть у DeepBrain AI и других.

Тем не менее, распознать синтетику пока можно.

«Главные визуальные маркеры AI — неестественное, излишне ритмичное моргание и узкий диапазон мимики, — объясняет Парфун. — Кроме того, генеративные модели часто выдают «пластиковую» гладкость кожи без естественных пор и статичное освещение, не реагирующее на повороты головы».

Синтетическую речь выдает её «стерильность».

«В ней нет живых пауз и случайных ударений. Алгоритм не знает анатомии, поэтому иногда генерирует физиологически невозможные звуки, — подчеркивает Парфун. — Но через полгода-год разницу перестанут замечать даже профи. Создатели фейков всегда на шаг впереди детекторов, так как атакуют конкретные уязвимости, пока защита вынуждена закрывать всё сразу».

Украденные лица и фальшивые паспорта: темная сторона AI-аватаров

Синтетические инфлюенсеры активно используются в злонамеренных целях. Один из сценариев — аккаунты, публикующие эротический и порнографический контент (в том числе на OnlyFans), где лица реальных людей подменяются с помощью AI. Более того, журналисты CBS News выявили массовое появление аватаров, имитирующих людей с синдромом Дауна ради монетизации сочувствия.

Эксперт GFCN по правовым вопросам из Португалии Александр Геррейро напоминает о законодательной базе:

«В ЕС внешность человека трактуется как «персональные данные» (GDPR). У каждого есть «право на удаление», позволяющее требовать «разобучения» AI-модели, натренированной на его лице. Для коммерческого использования чьего-либо образа концепции «законного интереса» недостаточно — требуется явное согласие субъекта».

Однако мошенники идут дальше, генерируя поддельные документы на основе масштабных утечек, таких как инцидент с Национальным агентством Франции по защите документов (ANTS), затронувший 11,7 млн аккаунтов. Киберспециалисты уверены, что эти данные пойдут на создание фальшивых удостоверений личности.

Эксперт GFCN по кибербезопасности из Непала Прабеш Субеди объясняет механику обхода банковских систем KYC:

«С помощью виртуальных камер и спецсофта (например, ProKYC) злоумышленники создают правдоподобное окружение и синтетические видео-паспорта. Это позволяет успешно обходить биометрическую проверку и открывать счета для вывода украденных средств».

Когда такой аватар используется для фишинга или фиктивных сборов средств, риски кратно возрастают.

«Живое видеообщение происходит мгновенно, в отличие от email- или SMS-рассылок. Это лишает жертву времени на критическое осмысление ситуации, что многократно повышает вероятность успешного обмана», — констатирует Субеди.

Попытки регулирования пока отстают.

«Закон AI Act в ЕС обязывает маркировать deepfake-контент, но плашка «Сгенерировано ИИ» решает лишь вопрос прозрачности, а не согласия, — добавляет Геррейро. — маркировка не спасает от эмоционального ущерба, если зритель уже воспринял изображение как реальное. А обход фильтров преступниками заставляет аудиторию думать: «Раз нет маркировки, значит, это правда». Это прямая угроза «эпистемической безопасности» общества».

ИИ также применяется в бытовом мошенничестве: аватары используются для завышения цены товаров в схемах дропшиппинга, имитируя ручной труд привлекательных девушек.

Синтетические кандидаты: как ИИ взламывает политику и эмоции избирателей

Политические дипфейки часто создаются ради банальной прибыли. Wired сообщает о студенте из Индии, создавшем AI-персону Emily Hart — радикальную сторонницу MAGA. Нейтральный аватар не приносил автору денег, а вот политически поляризованное амплуа быстро обеспечило охваты и монетизацию в соцсетях.

Индонезийский эксперт GFCN по политическим технологиям Фаузан Аль-Рашид объясняет успех таких стратегий: «Алгоритмы соцсетей поощряют не информативность, а эмоциональное возбуждение — гнев и страх. Синтетический персонаж, спроектированный под ожидания аудитории и лишенный живых противоречий, — это, по сути, пропаганда, прошедшая A/B-тестирование самой платформой. Это не сбой алгоритмов, а их нормальная работа».

Влияние AI на политику становится институциональным. В Великобритании проект AI-Steve даже выдвигался в парламент.

«Хотя на выборах проект с треском провалился, настоящая угроза — не ИИ в избирательном бюллетене, а реальный политик, использующий алгоритмы, чтобы стать «синтетическим идеалом», без устали говорящим каждой демографической группе ровно то, что она хочет услышать, — резюмирует Аль-Рашид. — Опросы показывают, что многие избиратели уже готовы голосовать за ИИ из-за тотального падения доверия к живым людям. Именно в эту брешь и проникает технология».

Сегодня соцсети переполнены аккаунтами фейковых инфлюенсеров, восхваляющих политические силы.

Пока массовость таких кампаний обеспечивается дешевизной, а не качеством генерации. Но стремительное совершенствование коммерческих нейросетей говорит о том, что визуально безупречные AI-аватары уже открывают новую страницу в истории политических манипуляций и мира дезинформации.

_{*Решением суда запрещена деятельность компании Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram на территории Российской Федерации по основаниям осуществления экстремистской деятельности.}