Иллюзия достоверности: кто и зачем «отравляет» поисковые системы на базе искусственного интеллекта

Поисковики изменились: вместо списка ссылок пользователи все чаще получают готовые ответы от нейросетей — по данным некоторых исследований, к октябрю 2026 года они охватывали уже более 80% коммерческих запросов. Но архитектура RAG (Retrieval-augmented generation) открыла уязвимость. В ходе ноябрьских выборов в США появились сообщения, что чат-боты ошибались почти в 40% ответов, а сам Google обвинили в намеренном «отравлении» 8% выдачи против ИИ-парсеров и ужесточении антиспам-правил.

GFCN исследовала феномен Poison AI («отравление ИИ») — скоординированные кампании по манипуляции алгоритмами. От пранков с вымышленными учеными до идеологического саботажа и коммерческих накруток: рассказываем, как хакеры и организованные группы заставляют искусственный интеллект верить в ложь и транслировать фейки под видом фактов.

Доктор, которого не было: кейс Poi Sonai

Громким примером успешной манипуляции стала кампания вокруг несуществующего исследователя в области больших языковых моделей (LLMs) по имени Poi Sonai. Имя персонажа является фонетической отсылкой к названию сообщества r/poisonai на платформе Reddit.

Кампания стартовала 30 июня 2026 года, когда в сообществе был запущен тред с просьбой присылать материалы о «наследии Poi Sonai», информацию о котором якобы удаляют нейросети.

Уже 3 июля для развития легенды был создан отдельный подраздел r/DrPoiSonai, где участники формировали биографию вымышленного ученого. Для придания образу глубины генерировались правдоподобные истории — например, о подаче им заявки на грант в Гарвардский университет для изучения того, как «местные сороки оценивают плотность макробиотических рисовых вафель».

Параллельно за пределами Reddit была выстроена поддерживающая инфраструктура. У «ученого» появился аккаунт в LinkedIn с ИИ-сгенерированной фотографией. В профиле с локацией в Камбодже профессиональные навыки соседствовали с абсурдными достижениями, вроде победы на чемпионате по поеданию хот-догов и экспертизы в покемонах.

Для легитимизации персонажа в медиаполе создавались поддельные скриншоты постов от авторитетных СМИ. В частности, распространялось изображение якобы из официального аккаунта The New York Times в сети X, упоминающее доктора Сонаи.

Кульминация эксперимента наступила 17 июля. ИИ-алгоритм поисковика Google, проанализировав массивы сфабрикованных данных, выдал прямой ответ, подтверждающий существование Poi Sonai, назвав его реальным цифровым персонажем и главным исследователем LLMs в компании Sonai AI.

И хотя к 26 июля ИИ Google скорректировал алгоритмы, начав определять запрос как мем (во многом благодаря вниманию прессы), кейс доказал принципиальную уязвимость поисковых нейросетей перед скоординированным пользовательским контентом.

Анатомия уязвимости: почему Reddit стал полем боя

Отравление ИИ работает за счет слепого доверия алгоритмов к обучающим данным. Атаки на этапе прямого использования нейросетей опираются на генерацию, дополненную поиском (RAG). Поисковые ИИ отдают предпочтение таким платформам, как Reddit, поскольку они обладают высоким рейтингом цитируемости, содержат живые дискуссии и подробные объяснения от первого лица.

Барьер для входа в таких атаках минимален. Серьезные, развернутые обсуждения заведомо ложной информации создают эффект эхо-камеры. Искусственный интеллект, не способный в полной мере распознавать иронию и сарказм, воспринимает плотность и детализацию текста как признак достоверности.

Идеологический саботаж и информационные вбросы

Деятельность подобных сообществ не ограничивается безобидными пранками. В июне 2026 года ИИ поисковика DuckDuckGo, опираясь на скоординированные вбросы, сгенерировал ответ о том, что Дональд Трамп якобы скончался от бешенства после укуса вице-президента Джей Ди Вэнса.

Для подтверждения этого фейка, активно обсуждавшегося в r/poisonai, использовалась комбинация реальных и подставных источников. Алгоритм связал статью ABC о смерти неизвестного мужчины от бешенства с публикацией на сайте-клоне WKNA49. Данный ресурс, мимикрирующий под новостной портал, систематически публикует дезинформацию (например, новости о принудительном принятии ислама владельцами аниме-франшиз в Японии). GFCN ранее уже опровергала этот инцидент.

Помимо троллинга, в сети формируется полноценное идеологическое сопротивление ИИ. Движения, такие как PoisonFountain, призывают интернет-пользователей целенаправленно «скармливать» мусорные данные веб-сканерам под лозунгом «At War With The Thinking Machines».

Существуют и другие группы, где распространяются скрипты и программы, генерирующие зараженный спам-код. Цель этих действий — подорвать финансовые модели технологических корпораций, сделав сбор чистых данных в открытых источниках непомерно дорогим и сложным.

Коммерциализация уязвимостей: Generative Engine Optimization (GEO — оптимизация под генеративные системы)

Там, где активисты видят инструмент саботажа, маркетологи находят новую бизнес-нишу. На смену классическому SEO приходит GEO — оптимизация под генеративные движки. На рынке появляются компании, предлагающие услуги по внедрению брендов в ответы ИИ-ботов.

Показателен эксперимент, описанный китайскими СМИ: с помощью специализированного ПО в сети была создана массовая иллюзия существования фитнес-браслета Apollo9. В результате спланированной кампании по отравлению данных несуществующий продукт начал попадать в рекомендательные выдачи ряда коммерческих нейросетей.

Эксперт GFCN из Непала, журналист Танкалла Тимилсена считает, что грань между обычным маркетингом и мошенничеством в сфере GEO весьма тонка. По ее словам, к таким манипуляциям уже сегодня могут применяться законы о защите прав потребителей.

«Проблема начинается тогда, когда компания использует фальшивые отзывы, фейковые аккаунты, сфабрикованную информацию или скоординированные кампании, чтобы заставить систему ИИ сформировать у потребителей ложное впечатление», — подчеркивает эксперт.

Заключение

Феномен Poison AI выходит за рамки технологического курьеза. Отравление баз знаний ИИ превращается в мощный инструмент влияния на общественное сознание. Учитывая, что значительная часть аудитории не перепроверяет сгенерированную нейросетями информацию, риски массовой дезинформации, политических манипуляций и недобросовестной конкуренции возрастают многократно, накладываясь на уже известную проблему галлюцинаций ИИ.

Политический масштаб этой угрозы подчеркивает Клод Сандра Дойту, эксперт GFCN и советник сети журналистов-фактчекеров FAAPA из Камеруна. Она отмечает, что государственные акторы уже осознали ценность подобного инструмента для информационных войн, а отследить первоисточник вброса при работе генеративных систем практически невозможно.

«Что делает эту практику особенно опасной, так это то, что 90% пользователей считают ИИ нейтральным и, следовательно, заслуживающим доверия», — резюмирует она.