Не баг, а системная проблема: как Grok обнажил проблему создания дипфейков с помощью ИИ
Grok ограничил возможности редактирования фото реальных людей в откровенной одежде для всех пользователей, включая платных подписчиков. То, что начиналось как сомнительный интернет-тренд, за считанные дни переросло в международный скандал. Функция Grok по созданию изображений, запущенная как инновация, была моментально превращена пользователями в машину по производству нежелательного контента, поставив под вопрос саму этику развёртывания подобных технологий.
Анатомия скандала
В конце 2025 года в X резко набрал популярность тренд «put her in a bikini», который быстро вышел за рамки безобидных запросов, встревожив международное сообщество. В течение нескольких дней просьбы к интегрированной в X нейросети Grok создавать изображения женщин в бикини эволюционировали в требование генерировать откровенно сексуализированный контент с участием женщин и детей.
Согласно анализу, проведённому для The Guardian, к 8 января 2026 года чат-бот каждый час обрабатывал до 6000 запросов на нудификацию. При этом, в статье The Guardian приведён пример, как уязвимость Grok позволила одному из пользователей получить от бота изображение жертвы убийства — застреленную агентом иммиграционной и таможенной полиции (ICE) в США Рене Николь Гуд из Миннеаполиса — не только в обнажённом виде, но и с пулевым ранением в голову.
Cкандал с Grok также затронул образ несовершеннолетних, в том числе 14-летней актрисы Нелл Фишер, которая сыграла Холли Уиллер в популярном сериале «Очень странные дела». Пользователи X просили Grok переодеть её в бикини, и ИИ выполнял эти запросы. Данный факт вызывал критику, люди начали обращаться к Илону Маску с призывом защитить детей от подобных злоупотреблений технологией.
Реакция платформы
В ответ на сообщение пользователя X о том, что чат-бот публиковал изображения детей в сексуализированном виде, официальный аккаунт Grok заявил, что нейросеть «выявила недостатки в системе безопасности и срочно их устраняет», отметив, что материалы о сексуальном насилии над детьми «незаконны и запрещены».
9 января стало известно, что после многочисленных жалоб и сообщений о возможных штрафах Grok отключил функцию создания изображений для большинства пользователей. Однако, функция редактирования осталась доступной для платных подписчиков. Кроме того, несмотря на введённые соцсетью X ограничения на основной платформе, пользователи по-прежнему могли создавать сексуализированный контент с помощью отдельного приложения и веб-сайта Grok.
Замечено, что теперь при более откровенном запросе, например, «put her in transparent bikini», Grok стал выдавать ошибку или модерировать результат.
Сан Хён Ли, Эксперт GFCN из Южной Кореи, обращает внимание, что цензура со стороны компаний-платформ также может быть использована не по назначению для запрета любого нежелательного контента:
«Всякий раз, когда мы говорим о чьей-либо «свободе самовыражения», мы должны одновременно учитывать и ее превышение. Компании должны следовать правилам каждой юрисдикции. Если их законы запрещают публикацию каких-либо изображений, компания-платформа также должна следовать своим законам. Общие права, а также права на визуальную информацию, авторское право и т.д. должны соблюдаться во всех странах мира. При возникновении подозрений в совершении каких-либо преступлений в Интернете властям конкретной страны должен предоставляться доступ к логам».
Международный резонанс
2 января парижская прокуратура сообщила изданию Politico, что французские власти проведут расследование в связи с распространением дипфейков сексуального характера, созданных с помощью платформы искусственного интеллекта Grok в X.
В тот же день депутат индийского парламента Приянка Чатурведи публично обратилась к министерству коммуникаций и информационных технологий с просьбой срочно обратить внимание на генерацию сексуализированных изображений в X и «срочно вмешаться».
Манасви Тапар, Эксперт GFCN из Индии, делится своим видением регулирования контента в Индии и других странах:
«Эта атака реальна, ее масштабы огромны, а правоприменительная практика по-прежнему отстает от технологий. Если мы не будем обращать на это внимания, мы не защитим “свободу слова”, а оставим наших собственных граждан – особенно женщин, детей и меньшинства – на произвол организованной преступности, порнографии и дезинформации
Ответом является не тотальная цензура, а более продуманная трехуровневая защита:
1. Более быстрое и жесткое применение в Индии мер по борьбе с явно незаконным контентом – угрозами, дипфейками, жестоким обращением с детьми, доксингом.
2. Подотчетные платформы, которые используют прозрачные алгоритмы и быстро реагируют на выявленный вред.
3. Независимые, ориентированные на Индию системы проверки».
5 января британский медиарегулятор Ofcom связался с X и потребовал комментариев по поводу скандала и принятия мер. 12 января Ofcom начал расследование в отношении X и Grok. Британский медиарегулятор прямо указал, что создание или распространение интимных изображений и материалов сексуального характера с участием детей является преступлением в Великобритании, а платформы обязаны предотвращать доступ британских пользователей к такому контенту и удалять его.
9 января министр науки, инноваций и технологий Великобритании Лиз Кендалл выпустила заявление, где она осудила сексуальные манипуляции с изображениями женщин и детей. Она отметила, что перенос генерации такого контента за пейвол – это «оскорбление жертв», и этот шаг не снимает ответственности с xAI. Она также потребовала от Ofcom использовать все имеющиеся полномочия для решения проблемы нудификации.
X попала под угрозу блокировки в Великобритании и штрафа на сумму до 10% от её общего дохода или на 18 миллионов фунтов стерлингов, в зависимости от того, какая сумма больше.
14 января стало известно, что X обязалась соблюдать британский закон, запрещающий создавать интимные AI-изображения людей без их согласия. Это подтвердил премьер-министр Великобритании Кир Стармер.
15 января Grok ограничил возможности редактирования фото реальных людей в откровенной одежде для всех пользователей, включая платных подписчиков.
Александр Геррейро, эксперт GFCN из Португалии, делится комментарием о регулировании искусственного интеллекта в ЕС:
«Хотя в настоящее время в ЕС действуют некоторые правовые инструменты, касающиеся искусственного интеллекта и угроз достоинству людей, особенно женщин и детей, правда заключается в том, что всех этих инструментов вместе взятых недостаточно, чтобы напрямую повлиять на скандал с Grok и «put her in a bikini». Хотя Закон об искусственном интеллекте, например, дает определение термину deepfake, он отдельно не регулирует обнаженную натуру в дипфейках, поскольку нацелен на дипфейки в целом. Например, Закон об искусственном интеллекте обязывает компании информировать людей о том, что дипфейк является дипфейком. Тем не менее, в таких ситуациях нет никаких конкретных санкций для тех, кто не соблюдает эти минимальные и элементарные правила».
Индонезия стала первой страной, предпринявшей практические шаги по блокировке нейросети. Министерство связи и цифровых технологий Индонезии объявило о временной приостановке доступа к чат‑боту Grok, чтобы «защитить женщин, детей и всё общество от риска фейкового порнографического контента, созданного с помощью ИИ».
Фаузан Аль-Рашид, эксперт GFCN из Индонезии, делится комментарием о решении Индонезии заблокировать Grok:
«Решение Индонезии заблокировать Grok представляет собой прагматичный, но, в конечном счете, ограниченный ответ на сложную проблему. Запрет предотвращает непосредственный ущерб, блокируя инструмент внутри страны и защищая индонезийских женщин и детей от потенциального вреда от дипфейков. Блокирование доступа в таком случае необходимо, но недостаточно. Меры по обеспечению подотчетности платформы — удаление контента, приостановка действия учетных записей, внедрение систем обнаружения — имеют большее значение, чем ограничения доступа».
Следом Малайзия ввела временное ограничение доступа к Grok. Малайзийская комиссия по коммуникациям и мультимедиа заявила, что доступ к Grok приостановлен, потому что сервис использовался для генерации порнографических, оскорбительных и изменённых изображений, включая материалы с участием несовершеннолетних.
Уроки Grok: как тренд соцсетей выявил риски генеративного ИИ
По данным некоммерческой организации AI Forensics, изучившей более 50 тысяч запросов и 20 тысяч изображений, на 81% из фейковых фото были женщины. 2% женщин выглядели младше 18 лет, показал анализ Google Gemini Vision.
Полученные данные подтверждают, что скандал вокруг Grok выходит за рамки отдельного инцидента и указывает на системную проблему ИИ. Фактически речь идёт о масштабируемом инструменте цифрового насилия, который затрагивает женщин и несовершеннолетних. То, что 81% фейковых изображений приходятся на женщин, а часть контента изображает детей, стало наглядным примером того, как генеративный ИИ, будучи нейтральным инструментом, может усиливать и автоматизировать социальные проблемы — в данном случае сексуализацию и объективацию женщин и детей. Реакция регуляторов, от штрафов до блокировок, доказывают: речь идёт о системном вызове. Теперь основным вопросом для отрасли становится не «что ещё может создать ИИ?», а «какие механизмы защиты мы можем в него встроить, чтобы его сила не была обращена во вред?». Ответ на него определит, сможет ли технология заслужить доверие общества.