ИИ, дипфейки и «когнитивные фейки»: Юлия Аблец на ПМЭФ рассказала о глобальных стратегиях фактчекинга
В рамках Петербургского международного экономического форума (ПМЭФ) на секции «Международный фестиваль молодежи: контент и события, привлекающие инвестиции в страну» состоялось обсуждение глобальных вызовов в сфере информационной безопасности. Основатель «Мастерской новых медиа» (МНМ) — организации, выступившей соучредителем Global Fact-Checking Network (GFCN), — Юлия Аблец представила комплексный подход к борьбе с недостоверной информацией и указала на новые угрозы, формируемые нейросетями.
По словам спикера, недавно созданная международная ассоциация Global Fact-Checking Network (GFCN), объединяющая значительное количество участников со всего мира, ставит своей ключевой задачей системное противодействие фейкам на глобальном уровне.
«Сегодня наша работа с фейками и противодействие им строится на трех уровнях», — подчеркнула Юлия Аблец, детализировав структуру этой борьбы.
Три уровня противодействия недостоверной информации:
- Технологический уровень. Основан на прямом диалоге с ИТ-платформами. Главная цель — внедрение умных алгоритмов, способных превентивно останавливать распространение ложной информации, обеспечивать быстрое реагирование и маркировать подозрительный контент, помогая пользователям ориентироваться в информационном потоке.
- Экспертно-методический (нормативный) уровень. Подразумевает разработку четких методик квалификации информации. Этот процесс значительно усложнился с развитием генеративных технологий.
- Человеческий (кадрово-образовательный) уровень. Включает в себя обучение как потребителей, так и создателей контента. Для аудитории критически важно формирование культуры потребления информации и навыков верификации источников. Для авторов — развитие ответственного подхода к созданию и распространению материалов.
Особое внимание в выступлении было уделено проблеме идентификации сгенерированного контента. Развитие технологий привело к тому, что традиционные методы визуальной оценки теряют актуальность.
«Сегодня это делать крайне сложно, потому что технологии искусственного интеллекта позволяют производить высококачественные дипфейки. Зачастую обычным взглядом вы не распознаете, фейк это или не фейк», — отметила основатель МНМ.
В связи с этим в профессиональном сообществе актуализируется масштабный философский спор о подходах к регулированию. В частности, обсуждаются два принципиально разных варианта: маркировать контент, созданный нейросетями, либо же, по аналогии с продуктами ручной работы, вводить специальную маркировку исключительно для материалов, созданных человеком.
Угроза «когнитивных фейков»
Отдельным вектором работы ассоциации становится изучение нового типа информационных искажений, не связанных с намеренной ложью. Речь идет о специфике обучения нейросетей на массивах данных, принадлежащих к одной конкретной культуре (например, западной или азиатской).
Юлия Аблец привела пример недавнего исследования индонезийских ученых. Они протестировали западную модель ИИ, задавая ей бытовые вопросы. Выяснилось, что советы нейросети транслировались исключительно через призму западной культуры, что приводило к искажению информации для жителей Индонезии.
«Это новый когнитивный фейк, когда контент интерпретирует то или иное событие не в той логике, которая свойственна человеку и той среде, в которой он вырос», — резюмировала Аблец.
В завершение выступления спикер призвала аудиторию к повышению уровня информационной грамотности и упомянула образовательные инициативы ассоциации. В частности, был анонсирован базовый курс по правилам противодействия фейкам, который на данный момент переведен на 51 язык и доступен для широкой аудитории.