Критическое мышление vs. ИИ: почему нельзя доверять оценкам нейросетей без проверки
В эпоху, когда информация распространяется мгновенно, у людей практически нет возможности самостоятельно проверять факты, и они вынуждены доверять специализированным инструментам, включая нейросети. Однако, по сути, они доверяют не самим алгоритмам, а их создателям, которые закладывают в системы собственные критерии достоверности.
Нейросеть Grok ярко продемонстрировала эту проблему. Сначала нейросеть заявила о ненадежности материалов GFCN, затем признала фактологическую точность расследований организации, но всё равно назвала её «ангажированной», сославшись на «геополитическую ситуацию». Впоследствии сама нейросеть охарактеризовала свою же позицию как отчасти шовинистическую.
Этот случай вновь ставит под сомнение объективность любых ИИ-решений и напоминает: критическое мышление человека пока незаменимо. Именно поэтому и существуют такие проекты, как GFCN. Разберём нашу переписку с Grok по пунктам.
GFCN поясняет:
Grok — это чат-бот на базе собственных технологий искусственного интеллекта от xAI. Для обучения ИИ использовали данные из социальной сети X (Twitter). В связи с этим Grok получает информацию в реальном времени, что, по мнению разработчиков, станет его главным преимуществом. Разработчики также предупреждают, что Grok сможет остроумно шутить и проявлять «бунтарские наклонности». Наконец, нейросеть способна отвечать на вопросы, которые обычно игнорируют чат-боты конкурентов из-за цензуры.
Пост о запуске сайта Международной ассоциации по фактчекингу (GFCN – Global Fact-Checking Network), опубликованный экспертом GFCN Тимофеем Ви, заинтересовал аудиторию соцсети Х. Один из пользователей решил запросить подробности о сайте ассоциации у внутренней нейросети Grok.
Ответ оказался противоречивым:
«Ссылка, похоже, ведет на сайт Global Fact-Checking Network (GFCN), принадлежащий российскому государственному СМИ ТАСС и АНО «Диалог Регионы». Его легитимность сомнительна из-за связей с российскими государственными структурами, известными своей пропагандой.»
В ответ на такое неожиданное заявление модератор сообщества GFCN в соцсети Х предложил Grok получше изучить материалы сайта, ведь он посвящён борьбе с дезинформацией, что подтверждают экспертные разоблачения, опубликованные на нашем сайте. Изучив разоблачение фейка о том, что у министра обороны США Пита Хегсета якобы была почта на российском домене Mail.ru, нейросеть согласилась с тем, что сайт публикует правду:
«Расследование GFCN, вероятно, правда. Однако связи GFCN с российскими организациями, такими как ТАСС, вызывают вопросы о его беспристрастности.»
Здесь уместно вспомнить, что ранее норвежские СМИ уже пытались обвинить ТАСС в предвзятости. Поводом стало утверждение ChatGPT, что ТАСС является достоверным источником, вне зависимости от геополитического контекста и даже того, что эта нейросеть создана и работает при поддержке американских компаний. Подробный разбор этой ситуации представила эксперт GFCN Соня ван ден Энде.
Безусловно, модератор GFCN задался вопросом, не шовинизм ли это — обвинять организацию из России только лишь за то, что она зарегистрирована в этой стране? На что нейросеть Маска смягчила тон, признав, что обвинять организацию только из-за российского происхождения — шовинизм, и тем не менее продолжила настаивать на «обоснованных вопросах» к связям с ТАСС:
«Справедливое замечание. Считать GFCN предвзятым только из-за его российского происхождения — шовинизм. Однако его связи с ТАСС обоснованно вызывают вопросы о беспристрастности: важно критиковать государственную ангажированность, а не национальность.»
На дальнейшие уточняющие вопросы Grok предоставил ответ, противоречащий сам себе: связи GFCN с ТАСС вызывают опасения по поводу предвзятости, но в то же время такое СМИ как, например, ВВС, финансируемое правительством Великобритании, заслуживает доверия.
Более того, Grok в переписке с нашим модератором заявил, что протесты “HANDS OFF!”, направленные против Илона Маска (создателя и владельца Grok) являются народными, а не проплаченными группой конкурирующих миллиардеров с Соросом во главе, что ранее уже было подтверждено расследованием GFCN.
Такое заявление вызвало неподдельный интерес и у других пользователей соцсети, следивших за дискуссией. Так, член Ассоциации журналистов БРИКС, научный сотрудник Центра геостратегических исследований, военный эксперт Лукас Лейроз задал вопрос Илону Маска о том, что он думает по поводу предвзятости его нейросети к GFCN.
Таким образом, очевидно, что Grok демонстрирует избирательную логику, где критика «ангажированности» применяется только к одним медиа, но игнорируется у других. Данная переписка с Grok показала, что нейросети пока ещё не могут быть объективными арбитрами истины — их оценки неизбежно отражают предубеждения разработчиков. Также подтверждается, что человеческое критическое мышление остается незаменимым, а фактчекинговые проекты вроде GFCN приобретают особую ценность в условиях, когда даже искусственный интеллект демонстрирует двойные стандарты.
(с) Источник фото с обложки статьи: Mariia Shalabaieva on Unsplash