ИИ-ассистенты: как не стать жертвой собственного удобства

• Скраперы (web-боты)

Эти боты автоматизируют многие процессы в интернете. Анализируют сайты, извлекают необходимые данные для их дальнейшей обработки. Например, специалисты по маркетплейсам используют такие программы для оценки маржинальности продуктов и разработки торговых стратегий.

• Социальные боты

Этих ботов можно встретить в социальных сетях. Они используются для автоматического создания сообщений и имитируют реальных подписчиков для рекламы, пропаганды, мошенничества или просто для создания иллюзии популярности:

— массово подписываются на аккаунты, ставят лайки и оставляют шаблонные комментарии («Круто!», «Супер!»);

—  вступают в чаты и рассылающие спам или фейковые опросы;

— делают массовые репосты (один и тот же контент с хештегами, создавая иллюзию массовой поддержки);

— распространяют фейковые новости, имитируя живых пользователей;

— накручивают лайки/дизлайки постам для манипуляции рейтингами;

— увеличивают просмотры видео и стримов;

— заманивают пользователей на платные сервисы (например, в приложениях для знакомств).

Соцсети постоянно борются с ними, но боты становятся всё сложнее. Как их распознать:

— Шаблонные сообщения (одни и те же фразы у разных аккаунтов). 

— Отсутствие личных данных (пустые профили, стоковые аватарки). 

— Подозрительная активность (сотни лайков/ретвитов за минуту). 

— Низкая вовлечённость (нет ответов на вопросы, только копипаст). 

• Интеллектуальные боты (AI-powered bots)

Созданные на основе искусственного интеллекта, эти боты обладают уникальной способностью самообучения. Они не просто реагируют на запросы, но и самостоятельно принимают решения, а также совершенствуют свои алгоритмы в ходе взаимодействия с пользователями.

Примеры интеллектуальных ботов:

1. Чат-боты с NLP (обработка естественного языка) могут вести осмысленные диалоги, писать код, анализировать тексты и обучаться на взаимодействиях (ChatGPT, Gemini)

2. Боты для клиентской поддержки:

— помощь в IT-вопросах (Copilot), банковские ассистенты (чат-бот U.S. Bank)

— боты-рекомендатели – алгоритмы анализируют поведение пользователя и подбирают контент под его интересы (Spotify, YouTube в медиа, Amazon, AliExpress в торговле). 

3. Автономные торговые боты анализируют рынок, прогнозируют тренды и совершают сделки без человека (3Commas, TradeSanta)

4. Креативные ИИ-боты генерируют изображения по текстовому запросу (DALL·E, MidJourney), создают музыку в реальном времени на основе ИИ (Mubert), обрабатывают видео, в том числе создавая дипфейки (FaceSwap)

5. Медицинские диагностические ИИ задают уточняющие вопросы, как врач, и предлагают возможные диагнозы (Ada Health, WebMD), описывают мир через камеру для слабовидящих пользователей (Seeing AI).

6. Боты для кибербезопасности выявляют атаки, анализируя аномалии в сети (Darktrace), обнаруживают мошеннические операции (антифрод-боты)

7. Игровые ИИ-боты обучаясь на миллионах партий играют на уровне топовых киберспортсменов (Dota 2) и даже обыгрывают мировых чемпионов (AlphaGo)

За и против

В эпоху информационных технологий нельзя не признать, что боты будут всё более активно проникать в нашу жизнь. Бизнес, например, всё чаще будет использовать их для освоения новых рынков и повышения качества обслуживания клиентов. То же самое ожидается и в социальных сетях и мессенджерах. Именно здесь кроются главные опасности:

• Мошенничество

В соцсетях и мессенджерах помимо ботов, ориентированных на публикацию контента, существуют и другие, откровенно мошеннические и криминальные. Необходимо проявлять бдительность, если электронный собеседник требует предоставления конфиденциальной информации, например, данных паспорта или банковских карт. С помощью Telegram-ботов создаются различные схемы обмана, например, фальшивые сообщения о взломе аккаунта, а также попытки шантажа.

Так, во время президентской кампании в Бразилии в 2014 году кандидаты Дилма Русефф и Аэсиу Невес активно использовали боты в соцсетях и мессенджерах, чтобы усилить поддержку своих предвыборных хэштегов и таким образом влиять на общественное мнение. Хештеги, связанные с Невесом, росли втрое в течение 15 минут после дебатов, и было обнаружено десятки аккаунтов, делавших репосты его материалов — сотни раз каждый.

• Искажение информации

Важно понимать, что ИИ обучается на основе открытых данных, которые не всегда могут быть правдивыми, а запросы пользователей не всегда понятны системе, таким образом виртуальные помощники замечены в регулярных фактических ошибках. Это может быть критично, если на бота опираются как на единственный источник данных без дальнейшей перепроверки предоставленных им сведений.

Бот может назвать неверные даты событий или придумать несуществующие научные исследования, давать неправильные инструкции по ремонту техники, генерировать нерабочий код, создавать неправдоподобные изображения и видео. Всегда перепроверяйте данные, полученные от виртуальных помощников. Помните — это лишь подсказки для дальнейшей работы, а не окончательный и безупречный ответ. Проверка фактов остаётся важнейшим этапом работы с любой информацией.

• Вред здоровью

Говоря о ботах-помощниках всегда важно помнить, что это лишь выдача алгоритмов, а не живой, учитывающий все человеческие реалии, индивидуальные особенности и аспекты этики анализ.

Например, исследователи обнаружили, что чат-бот GPT с искусственным интеллектом, не смог правильно диагностировать 83% педиатрических случаев, которые исследовал.

Таким образом, прибегая к подсказкам медицинских ботов, можно найти верный вектор для обследования, но не стоит полагаться на него, как на последнюю инстанцию, а тем более слепо следовать его рекомендациям. Всегда консультируйтесь с врачом!

Как минимизировать риски:

• Использовать боты только для первичного сбора подсказок и идей.
• Всегда перепроверять рекомендации виртуальных помощников.
• Перед переходом по ссылкам из мессенджеров необходимо проявлять бдительность: фишинговые ссылки часто имеют подозрительные доменные имена, которые имитируют известные информационные ресурсы.
• Не передавать конфиденциальные данные! Если бот интересуется такой информацией, то перед вами не помощник, а опасный злоумышленник.
• Неожиданные «выгодные» предложения от неизвестных пользователей в мессенджерах – классический мошеннический ход. Всегда отмечайте такие сообщения как спам и обман.
• Обращайте внимание на странное поведение бота. Если ассистент даёт противоречивые ответы, настойчиво требует личных данных или ведет себя неестественно — прекратите диалог.
• Используйте официальные сервисы. Взаимодействуйте только с ботами, интегрированными в проверенные платформы (сайты банков, государственные порталы, известные мессенджеры). Избегайте подозрительных Telegram-ботов или случайных чатов в соцсетях.
• Обновляйте ПО и включайте двухфакторную аутентификацию. Это снизит риск взлома аккаунтов, через которые могут рассылаться мошеннические боты.