Голосовые дипфейки: как мошенники подделывают голоса

Современные технологии синтеза голоса достигли невероятного уровня реалистичности. Всего несколько секунд аудиозаписи теперь достаточно, чтобы создать точную цифровую копию человеческого голоса. Однако простота создания реалистичных голосовых копий требует новых подходов к защите персональных данных. Разбираемся, как работают эти системы и какие новые вызовы для безопасности они создают.

Специалисты предупреждают, что злонамеренные манипуляции с аудиозаписями, которые технически проще реализовать, чем создавать дипфейк-видеоролики, будут только увеличиваться в объёме. Современные системы синтеза речи стирают грань между реальностью и подделкой, создавая в том числе и беспрецедентные угрозы для безопасности, именно поэтому важно быть в курсе о том, как развиваются эти технологии и как их могут использовать злоумышленники.

В последнее время всё большую популярность у мошенников схема набирает схема «FakeBoss»: злоумышленники создают фейковый аккаунт руководителя, как правило, в Telegram, и звонят жертвам, используя подмену голоса и выдавая себя за руководителя организации. Также с помощью ИИ хакеры могут подделывать голоса руководителей компании для авторизации перевода средств. Таким атакам наиболее подвержен малый и средний бизнес, где многие процессы завязаны именно на владельце.

Так, в 2020 году мошенники подделали голос директора банка в ОАЭ и использовали его для ограбления. Для убедительности они также отправляли письма от имени начальства и юристов управляющему филиалом банка. В результате тот поверил, что компания находится в процессе заключения крупной сделки и выполнил указания звонившего дипфейк-босса и совершил ряд крупных денежных переводов общей суммой в $35 млн.

Один из самых громких случаев кражи с помощью дипфейка произошёл в Гонконге, где мошенники подделали голос и генерального директора крупной компании, и ряда его сотрудников, используя данные из их соцсетей. Таким образом, они организовали групповой созвон, чтобы обмнауть финансового директора компании. В результате им удалось убедить его перевести 25 миллионов долларов на указанный счёт, компания понесла огромные убытки. Этот случай показывает, что голос больше не является надёжным подтверждением личности.

Но что, если голосовой дипфейк используют не просто для кражи денег, а для шантажа? Представьте, что преступники создают поддельную аудиозапись, где вы якобы произносите что-то неприемлемое — признание в преступлении, оскорбления или даже угрозы. Затем вам звонят и требуют деньги за то, чтобы эта запись не попала в интернет. Это уже не теория, а реальность. Подобные схемы начали появляться в разных странах, и пострадавшие часто даже не могут доказать, что запись была подделана. Полиция и суды пока не имеют надёжных инструментов для идентификации голосовых дипфейков, а значит, злоумышленники могут действовать практически безнаказанно.

Такой случай произошёл в 2023 году в Аризоне (США). Анонимный звонивший сообщил женщине, что похитил её 15-летнюю дочь, и потребовал выкуп. По словам женщины, она отчётливо слышала на заднем плане плач, крики и мольбы своей дочери, но звонивший отказался передать ей трубку. К счастью, до уплаты выкупа жертва успела убедиться, что её дочь в безопасности и её не похитили. Об этом немедленно сообщили в полицию, которая затем определила звонок как обычное мошенничество.

Голосовые дипфейки могут использоваться в корпоративном шпионаже, когда мошенники подделывают голоса сотрудников и получают доступ к конфиденциальной информации. Например, хакеры могут создать запись, где «директор» просит IT-отдел выдать им новый пароль или изменить настройки безопасности. Если подделка выполнена достаточно хорошо, сотрудники даже не задумаются о том, что их обманывают.

Самое сложное в борьбе с голосовыми дипфейками — это их массовое распространение. Один из самых опасных сценариев — использование голосовых дипфейков в телефонном мошенничестве.

Например, вам звонят «из банка» и говорят, что ваш счёт заблокирован, а чтобы его разблокировать, нужно пройти «аутентификацию» через голосовое подтверждение. На самом деле вас просто просят произнести определённые слова, которые потом используются для кражи вашего голоса и проведения махинаций с вашими данными.

Голосовые дипфейки — реальная угроза, но не стоит паниковать раньше времени, а тем более спешить выполнять требования голоса. Помните: не каждый подозрительный звонок — это дипфейк, но каждый требует проверки. О том, как обезопасить себя от аудио-подделок, читайте в следующих материалах.