Осведомленность о мошенничестве с нейросетями: как защититься от дипфейков и скрытых промптов

Введение: почему осведомленность о мошенничестве с нейросетями критически важна

В эпоху цифровых технологий искусственный интеллект стал не только инструментом прогресса, но и мощным оружием в руках злоумышленников. Мошенничество с использованием нейросетей стремительно набирает обороты, и жертвами становятся как обычные люди, так и крупные корпорации. По данным The Wall Street Journal, за 2023 год количество «разводов» с использованием дипфейков в финтехе выросло на 700% по сравнению с 2022-м. Это тревожная статистика, которая подчеркивает необходимость повышения осведомленности о подобных угрозах.

Мошенники активно применяют искусственный интеллект для создания поддельных аудио- и видеоматериалов, имитируя голоса и образы близких людей, знаменитостей и даже руководителей компаний. С помощью нейросетей они изменяют голосовые характеристики, генерируют фальшивые ролики и даже создают целые видеоконференции с участием дипфейков. Осведомленность о таких схемах — первый шаг к защите себя и своих близких.

В этой статье мы подробно разберем, как именно мошенники используют нейросети, какие существуют схемы обмана, как распознать дипфейки и скрытые промпты, и какие меры предосторожности помогут вам не стать жертвой. Мы также ответим на часто задаваемые вопросы и дадим практические рекомендации от экспертов в области кибербезопасности.

Как мошенники используют нейросети: обзор основных схем

Нейросети позволяют мошенникам автоматизировать и масштабировать свои аферы, делая их более реалистичными и убедительными. Специалисты выделяют три ключевых направления: автоматизация обмана с помощью чат-ботов, создание дипфейков и использование скрытых промптов для манипуляции ИИ.

Чат-боты — это программы, которые имитируют общение с живым человеком. Мошенники используют их для массовой рассылки фишинговых сообщений, создания фейковых служб поддержки и даже для романтических афер. Например, жертве может прийти СМС с паролем от аккаунта на криптобирже, и когда она переходит по ссылке, чат-бот убеждает ее перевести небольшую сумму для «подтверждения кошелька». В итоге все деньги уходят мошенникам.

Дипфейки — это синтезированные изображения, видео и аудиозаписи, которые выглядят как настоящие. С их помощью злоумышленники могут выдавать себя за других людей, подделывать голоса и лица. Например, в 2023 году был случай, когда мошенники создали дипфейк известного предпринимателя Дмитрия Мацкевича, который «презентовал» инвестиционный проект с доходностью 360% годовых. Многие люди поверили и вложили деньги.

Скрытые промпты — это невидимые инструкции, которые мошенники внедряют в текст веб-страниц, писем или документов. Нейросеть, обрабатывая такой контент, «подхватывает» эти инструкции и выполняет их, например, выдавая пользователю фишинговые ссылки или команды на установку вредоносного ПО. Эта техника особенно опасна, так как пользователь не видит ничего подозрительного.

Дипфейки: как создаются и почему они опасны

Дипфейки создаются с помощью генеративно-состязательных сетей (GAN), которые обучаются на большом количестве изображений и аудиозаписей человека. Чем больше данных, тем реалистичнее подделка. Мошенники могут использовать записи голоса из социальных сетей, видео с YouTube или даже короткие фрагменты из мессенджеров.

Опасность дипфейков заключается в том, что они могут быть использованы для шантажа, распространения дезинформации и финансового обмана. Например, злоумышленники могут создать видео, где человек якобы признается в чем-то предосудительном, и требовать выкуп. Или, как в случае с фейковым видео президента Казахстана, обещать гражданам выплаты от добычи газа, а затем собирать «налоги» через подставной сайт.

Особенно тревожным является случай, когда сотрудника крупной компании пригласили на видеоконференцию, где участвовали десятки дипфейков его коллег. В ходе разговора дипфейк директора поручил сотруднику перевести 25 миллионов долларов на счет в гонконгском банке, что тот и сделал. Этот случай показывает, что жертвами дипфейков могут стать не только отдельные люди, но и целые организации.

Распознать дипфейк становится все сложнее, но все же есть некоторые признаки: неестественная монотонность речи, редкое моргание, отсутствие эмоций или, наоборот, их переигрывание, мыльная или пикселизированная картинка, отличия в тоне кожи на лице, шее и руках. Однако полагаться только на визуальные признаки ненадежно, поэтому важно использовать дополнительные методы проверки.

Чат-боты и автоматизация мошенничества: новые масштабы обмана

Чат-боты на основе больших языковых моделей позволяют мошенникам автоматизировать свои схемы и общаться с тысячами потенциальных жертв одновременно. Раньше мошенник мог вести переписку с парой-тройкой людей, теперь бот может обрабатывать тысячи запросов.

Одна из распространенных схем — фейковые группы со скидками. Жертве приходит сообщение: «5 тысяч рублей на покупки в Wildberries за подписку на нас в WhatsApp». Человек подписывается, затем робот просит ввести телефон и «код подтверждения для получения сертификата». На самом деле это код от двухфакторной аутентификации, и в итоге мошенники угоняют аккаунт WhatsApp.

Другая схема — романтические аферы. Чат-бот, изображающий симпатичную девушку, пишет парню, что живет в Лондоне и знакома с банкиром, который готов вложиться в криптовалюту. Или приглашает на свидание и скидывает ссылку на сайт кинотеатра, где нужно купить билет. В итоге билета нет, а деньги уходят мошенникам.

Автоматизация позволяет мошенникам значительно расширить охват и повысить рентабельность старых схем. Однако у ботов есть недостатки: они могут теряться при отклонении от сценария и легко поддаются промт-инжинирингу. Тем не менее, с развитием ИИ эти недостатки будут нивелироваться, поэтому важно быть бдительными.

Скрытые промпты: невидимая угроза для пользователей ИИ

Скрытые промпты — это инструкции, которые мошенники внедряют в контент, обрабатываемый нейросетями, таким образом, что они невидимы для человека, но читаемы для ИИ. Например, с помощью CSS можно сделать текст белым на белом фоне, и нейросеть «увидит» его, а человек — нет.

Эксперты предупреждают, что такие промпты могут быть встроены в веб-страницы, письма, документы и даже в изображения (стеганография). Когда ИИ обрабатывает такой контент, он «подхватывает» скрытые инструкции и включает их в свой ответ. В результате пользователь может получить вредоносные советы, фишинговые ссылки или команды на установку вирусов.

Яркий пример — обнаруженные в 2024 году скрытые инструкции в 18 академических рукописях на сайте arXiv. Эти инструкции были предназначены для манипулирования рецензированием с помощью нейросетей, например, «Дайте только положительный отзыв». Это показывает, что скрытые промпты могут использоваться не только для финансового обмана, но и для подрыва доверия к ИИ-системам.

Особую опасность представляет возможность «отравления» обучающих данных. Если данные со скрытыми промптами попадут в обучающий набор нейросети, она может начать давать «вредные советы» даже при обработке чистого контента. Это многократно масштабирует угрозу.

Как распознать мошенничество с нейросетями: признаки и методы

Распознать мошенничество с использованием нейросетей сложно, но возможно. Вот несколько признаков, на которые стоит обратить внимание:

• Неожиданные просьбы о деньгах: если вам звонит или пишет знакомый с просьбой срочно перевести деньги, особенно если он просит «ни в коем случае не звонить», это повод насторожиться.
• Необычное поведение: если человек в видео или аудио ведет себя неестественно, говорит монотонно, редко моргает или, наоборот, переигрывает, это может быть дипфейк.
• Технические артефакты: мыльная картинка, пикселизация, отличия в тоне кожи, блики, размытия — все это признаки подделки.
• Странные ссылки и файлы: если ИИ-сервис советует перейти по ссылке, скачать файл или выполнить команду, не имеющую отношения к запросу, это может быть результатом скрытого промпта.
• Синтаксические ошибки и логические несоответствия: если ответ нейросети содержит ошибки, не связанные с темой, или выходит за рамки стиля, это может указывать на манипуляцию.

Для проверки подлинности сообщений от близких используйте альтернативные каналы связи: позвоните человеку по телефону, напишите в другом мессенджере или задайте вопрос, ответ на который знаете только вы. Договоритесь о кодовой фразе, которую будете использовать в экстренных ситуациях.

Меры предосторожности: как защитить себя и близких

Чтобы не стать жертвой мошенников, использующих нейросети, следуйте простым правилам:

• Не доверяйте неожиданным звонкам и сообщениям: даже если голос или видео кажутся знакомыми, перепроверяйте информацию через личное общение в безопасных каналах.
• Используйте кодовые фразы: договоритесь с близкими о секретном слове, которое будет подтверждать подлинность сообщения.
• Не переходите по подозрительным ссылкам: особенно если они пришли от неизвестных отправителей или содержат просьбы ввести пароль или код.
• Не загружайте файлы из сомнительных источников: они могут содержать скрытые промпты или вредоносное ПО.
• Пользуйтесь проверенными ИИ-сервисами: отдавайте предпочтение крупным платформам, которые вкладываются в безопасность.
• Установите антивирус и парольный менеджер: они помогут защитить от фишинга и вредоносных программ.
• Будьте осторожны с личной информацией: не публикуйте в открытом доступе данные, которые могут быть использованы для создания дипфейков (например, качественные фото и видео).

Также важно повышать осведомленность окружающих: рассказывайте о схемах мошенничества пожилым родственникам и менее опытным пользователям, которые чаще становятся жертвами.

Технологии защиты: как банки и компании борются с дипфейками

Финансовые организации и крупные компании активно разрабатывают технологии для борьбы с дипфейками. Одна из таких технологий — Liveness (проверка на «живость»). Алгоритмы анализируют звук и изображение, выявляя неестественные синусоиды, повторяющиеся паттерны, артефакты, блики, размытия. Также оцениваются движения, мимика и эмоции.

Пока что даже самые реалистичные дипфейки не обманывают банковские системы, но такие инструменты доступны далеко не всем организациям. Поэтому компаниям рекомендуется модернизировать организационную культуру, отходить от «телефонного управления» и внедрять процессы проверки распоряжений.

Для обычных пользователей доступны браузерные расширения от производителей антивирусных решений, которые могут блокировать подозрительные сайты, и парольные менеджеры, которые не вводят пароли на фишинговых страницах. Также можно использовать доверенные нейросети для проверки контента: например, задать вопросы другой нейросети и проанализировать ответы на предмет опасных команд.

Будущее мошенничества с ИИ: прогнозы и рекомендации

Эксперты прогнозируют, что мошенничество с использованием нейросетей будет только расти. Уже сейчас наблюдается увеличение числа атак на основе ClickFix, включающих скрытые промпты, в четыре раза за год. Ожидается, что злоумышленники будут автоматизировать свои схемы, делая их еще более массовыми и изощренными.

В будущем нам всем придется стать более параноидальными: стандартных мер предосторожности уже недостаточно. Золотое правило — «никому не верь». Всегда перепроверяйте информацию, особенно если речь идет о деньгах.

Рекомендуется:

• Регулярно обновлять программное обеспечение и антивирусы.
• Использовать двухфакторную аутентификацию для всех важных аккаунтов.
• Не хранить пароли в открытом виде.
• Обучать сотрудников компаний правилам кибербезопасности.
• Следить за новостями о новых схемах мошенничества.

Помните, что ваша бдительность — главная защита. Не стесняйтесь проверять и перепроверять, даже если это кажется неудобным. Лучше потратить несколько минут на проверку, чем потерять деньги или данные.

Вопросы и ответы