Развитие генеративного искусственного интеллекта расширяет возможности пользователей в разных сферах, но те же технологии осваивают и мошенники. Написание убедительного текста, подделка голоса, изображения или видео требуют от аферистов меньше времени и специальных знаний, сказали РИАМО в пресс-службе Центра биометрических технологий.

«Современные ИИ-модели могут создавать сообщения от имени банка, работодателя, маркетплейса или государственного ведомства и адаптировать их под обстоятельства конкретного человека. Синтез речи дает возможность имитировать голос родственника, коллеги или руководителя по фрагментам из социальных сетей, голосовых сообщений и публичных выступлений», – отметили в центре.

Особенно убедительными могут быть комбинированные сценарии. Например, сначала человеку пишет якобы знакомый сотрудник, затем приходит сообщение от «начальника», а после звонит «представитель службы безопасности». Но и качественный дипфейк остается элементом легенды, который помогает убедить человека, но не предоставляет доступа к банковскому счету или госсервису.

Генеративный ИИ помогает аферистам делать такое воздействие более точным и масштабируемым. Злоумышленник может быстро подготовить персонализированный сценарий, воспроизвести стиль общения знакомого человека, поддерживать продолжительный диалог и менять аргументы в зависимости от реакции собеседника. За счет этого привычные схемы становятся сложнее для распознавания: в одной атаке могут сочетаться сообщение, звонок, голосовая запись, поддельный документ и фишинговая страница.

Распространение дипфейков одновременно усиливает опасения вокруг биометрических сервисов. У россиян возникает вопрос, могут ли размещенные в Сети фото, видео или записи голоса использоваться для подтверждения личности. Здесь важно разделять два разных риска: воздействие на человека с помощью убедительной подделки и попытку пройти техническую проверку от его имени.

Надежность биометрических сервисов обеспечивается сочетанием нескольких защитных механизмов. После подтверждения личности пользователь добровольно регистрирует биометрические данные. Система выделяет индивидуальные признаки лица и голоса и преобразует их в набор числовых характеристик. В защищенном контуре используются не фото или записи как «пароль», а зашифрованные цифровые представления этих признаков.

Допзащиту обеспечивает анализ контекста проверки и совершаемой операции на стороне поставщиков услуг. Такие системы учитывают совокупность технических и поведенческих сигналов, чтобы выявлять нетипичные сценарии и признаки возможного мошенничества.

Ранее петербуржцам рассказали, как аферисты могут «развести» при попытке продать игровой аккаунт.