Ученые Санкт-Петербургского федерального исследовательского центра РАН разработали методы автоматического распознавания дипфейков – изображений, созданных или измененных с помощью искусственного интеллекта.

Дипфейки представляют собой реалистичные изображения и видео, полученные с использованием нейросетей. Они могут применяться как для создания качественного контента, так и для мошенничества и компрометации людей. Киберпреступники используют дипфейки для шантажа, подделки документов и фотографий.

Один из методов обнаружения дипфейков основан на выявлении признаков так называемого апскейлинга – улучшения качества изображения путем увеличения его разрешения. Этот метод был разработан младшим научным сотрудником Лаборатории проблем компьютерной безопасности СПб ФИЦ РАН Дмитрием Весниным.

Ученые разделили дипфейки на три типа: полностью сгенерированные нейросетью, фотографии с добавленными элементами и модифицированные фотографии. Для их обнаружения создается база данных, на основе которой будет обучена нейросетевая модель.
Сейчас ученые СПб ФИЦ РАН работают над созданием открытой библиотеки интеллектуальных методов для обнаружения поддельных и измененных фотографий лиц. Библиотека сможет в реальном времени анализировать изображения и определять наличие признаков подделки. Проект поддержан грантом Фонда содействия инновациям.