Мошенники в Китае провернули аферу с дипфейками на десятки миллионов долларов

Они два года обманывали госсистему распознавания лиц с помощью технологии дипфейк, создающей реалистичные замены лиц на видео или заставляющей фотографии двигаться. За это время аферисты заработали 76 млн долларов. Как это случилось и надо ли законодательно запрещать дипфейки?

Схема китайских мошенников была такой: они покупали фотографии реальных людей в высоком качестве в даркнете, затем «оживляли» их с помощью технологии дипфейк. Через специально перепрошитые смартфоны, у которых система распознавания лиц работает некорректно и принимает дипфейк за реальное лицо, аферисты подделывали налоговые накладные. Об этом сообщает South China Morning Post.

Стоит отметить, что в Китае очень широко распространена биометрия. С ее помощью, например, подтверждают платежи или проверяют личность при оформлении госуслуг. Поэтому в стране теперь усиленно борются с утечкой данных.

С мая за потерю личных данных пользователей будут действовать крупные штрафы — до 50 млн юаней. А еще в Китае действует уголовная ответственность за введение людей в заблуждение с помощью дипфейков. Похожие законы приняли еще в нескольких штатах США и во Франции. И, похоже, все идет к тому, что регулировать дипфейки будут и в других странах.

Приложений, создающих подделки, становится все больше, и за них не нужно платить. Комментирует руководитель проектов «ЭР-Телеком холдинг» Дмитрий Смиркин.

Дмитрий Смиркин руководитель проектов «ЭР-Телеком холдинг»м «Первое — это возможность компрометации того или иного человека: когда используется ваше видеоизображение, а еще хуже — ваш голос для того, чтобы подставить их в какой бы то ни было контекст. Это может быть порноролик, может быть какой-то политически ангажированный сюжет. Второе — это финансовые риски, потому что сегодня все больше операций требует идентификации визуальной либо речевой, потому что речевые помощники развиваются. Если помощники научатся это активно использовать и поставят на поток, то, конечно, угроза возрастет. Не во всех случаях надо ориентироваться только на закон — законы иногда не успевают за технологиями. Технологии можно противопоставить только антидипфейки и другие решения».

Также наш собеседник указывает, что со временем технологии будут только развиваться. Business FM уже рассказывала, что уже сейчас нейросеть научилась с пугающей точностью воспроизводить образы знаменитостей.

Впрочем, госрегулирование вряд ли поможет в борьбе с мошенниками, считает сооснователь и директор по развитию компании «Промобот» Олег Кивокурцев. Он указывает, что IT-корпорации должны разрабатывать механизмы борьбы с дипфейками и развивать программы, позволяющие распознать подделку. Ими смогут пользоваться структуры, использующие биометрию.

Этим, например уже занялся Facebook. В июне этого года компания подведет итоги конкурса на лучшую программу по распознаванию дипфейков. Призовой фонд — 10 млн долларов. Ну а полностью запрещать технологию не стоит, говорит Кивокурцев.

Олег Кивокурцев​ сооснователь и директор по развитию компании «Промобот» «Дипфейки больше полезны, чем представляют какую-то опасность. Ограничивать их стоит только в тех индустриях, где нужна высокая степень кибербезопасности: банкинг, открытие компаний, налоговая служба, юридическая служба и другие. Кинематограф однозначно будет все активней и активней использовать технологии. Индустрия игр также будет использовать дипфейки, и можно будет делать персонажей со своим внешним видом. Также выставочная отрасль будет использовать — чтобы на стенде стояли цифровые аватары известных людей и так далее».

В частности, с помощью технологии создатели фильмов «Форсаж» и «Звездные войны» смогли «воскресить» любимых зрителями актеров — Кэрри Фишер и Пола Уокера. А в рекламе шоколада внезапно снялась молодая Одри Хепберн.