Технологию DeepFake активно используют мошенники в Китае

Общество обеспокоено возможным применением потенциала методов искусственного интеллекта (ИИ) в целях совершения финансовых преступлений. Очередным поводом стал недавний случай мошенничества с использованием технологии синтеза медиаконтента (DeepFake), имевший место в Северном Китае, сообщает PlusWorld.

В рамках прецедента преступникам удалось убедить пользователя перевести деньги якобы другу, а на самом деле — на счета злоумышленников.

В Китае ужесточен контроль за такими технологиями и приложениями на фоне роста мошенничества с использованием ИИ, в основном связанного с манипуляциями с голосом и чертами лица, а в январе 2023 приняты новые правила для правовой защиты жертв.

В полиции города Баотоу во Внутренней Монголии заявили, что преступник использовал технологию ИИ для создания визуального и голосового подобия друга жертвы во время видеозвонка и получения перевода в сумме 4,3 миллиона юаней (622 тысячи долларов) якобы на внесение «другом» залога для участия в торгах.

Потерпевший понял, что его обманули только после того, как его друг сказал, что ничего не знает об этом. Полиция вернула большую часть украденных средств и работает над отслеживанием и возвратом остальных похищенных средств.

Этот случай вызвал на сайте микроблогов Weibo обсуждение проблемы угрозы конфиденциальности и безопасности в интернете, а хэштег «взрывной рост атак с использованием ИИ по всей стране» набрал более 120 миллионов просмотров.