随着科技的飞速发展,给我们的生活带来了许多便利,也让电信网络诈骗的花样多了起来。
日前,央视新闻频道报道了湖北黄石破获的一起用AI换脸技术解锁社交账号并倒卖获利的诈骗案。
报道提到,在AI时代,肉眼所看见的也不一定是真相,一些不法分子利用“AI换脸”技术实施诈骗,已成为一种新型骗局。
一张“肖像照片”、一段“貌似熟人的视频”,都可能被不法分子利用作为诈骗的手段和工具。
据央视网报道,工信部反诈工作专班专家介绍,除了让照片上的人像活化,AI换脸技术还能实现在即时视频通信状态下的实时换脸。
如果该技术被不法分子掌握,就可能在即时通信或者社交软件上伪装成他人,开展相应的诈骗活动。
工信部专家表示正会同行业内的手机终端企业,将推出AI换脸诈骗风险提醒功能。
这项功能仅在手机端来本地运行,能够有效保护用户数据不泄露,经过用户授权后,可为用户提供AI换脸诈骗风险预警提醒。
根据测试,当用AI换了脸的技术人员与测试方发起视频通话时,测试手机终端提示“对方疑似假冒身份”,点击检测按钮,经过图像扫描,系统提示“AI换脸合成概率93%”。