“AI换脸”技术成本不断下降金融机构敲响警钟
2023-05-29 13:00:00 来源: 财经新闻网
财经新闻网消息：
5月24日，中国互联网协会发布公告称，随着深度合成技术开源，深度合成产品和服务逐渐增多，使用“AI换脸”等虚假音视频属于违法行为。 “AI变声”诈骗诽谤。 行为并不少见。 广大民众需提高警惕，加强预防。 事实上，近期AI行业发展的乱象备受关注，如何保障人工智能的健康持续发展正在被业界广泛讨论。
《证券日报》记者连日来走访调查发现，“AI换脸”的技术复杂度逐渐降低，质量迅速提升，让普通民众难以辨别真假。 与此同时，此类骗局蔓延至金融业，部分券商已提醒投资者提防此类高保真骗局。
受访专家普遍认为，“AI换脸”技术的滥用给金融机构敲响了警钟，其复杂性、隐蔽性、突发性对机构的技术识别和应用提出了更高的要求。
“AI换脸”技术
成本下降
如今，打开搜索平台和社交媒体，随处可见各种“AI换脸”的销售和教程。 《证券日报》记者以买家身份咨询了一家销售“AI换脸”服务的公司。 该公司客服表示，视频换脸的价格是根据分辨率和视频时长确定的，每30秒计算一次价格。 根据对方提供的清单，预充3000元可以获得6个视频，5000元预充20个，30000元预充3000个。 充值越多，单价越低。
在对方展示的教学视频中，用户只需上传一张人脸照片，通过简单的步骤即可完成“一键换脸”。 客服表示，换脸后的视频可以绑定视频号等正规直播间。 记者观察其提供的拍摄效果，真假难辨。
北京大成律师事务所高级合伙人、香港城市大学法学院访问学者肖萨认为：“‘AI换脸’的成本降低会导致技术滥用，以及各方应致力于规范技术发展。”
“‘AI换脸’技术的成本涉及技术复杂度、获取人脸的质量和数量、算法和模型的选择等。虽然‘AI换脸’技术的成本不一，但总体呈下降趋势。其中，随着算法、模型等技术的进步，‘AI换脸’的技术复杂度将进一步降低，换脸质量将得到提升。” 中关村科进金融事业部技术专家张伟向《证券日报》记者解释道。
索信达控股AI创新中心主任邵军告诉《证券日报》记者：“目前‘AI换脸’技术比较成熟，成本也在不断下降，很容易被不法分子利用 值得注意的是，所售卖的个人信息是“AI换脸”骗局中需要喂养的“原料”，这种侵犯个人隐私、贩卖信息的行为需要严厉打击。”
防止犯罪分子利用新技术
进行财务欺诈
调查中，记者了解到，当前“AI换脸”诈骗正在向金融行业蔓延，部分券商已发布提示公告。
例如，太平洋证券发布公告称，不法分子利用“AI换脸”、声纹等新技术，冒充金融机构从业人员实施诈骗。 在此类事件中，不法分子利用虚假技术，冒充金融机构工作人员或其他与投资者有业务往来的诚信人员，通过直播、群导等方式，浏览假冒金融机构网站、下载假冒官方APP等方式。取得投资者的信任，骗取投资者的钱财。
太平洋证券表示，投资者要提高警惕，识别“AI换脸”等高度模拟的诈骗手段，切勿轻信微信好友视频紧急救助、财务人员稳赚新股申购或高收益理财产品机会无需多次确认。 ; 更不用说盲目缴纳会员费或授权他人代为操作账户管理和交易事宜。
那么，针对“AI换脸”等新型诈骗手段，投资者该如何防范风险呢？ 易观金融行业资深顾问苏小蕊告诉记者：“目前，一些金融从业者和金融客户通过企业微信、个人微信等社交渠道，一对一建立联系、进行业务维护。方式，容易违法，分子利用“AI换脸”诈骗，建议个人和机构员工通过微信等软件联系时获取的信息，特别是涉及投资、转账等资金的敏感信息，需要通过机构官方App、官方热线等渠道进行核对。”
免责声明 ① 本网所刊登文章均来自网络转载;文章观点不代表本网立场,其真实性由作者或稿源方负责 ② 如果您对稿件和图片等有版权及其他争议,请及时与我们联系,我们将核实情况后进行相关删除 ③ 联系邮箱:215858170@qq.com
