滚动 > 正文
老款榴莲视频app让你榴莲忘返了怎么办?网友:当然是尽情享 |“AI换脸”新骗局来袭,公众如何避免“入坑”?
2023-06-07 19:17来源:新华社编辑:顾季竹

近日,据“平安包头”微信公众号消息,内蒙古自治区包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术佯装熟人,进行电信诈骗的案件,福州市某科技公司法人代表郭先生在短短10分钟内被骗走430万元。案件披露后,引起舆论高度关注,一时之间,“AI诈骗正在全国爆发”等相关词条占据微博热搜榜前列,生成式人工智能再次引发热议。

技术门槛降低,技术小白也可轻易实现

张嘴、点头、摇头,摄像头在捕捉到人的动作后,屏幕中静态的人像就可以动起来。不仅能进行眨眼、露齿、微笑等表情动作,在动作幅度上也能够达到与真人基本一致,仿真度颇高。短短几分钟内就可以生成一段视频,且能够根据需求任意替换脸部。

这样的AI换脸技术正成为一些不法分子用以进行新型诈骗的工具,他们“变身”为特定人物,实时与他人进行视频通话,冒充熟人的身份联系被害人,博取信任后实施诈骗。声音、相貌等原本具有特异性、标志性的个人身份特征,在技术的“侵袭”下,逐渐被打破边界。

对此,业内某网络公司高级技术人员何勇告诉记者,目前AI换脸技术主要通过深度学习和计算机视觉技术实现。“通过深度神经网络去分析、识别视频中的人脸,再将人的脸部特征映射到另一个人的脸上。”在视频通话中,犯罪分子会通过发送“定制”好的视频或者使用换脸软件,获取对方的信任并实施诈骗行为。他表示,目前很多代表性的生成方法已经被开源,技术逐渐走向公开和轻量化,市场上有大批提供相关服务的第三方应用软件。“应用门槛比较低,哪怕是‘技术小白’,也能在几分钟内轻松学会AI换脸等操作。”

“以假乱真”仍非易事,需注意不自然的细节

那么,目前的AI换脸技术成熟度如何,是否能够达到以假乱真的程度?

何勇表示,尽管目前AI换脸技术的成熟度在不断提高,但要达到完全以假乱真的程度,仍存在一定的限制。“就现在的技术水平所最终呈现出的效果而言,不同面部表情之间的变化、过渡以及声音模拟在节奏、音高变化等方面,还是会与原始视频有较大的差别,因而显得不够自然。”

而所谓AI诈骗,也就是在原本的诈骗剧本上叠加一层AI技术,增强其迷惑性,本质上来说,行骗手段仍然在于骗取受害者的信任。因此,对于普通老百姓而言,了解了技术缺陷,AI诈骗也并非完全防不胜防。

针对如何进行判断、分辨,何勇提供了几个简单有效的技巧:在视频通话过程中让对方尽量展现全身的特征,同时观察人脸是否会随之出现消失或特殊的变化。也可以让对方用手或白纸在脸前缓慢晃动,如果是通过AI换脸合成的视频,脸就会变形或出现画面闪烁现象,以此来进行判断。此外,在家人、朋友之间约定好特定的“暗号”,尤其是在涉及到钱财交易方面,通过“暗号”相互确认。

业内人士还建议,尽量不要在社交媒体上发布个人与家人相关照片、语音、视频等,以防被不法分子利用。

政策法规仍待细化,防范风险离不开多方发力

记者注意到,除了AI诈骗,恶意滥用AI换脸等技术进行恶搞、冒充明星带货、制作不良视频等乱象也频频出现。对此,国家网信办、各地网警也在加紧对类似的违法违规现象进行整治,相关的政策法规也逐渐出台。

目前《中华人民共和国民法典》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等我国多部法规,均涉及深度合成应用的规范。2022年11月25日,国家网信办联合相关部门联合发布了《互联网信息服务深度合成管理规定》,对深度合成内容的用途、标识、使用范围以及滥用处罚作出了具体规定,尤其对作为深度合成服务提供者的平台方进行了审核、评估、监管等提出明确要求,此规定已于今年1月10日起正式施行。

尽管如此,仍有专家指出,对于深度合成服务与应用方面还需要进一步细化和明确。律师尚博表示,深度合成技术相关的一些概念界定、平台责任边界等问题的确在法律上面临挑战。她认为,《规定》在一定程度上,能够规范符合市场需求的应用技术,但对于技术的滥用,甚至是从事违法犯罪行为并不能起到限制或禁止的作用。

面对越来越“高明”的网络诈骗手段,要如何警惕与防范AI换脸等技术可能带来的不良后果?

尚博表示,“这需要个体、企业和政府多方发力,共同提升信息保护意识和能力。”她建议道,政府部门要加强AI换脸技术监管力度,并制定相应的法律法规,明确开发商、运营商及使用者的责任边界与处罚标准。对于掌握和运营大量人脸信息、语音数据的机构、组织而言,需严格对AI换脸技术进行内部监管,设定审核机制,规范使用行为。最关键的是要提高个人防范意识,警惕被相关软件收集人脸、声音等个人敏感信息。在面对涉及财物交易的事宜,通过个人、亲友、单位等多渠道联系、核实后,再进行交易。

新华日报·交汇点记者 张洁茹

p__jin_ri__ju__ping_an_bao_tou__wei_xin_gong_zhong_hao_xiao_xi__nei_meng_gu_zi_zhi_qu_bao_tou_shi_gong_an_ju_dian_xin_wang_luo_fan_zui_

ju_dian_xin_wang_luo_fan_zui_zhen_cha_ju_fa_bu_yi_qi_shi_yong_zhi_neng_a_i_ji_shu_yang_zhuang_shu_ren__jin_xing_dian_xin_zha_pian_de_an_jian__fu_

zhou_shi_mou_ke_ji_gong_si_fa_ren_dai_biao_guo_xian_sheng_zai_duan_duan_1_0_fen_zhong_nei_bei_pian_zou_4_3_0_wan_yuan__an_jian_pi_lu_hou__yin_qi_yu_

标签: