中国山东网中国山东网新闻 扫除网络谣言 构建清朗网络空间正文

防治AI换脸滥用需要道高一丈

2023/6/12 13:13:32   来源:中央网信办举报中心    

  近日,一则不法分子使用人工智能(AI)换脸技术诈骗400余万元的新闻持续登上热搜。10分钟被AI换脸骗走430万元!复盘这起案件的来龙去脉,可以发现其中套路在之前的电信网络诈骗案件中多有上演,即不法分子佯装熟人获取被害人信任,然后伺机实施诈骗。只不过这起案件中的不法分子颇“赶时髦”,使用了AI换脸拟声技术,以致受害人并未发现其中异常,从而掉入不法分子设计的圈套。这起案件在让人们震惊之余,也引发了公众对规范AI应用的思考。

  事实上,运用AI技术换脸并非新鲜事。早在2019年,市场上就已出现相关应用。客观来讲,合理使用AI技术,不仅能够丰富网络内容生态,也能给老百姓的生活带来一些便利和多样化体验。不过,该技术一旦被用于违法犯罪,由于其足以产生以假乱真的效果,那么就会让人防不胜防,进而给公民个人财产安全带来威胁,并给网络空间秩序的维护、违法犯罪的打击治理带来挑战。

  其实,我国法律对此类违法犯罪行为的态度是非常明确的。我国民法典、个人信息保护法均明确规定,公民肖像权、个人信息权益受法律保护。为了实现对电信网络诈骗的源头治理与综合治理,去年我国还专门出台了反电信网络诈骗法。特别需要指出的是,为了加强对深度合成技术的规范管理,去年12月,多部门还联合发布了《互联网信息服务深度合成管理规定》。这些都为打击治理此类违法犯罪提供了明确的法律依据。

  当然,在完善法律法规的同时,也需要监管部门与时俱进运用先进技术、优化相关机制,不断提升打击治理此类违法犯罪的能力。在此次案件中,警方联动银行迅速启动止付机制,及时帮受害人挽回大部分损失,就非常值得肯定,这也启示相关部门要时刻加强专业能力建设。

  技术从来都是一把双刃剑,技术治理也是一场永恒的攻防对抗博弈。面对技术发展衍生的违法滥用问题,只有“道高一丈”,完善法律制度与强化监管并举,加大反诈宣传与提升技术反制能力同行,才能更好“校准”技术运用方向,让技术进步真正为人类谋福祉。(作者 马树娟)

编辑:温伟伟    责任编辑:刘锬

相关阅读

免责声明

1、凡本网专稿均属于中国山东网所有,转载请注明来源及中国山东网的作者姓名。

2、本网注明“来源:×××(非中国山东网)”的信息,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若作品内容涉及版权和其它问题,请联系我们,我们将在核实确认后尽快处理。

3、因使用中国山东网而导致任何意外、疏忽、合约毁坏、诽谤、版权或知识产权侵犯及其所造成的各种损失等,中国山东网概不负责,亦不承担任何法律责任。

4、一切网民在进入中国山东网主页及各层页面时视为已经仔细阅读过《网站声明》并完全同意。