AI换脸被曝有两大风险 对我们又会产生什么影响

1条回答
电影头条 关注
2019-09-01 14:04:34

9月1日消息(记者潘毅)据中央广播电视总台中国之声《新闻纵横》报道,这几天,一款名叫“ZAO”的软件受到热捧,相信不少人在自己的朋友圈都看到有朋友转发通过这个软件生成的“换脸视频”。

AI换脸两大风险

 利用这款软件进行“换脸”,首先需要用手机号动态验证码进行验证登录。用户如果想要下载或分享换脸视频,则需要进行验证确认所使用的照片的确是用户本人,而验证的方式则是在摄像头前进行眨眼、扭头、张嘴等指示动作。中国政法大学传播法研究中心副主任朱巍分析,在这个过程中,可能存在核心个人信息泄露的风险,“首先换脸技术,包括在搜集过程中转动脸部、眨眼,本质是搜集了你面部的识别信息,这个是用户最核心的个人信息。个人信息一旦被比对之后,如果落到坏人的手里,有可能涉及到财产安全和人身安全的问题。”

软件宣称,照片提交上传后,会对照片进行非公众人物验证和肖像权验证,确保符合相关法规才能使用。没有经过自拍验证的照片会有使用次数限制,也无法被分享或下载。

AI换脸两大风险

虽然相关措施一定程度上可以起到防止用户滥用他人照片恶搞,但朱巍指出:“这种东西看似是以娱乐为目的,因为大家笑一笑不会产生什么伤害。但是因为技术的发展,‘道高一尺魔高一丈’,如果被坏人利用,一方面利用这个技术,另外一方面盗取了这些换脸的信息,包括用户所有的个人信息,一旦匹配成功,轻则精准诈骗,重则有可能用户的账号、密码都处在不安全的状态,所以平台的责任更大,它(软件)的影响范围越大,越火,平台的社会责任和在道德责任层面上的法律责任也就越高。”

与此同时,软件内置可供选择的影视剧片段中,有包括《延禧攻略》《长安十二时辰》《还珠格格》在内的多部热门国内电视剧,也有石原里美、莱昂纳多·迪卡普里奥等国外明星的影视剧片段,还有大量热门的综艺片段。对此,朱巍指出:“换脸技术涉及的是要放到影视剧里面去,影视剧本身涉及著作权、知识产权。突然间把脸换了,是不是构成合理使用?这个可能跟知识产权法有密切关系。”

AI换脸两大风险

 其实,人工智能进行换脸的技术数年前已经出现。2017年,国外一个论坛用户首先将自己制作的换脸视频发布在网络上,利用这一技术,他将国外女明星的照片与色情影片合成,几乎以假乱真,一度引发巨大争议。虽然相关视频最终被删除,但是这项技术随后被开源。今年年初,有国内用户在网络上发布一段合成的换脸视频,将一段电影片段中朱茵的脸换成了杨幂,也曾引起争议。随着如今这款软件的爆红,视频“换脸”门槛进一步降低。

朱巍分析:“很多的换脸实际上并非是以娱乐为目的的,有一些比如涉及到人格尊严,包括人的名誉权、肖像权的侵害,他换的可能不是自己的脸,而是别人的脸,或者在一些非法低俗的网站上进行这样的行为,尤其它做得特别逼真,非常有可能让其他人认为是不是被换脸的这个人实际从事的表演,这些都是安全隐患。”

有细心的用户发现,这款软件的用户协议中还暗藏玄机。其中写道,使用这款软件的换脸功能,需要同意授予这款软件及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的肖像权利人的肖像权,以及利用技术对肖像权利人的肖像进行形式改动。北京岳成律师事务所律师岳屾山指出:“我授权给你以后,你不能够把我的照片用于其他的非法用途,或者把我的照片进行修改、丑化、恶搞,这对于我授权给你使用肖像权的目的存在一定偏差。这个时候其实对于上传照片的App用户来讲,可能构成的是名誉上的侵权,或者导致他的社会评价降低等,这也有可能构成侵权。”

登录 后发表回答