蔚蓝棋牌

刷屏的“换脸”,有什么风险?

2019-08-31 22:12 来源:澎湃新闻·澎湃号·湃客

字号
Lens
原创: Lens WeLens
一夜之间, 人们仿佛被“克隆人”占领:一款 主打视频换脸功能的应用软件“ZAO”刷屏了。
这个功能并不新鲜, 但会成为现象,恰恰在于“ZAO”的功能极简、难度极低,人人皆可快速上手,又可利用社交网站病毒式传播。
据悉,“ZAO”应用由陌陌科技旗下的“孙公司”长沙深度融合网络科技有限公司开发。另有消息称,“ VC已经在排着队约见团队要投资了。 一堆仿的APP也已经连夜在提交审核,很快就可以上线。”
该应用在iOS商店里排在前列的评论
但也正因为太过火爆,它引发了很多争议。
01
你看过它的“用户协议”吗?

“ZAO”用户协议(部分)
很多用户并没有仔细去看 “ZAO”这份非常有中国互联网特色的“用户协议”—— 从协议中可以发现:
6.1的授权充斥着“完全免费 ”“不 可撤销”“永久”“可转授权”等字眼, 这意味着它可将你的肖像和资料,任意授权给自己想授权的第三方,并且可修改;
还有第6.2项,“如果您把用户内容中的人脸换成您或其他人的脸, 您同意或确保肖像权利人同意授予‘ZAO’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利, 包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权, 以及利用技术对您或肖像权利人的肖像进行形式改动。 ”
这意味着将明星肖像权问题甩给了用户。
第7项则是在说:一旦有纠纷产生,技术无罪,要用户来承担。
……
换脸视频会侵犯肖像权、著作权、影视改编权等,还待法律意义上的厘清。
部分用户意识到了隐私问题。
如果不经提醒,很多人都没有查看这些协议的习惯。
百度CEO 李彦宏之前就说过:“中国人对隐私不敏感,愿意用隐私交换便捷性”。他只是说出来了,更多的人是默默地干着。
看得出来,“ZAO”在功能设置考虑过一些安全问题,比如需要人脸安全认证;上传照片不支持低像素和下载的照片;拍照方式上传,仅支持前置摄像头,并且会识别公众人物。未认证过的人脸生成的视频无法分享,并且在视频上面会有动态水印。
但这些限制,通过录屏等第三方软件,不难绕过去一些。
更重要的是,包括面部识别在内的重要隐私数据和权利让渡出去,一旦泄露,就极易被用于违法行为。
央行科技司司长李伟在一个论坛上表示,“人脸是非常敏感的个人信息,一旦泄露或被盗取,会带来非常大的影响……有技术也不能滥用,有技术也不能任性。”
大数据专业人士也提醒存在的风险:

对换脸技术表示担忧的声音。
8月31日午间,支付宝回应称,目前换脸技术无法突破刷脸支付。虽然如此,将自己的面部识别信息交出去,还是留下了巨大的安全隐患。
在“ZAO”之前,已经有不少类似的软件存在,但多数还属小众。不妨把它的火爆,视作一种提醒:
这种技术离我们如此之近,未来某天,如果发现自己出现在某条色情视频中、 被人指控从事诈骗,或者听说有人替你和亲朋好友通过话,你都不要太过惊讶……



话题的讨论让人们注意到同类技术中的安全问题
02
挡不住的技术

其实,恰恰因为AI换脸是一项很好用的技术,门槛很低,很容易上手,才会带来这么剧烈的冲击。
早在2017年12月,一个ID名为“deepfakes”的Reddit用户首次将自己制作的AI换脸视频发在网上,其中包括将情色电影里的女主角换成盖尔·加朵等好莱坞明星。
情色片女主角的脸被换成盖尔·加朵
这让人们第一次见识到AI换脸的强大,也引来众多受害者的投诉。
“deepfakes”账号因此被封杀后,直接开源了其AI换脸项目的代码,此后,这项技术就被命名为“deepfakes”。
它后来的发展也呈星火燎原之势,门槛越来越低。
AI换脸在国内火起来,是年初一段94版“射雕”视频。 饰演黄蓉的朱茵的脸被替换成杨幂。
因为是机器学习,“deepfakes”的技术进化极快。
《经济学人》的一篇文章里指出 :“毫无疑问,换脸技术出现后,制作假视频的门槛已经大大降低了。以前,只有专业人士才能做出来;而现在,只要能连上网,手头有几张照片,人人都可以做。”
生成式对抗网络(GAN)让假视频变得更真。这是一种机器学习技术,一个系统不断生成虚假的图像,另一个系统不断识别图像的破绽。两个系统相互博弈,最终制作出统计学意义上完美的虚拟图像。
现在的假视频,早就不是把几张现成图片粗制滥造地混在一起。深度学习的软件可以在分析现有图片后,做出一张完全不依赖它们的新图。
的确,技术本身是无辜的,它可以被用于很多正面的用途,比如像《速度与激情7》,因为主演保罗·沃克遭遇车祸,就是靠换脸技术完成了他余下的戏份。
但利用它来作恶的,也已形成了完整的产业链。
03
情色片早就盯上这个技术

下面的动图截自早前一些使用 AI 换脸技术制作的情色片。 现在的技术已经更为强大。
“艾玛·沃森”
“娜塔丽·波特曼”
今年初,斯嘉丽·约翰逊就在多个场合,炮轰这种假色情片行为。她说:
“互联网是一个巨大黑暗的虫洞。我没法阻止一个陌生人把我的照片拼接到另一个人的身体上。这件事对我个人造成的影响不大,因为大家都知道那不是我。但是我希望,女性和小孩们今后在网上能够倍加小心。因为很快就会有普通人被盯上。”
事实上, 针对普通人的假色情片制作已经形成了一个灰色产业 。
在国内很多网络交易平台上,100元就可打包200部换脸情色片,囊括国内一二线女明星;定制换脸视频, 低于1小时只需100元,可为你制作自己同事、同学或朋友的假色情片。
“ZAO”的app宣传页上写着“仅需一张照片”。 假色情片制作同样只需要照片而已——而你的这些个人照片,网上可能很容易找到,对吧?
有一天,如果你中招出现在某个不可描述的画面里时,连嫌疑人都很难锁定。
换脸视频的受害者几乎没有反击的工具。 美国法律专家表示,换脸视频往往难以追踪,无法调查,而且存在一个法律灰色地带: 它们建立在公开照片的基础上,实际上是新的创作,这意味着它们可以作为言论自由受到保护。
几个月前,有个ID为 “阿尔贝托”(Alberto)的程序员开发了 一款名叫DeepNude的应用: 只需要上传一张女性照片,该应用就能自动移除女性身上的衣服并“填补”出裸体。
这种“一键脱衣”使用的是和AI换脸类似的算法。 后来,迫于全网压力,DeepNude宣布下线。
但就像开发者辩解所说, “技术已经发展到这一步了,如果我不这样做,别人也会在一年内做出来。”
技术本身是挡不住的, 所以更需要人们来予以约束。
谷歌公司在这个问题上的态度也很有代表性。他们说自己很重视道德责任,但认为如果对新技术严加限制,可能会让延缓开发出一些对人类有益的用途。
计算机科学家法里德认为这是一种狡辩:“你能想象一个生物学家对人们说:‘嘿,这有一种非常酷的病毒,我们看看如果人人都能感染它会怎么样’吗?”
法里德说:“这项技术太不成熟了,科技公司必须放慢推广它的步伐。”
04
它会摧毁我们对外界的信任吗?

“ZAO”在图片上传时,对公众人物的照片进行了拦截。有用户疑问说:“它如何充分定义和识别公众人物呢?”
这种拦截,是因为公众人物的换脸视频危害更大,特别是利用他们来发表一些观点。奥巴马、特朗普,都曾是此类视频受害者。
今年6月初,一则以Facebook总裁扎克伯格为素材的换脸视频在Instagram上传播开来。在视频里,假的扎克伯格说:“试想一下,一个人拥有几十亿人的数据,他知道这些人的秘密、他们的生活,甚至他们的未来。而这些数据全是偷来的。”
它以扎克伯格的名义讽刺了他自己。
此前,扎克伯格一直对Facebook上的假视频态度暧昧,强调不应该由平台来判断什么是真假。
到6月底,扎克伯格宣布,Facebook已经在制定新的换脸视频监管政策,来预防它们造成恶劣影响,并且表示:在未来,Facebook可能会完全禁止换脸视频。
而与此同时,“语音克隆”也取得了突破,现在,只需提供几秒钟的语音样本,就可以模拟出非常相似的人声。百度,谷歌、Adobe等公司都在开发相似的项目。
视频加上声音,恐怕你自己来鉴别都会有难度。
“人在家中坐,祸从天上来。”未来不要感觉太奇怪。
当这种换脸视频的泛滥,耗尽人们去核查辨别的耐心之后,这种新技术很可能会摧毁公民社会里的相互信任。
你如何看待换脸AI?
主要参考资料:
https://www.theguardian.com/news/shortcuts/2019/aug/13/danger-deepfakes-viral-video-bill-hader-tom-cruise
https://www.economist.com/the-economist-explains/2019/08/07/what-is-a-deepfake
https://36kr.com/p/5077359
https://www.vice.com/en_us/article/3k7mgn/baidu-deep-voice-software-can-clone-anyones-voice-with-just-37-seconds-of-audio
https://www.cbsnews.com/news/facebook-zuckerberg-says-its-really-important-to-form-policy-on-deepfake-videos/
https://fortune.com/2019/06/26/mark-zuckerberg-facebook-deepfake-videos-policy/
https://www.scmp.com/news/world/united-states-canada/article/2180091/graphic-deepfakeporn-videos-are-being-weaponised
关键词 >> AI换脸
特别声明
本文为自媒体、作者等湃客在澎湃新闻上传并发布,仅代表作者观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。

相关推荐

评论(53)

热新闻

澎湃新闻APP下载

客户端下载

热话题

热门推荐

关于澎湃 在澎湃工作 联系我们 版权声明 隐私政策 澎湃广告 友情链接 澎湃新闻举报受理和处置办法
金樽棋牌 炫乐棋牌 荣耀棋牌 地方棋牌 地方棋牌 捕鱼棋牌 人人棋牌 花开棋牌 大富豪棋牌 名门棋牌