连色情网站都不敢碰触的AI禁区，ZAO正在疯狂试探

你ZAO吗？

一夜“成”明星不再是梦。

从上周末开始，一个名为“ZAO”的AI换脸App忽然火爆全网，用这款App制作的换脸视频在微博、朋友圈随处可见。

只要一张照片，想附体谁就附体谁！▼

ZAO在第一个公开版本发布不到24个小时里迅速蹿红，不仅在社交媒体上刷屏，更登上苹果iOS免费榜第二，微博热搜话题榜前十，堪称“现象级”。

而这个刷屏的背后，其实与我们每一个人的生活都息息相关。

01

陌陌打造，技术用于情色视频

ZAO最大的噱头是和明星“换脸”，并且嵌入短视频中，可下载后传播，用于社交娱乐。

而“ZAO”是由著名线上交友软件“陌陌”团队打造，两位实际控股股东都是陌陌公司的高管。

值得一提的是，ZAO的开发商显示为“长沙深度融合网络科技有限公司”，而陌陌创始人兼CEO唐岩本人就是湖南人。

不过，其实AI换脸视频并不是新鲜事了。

换脸技术七八年前就有了，比如电影《速度与激情7》里，保罗沃克就是用AI技术合成的，花费了千万美金。

但民间的换脸软件，因为逼真程度较差，反响一般。直到2017年12月，一名ID为Deepfakes的码农大牛，在Reddit网站上上传了一段“名人AV”视频。

当时，“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星，这也是世界上所有人们第一次公开见识到AI换脸的强大。

而他随后也制作了一系列“明星AV”合成视频。

但是很快就出现了问题。

比如DeepFakes把希拉里和特朗普做成夫妻的，把他俩脸做在一起的，把他俩做到色情片里的，玩法多种多样。

人们的智慧是无限的，只要有工具出来，就一定会给玩出花样来，而且早期的花样一定不够高尚而且低俗色情的。

由于尺度过大，Reddit论坛迫于压力封杀了“deepfakes”的账号，不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码——完全免费公开。

在代码开源后，AI换脸技术已经有如普罗米修斯盗来的火种，一瞬间撒遍了世界各地。

一下子人人都成了AI换脸专家。

▲景甜换脸AV

只要稍微懂一点技术的人，都可以使用他们的技术来套层壳来玩儿，ZAO也是诸多衍生APP之一。

ZAO运用的是Deepfake技术，但是Deepfake的相关App在国外因为道德、伦理和隐私问题已经被禁用；

但在我们国内，在这个色情网站都不敢触碰的AI禁区，ZAO却可以大张旗鼓的商业应用。

不知道玩ZAO的用户知不知道，在你玩这款APP的时候，自己脸部数据已经上传到企业服务器，可以卖钱的。

02

吃相难看的用户协议

因此，这款APP看似有一张有趣的皮囊，但其灵魂并不好看。

我们平时并不会多看上一眼的用户协议中的隐藏着巨大猫腻，以及让人无法接受的法律风险。

为什么我会这么说，首先我们先来看看ZAO的用户协议。

用户协议第6条第1款是这样规定的：

这密密麻麻一大段话是什么意思呢？

意思是，当你选择使用这个app以后，根据协议内容，该app除了可免费使用并修改你的肖像，还可以将它任意授权给自己想授权的第三方，当做信息进行贩卖。

所以当有一天，你在ZAO或者其它关联平台上发现你的脸被随意变换、不再属于自己的时候，你想起诉ZAO，不好意思，它会拿出这个协议来堵你的嘴，告诉你你自己早已同意。

其次，我们再来看看关于侵权的规定。第6条第2款明确规定：

这又是什么意思呢？

比如现在你将杨幂的脸换成自己的脸，你除了要保证自己永久、不可撤销地把自己的肖像免费给ZAO使用，还要保证杨幂同意ZAO及关联公司使用她的肖像...

但是问题来了，你又不认识杨幂，你怎么能确保？这不是在搞笑吗？

而它这么写，说白了，就是因为自己没钱拿到明星们的授权，为了日后侵权的问题，它通过这个协议，可以将锅甩给你们。

而在此情形下，协议第七条第7款规定：

这条意思就是延续上一条，如果杨幂状告ZAO，主张自己的肖像权被ZAO平台滥用，那ZAO完全可能说这不怪我，技术无罪，要怪就怪这些换你脸的用户，并且，即使ZAO承担了平台责任，其也完全可以起诉具体用户进行追偿。

对于这样的用户协议，我只能说吃相未免太难看了点，他们把自己的屁股擦得非常干净，将侵权的苦果全部甩给了用户。

所以，现在你们明白了吗？

你今天在网上换脸，觉得很开心，其实你在无形中，已经成了一名你最不齿的侵权人。

更惨的是，你的脸，也不再只属于你自己，它也归ZAO，及它想授权的所有人。

更感到后怕的是，截至我发这篇文章，已经不知有多少用户同意了这份吃相难看的协议，丧失了自己的肖像自主权。

而我选择将用户协议分析给你们，也只是希望你们能将这篇文章转发给所有对这个app感兴趣的人。

因为他们很有可能在不明所以的情况下，就对app进行了使用，同意了协议。

你可能以为只是在用户协议那点了个小小的勾，但你在点确定的一刹那，你已经无形之中丧失了很多本属于你自己的东西。

而这些东西，其实是你无比珍视的“脸面”。

03

AI技术的“潘多拉魔盒”

除了利用协议进行漂亮的肖像权风险的转嫁外，还有一个值得我们探讨的就是——

技术真的是无罪的，中立的吗？

似乎是，至少很多技术的开发者自己是这么认为的。

快播的王欣在法庭上那句“技术是无罪的”言犹在耳，谷歌的态度更具代表性和普遍性：重视道德责任，但如果对新技术严加限制，可能会让延缓开发出一些对人类有益的用途。

而DeepFakes的开源，更是打开了“人脸识别技术”的潘多拉魔盒。

这种无缝替换人脸的技术，在黑产可以玩出无数的花样。

例如诈骗，使用这项技术无缝把老人子女的脸融入视频中，不管是生病要钱，还是绑架，还是转账，都很容易骗到老人。

例如敲诈，使用这项技术把受害人脸加到一些黄色视频中，然后威胁不给钱就群发散布，实际上很多高利贷的催收就喜欢这么玩，只不过过去的P图不够震撼。

在这种情形下，如果研发人员说，他们不对技术的伦理负责，只想赚钱；如果使用者说，他们不想检讨技术的阴暗影响，只为好玩。

那么我们指望谁来促成技术、法规和使用需求的良性耦合呢？

2019年6月13日，美国众议院情报委员会召开关于人工智能深度伪造的听证会，公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。

这是美国众议院首次举办专门讨论深度伪造及其他类型的AI合成技术的听证会。

而未来，AI深度伪造会发展成什么样，给我们的生活造成什么影响，AI究竟是普罗米修斯的火种还是潘多拉的魔盒。

我们目前不得而知。

04

不容忽视的AI伦理

百度李彦宏曾经“大无畏”地说了实话——中国的互联网用户们“愿用隐私换方便”，而被口诛笔伐。

但是现在想想又何尝不是呢？

我们一边吐槽条款，一边抱着“反正这么多人用，暴露隐私也轮不到我”的心态，享受着软件带来的朋友圈流量、点赞、虚荣。

我们正在渐渐的，忍受着各种APP窃取我们的短信、通讯录、照片，甚至是我们的位置。

我们允许它们偷听我们的谈话，偷偷的打开我们的摄像头，看看我们是否裸睡或者甜言蜜语。

我们更允许这款ZAO，要了我们的“脸面”，然后，满足我们意淫的快感，和所谓的“李现”进行虚拟对戏。

然后，在图了各种便利和爽快后，我们的“脸面”也被廉价的搜集了。我们在悄然不断的把我们所有的隐私都泄漏了。

你的一次次放纵和贪图方便，已经把你自己的“脸面”、“指纹”、“声波”、“心率”、“视网膜”、“基因”等等，都被廉价的贩卖给了大数据。

然后大数据比你自己还懂你。

它引导你每次冲动的消费行为。

它控制你每次兴高采烈的点击购买。

它驱使你悄悄的贩卖自己一切可以贩卖的东西。

《天龙八部》里的扫地僧说，少林七十二绝技每练一技都需要相应的佛法才能化解，而要把七十二绝技学成于一身需要极高深的心法修为，萧峰和慕容复的老爸都因为偷学绝技但心法没跟上而深受其害。

技术发展日新月异，对人性的反噬潜移默化，人的修为跟得上AI吗？

昨天还是一键美颜，今天就能一键换脸，明天会不会一键生成个人虚拟形象？

现在，我们要为分辨色情视频中的明星的脸是不是合成的。

未来某刻，我们可能就得分辨眼前的人究竟是不是自己，究竟是不是亲人，而不是一个虚拟的合成。

看着朋友圈那一张张被换掉的脸，浮现出福柯在《词与物》结尾的话，“人将被抹去，如同海边沙滩上一张脸的形象那样被抹去。”

在未来的AI年代，我们每个人最大的问题或许会是——

你是谁？

我又是谁？