如何看待 AI 换脸软件「ZAO」的爆火？
下面新增了个销号流程
https://www.zhihu.com/video/1151073540689371136当美国队长变成 尼古拉斯·斯蒂夫·赵四
下面放个销号流程
ZAO换脸app的账号注销教程:
1.先去 我的作品-右上角的设置标志-我的面孔，删除自己已验证的面孔信息。
2.隐私协议-拖到最下面“申请注销账号”，开始注销就可以了。
https://www.zhihu.com/video/1151144624595767296有几个细节：
- 它的视频素材，看到了抖音、爱奇艺、腾讯视频、芒果的LOGO。这保证了素材最基本的娱乐性和话题性，这实际上是二（三）次创作？如果一个用户从抖音里下载后上传素材，素材是会在平台内部公开流通的，这样原始素材不知道怎么定义版权和法律风险。原本apple store里也有很多影视剧换脸的app，它们没有这么多有话题的起始素材。这个结合授权协议，意思就是不负责原始视频素材里的肖像权。
- 视频是预先处理过的，大家实时上传图片，大量降低了处理视频所需的实时算力（虽然现在服务器已经排满了）
- 人脸处理和识别已经很成熟了，速度很快，所以看到有一些自动查找面孔、名人肖像权匹配的基础功能
- 同样可以制造fake面孔表情包，但是话题性就不如从抖音等挑选的素材。
Finally. 这是一个fake face对个人用户的应用范例，把一个鬼畜视频制作工具，功能性减弱，却把社交性和传播性发挥的很好。
原本的医疗图像、安防监控都是对大公司、技术驱动的，AI和个人用户市场需求的结合或许预示着公共AI（云）算力市场即将火爆起来。
附上版权声明。
感谢 @王一丁 一大清早就敲我起来写评论，本文持续更新，正在查资料ing。
ZAO这用户协议要求的授权范围也太广了：不可撤销+永久。内容部分不可撤销+永久授权也就算了，但是肖像权这个着实过分了，应当给予用户撤销个人信息授权的权利。不然难道一辈子都有被人使用肖像的风险？而且不仅是ZAO，还有关联公司，下文有关于关联公司范围的讨论。
其实内容上的许可在ZAO这个App中我为什么说还好的原因就是这个不同于文末链接中百度摄影师协议，一般使用ZAO的人并非主要靠创作为生，内容的知识产权不可撤销地永久授权给ZAO并不会对自身造成多大的损失。而肖像权作为人身权利应当是用户在ZAO协议中最关心在乎的权利，正如在摄影师协议中摄影师最应当关注的核心是版权许可一样。内容作为资产的不慎处置最多带来的是经济的损失，但是肖像和隐私的不当处置可能后果不堪想象。
天啊，看到下图中关于ZAO关联公司的定义后崩溃了，这个关联公司的定义还可以再模糊一些吗？“ZAO”及其相关服务可能存在运营关联的公司？那基本所有的合作方都可以解释为存在运营关联，也就是相当于ZAO可能根据其用户协议有权授权所有的合作方使用并修改用户的内容和肖像。
真的是写完一个槽点又发现一个，更新后的用户协议都不另行通知？继续使用就代表接受协议的修改？那谁没事儿会登出app再定期查看一下用户协议？这是咋想的？写条款的时候有没有考虑到用户真实的使用场景？
之前微博在2017年更新的用户协议中也出现过类似的霸王条款：“微博更新的《微博服务使用协议》，规定用户在微博上发布的信息，将不可撤销地授权微博平台作为微博内容的独家发布平台，用户所发表的微博内容仅在微博平台上予以独家展示。未经微博平台事先书面许可，用户不得自行或授权任何第三方以任何形式直接或间接使用微博内容。” 真的不知道这么多公司在用户协议上都翻过车，为什么现在还这么写？理解不能。
后来在群众的骂声中微博修改了上述条款，这也是我一直自从2017年直到微博修改条款前都再也没有使用过微博的原因。有人可能觉得小题大做，但是如果所有人都不在意自己的个人隐私和知识产权的话，这些公司就会变本加厉，也正应了李彦宏说的“中国人多数情况下愿意用隐私换便利”，着实有些可悲。希望本回答可以引起大家对于个人权利的重视，不使用，用脚投票是最有效的抵制方式。本人亲身验证，自从魏则西之后，不用百度任何产品对我的生活没有产生影响，看着百度一天天走向没落，这个世界又美好了一点。
有人可能会说如果协议不这么写互联网公司就没法发展了，需要用用户的内容和肖像做推广。但其实不是说不考虑互联网产品发展的需求，而是说要给予用户选择的权利，而并非为了贪图条款撰写上的便利，直接一刀切地获取“不可撤销+永久”授权。而且作为一个有责任感的公司，即便用户协议中有授权，但如果在广告中如此使用用户的肖像是不是处于礼貌也是应当征得用户的同意？并不是所有人都希望自己用ZAO制作的视频突然有一天出现在了街边的大屏幕上。
很多律师都有个坏习惯，认为在合同撰写中，尽可能多的为客户争取权益就是最正确的法律建议。但其实不然，在商业社会中，把事儿做成了才是客户最关心的。如果由于条款苛刻到生意都做不成了那还要律师干嘛？在互联网产品用户协议的撰写中也是需要设身处地的考虑一下用户是怎么想的，因为用户在缔约之前并没有任何渠道可以表达自己的意见，但是由于看到了如此严苛的条款而选择放弃了使用这个产品，最后的损失还是客户也就是这里的ZAO来承担了，这样的后果就是得不偿失。
另一方面，有些大V说有明星会直接起诉用户，这点上我不是很认同，有危言耸听之嫌，为了制造话题炒作就没意思了。因为明星直接起诉普通用户现实发生的可能性很低，更多的还是会去追究平台的责任。
关于用户协议的坑大家有兴趣可以看一下我之前写的关于百度摄影师版权协议的回答，里面有比较详尽的分析：
百度做了哪些带来负面影响的事情？事后官方是怎么应对处理的？结果如何？连色情网站都不敢瞎掺和的领域，ZAO居然来了，从技术和风险角度来说，ZAO的前景非常非常非常危险，已经不是在河边走了，这是在悬崖边翻跟头！
其实AI换脸在娱乐休闲方面的应用，已经非常普遍了，不信你就看看下面的[锦江乐园]
来自B站，作者：你的世界0我的名https://www.zhihu.com/video/1151078198187073536来自B站，作者：你的世界0我的名https://www.zhihu.com/video/1151079749651705856https://www.bilibili.com/video/av51809469
万物皆可徐锦江~~~~~
你们的快乐源泉——Deepfakes
其实AI换脸就是基于Deepfakes这门技术，大约是在2年前问世，瞬间就把视频换脸的难度拉低到了人人都能用的级别。
并且这门技术被快速，或者说瞬间应用到了色情领域：
经常被人拿去做虚假“果照”和性爱视频的寡姐曾经说过：
我还不是受影响最大的人，毕竟大家都知道那些影片/照片是假的。可如果是普通人，就要小心保护自己的影像资料了，我无法想象普通人要如何应对后续的结果。
当然了，有了AI换脸，美国的政坛人物也是跑不掉的：
Deepfake这门技术，也被部分作死人士运用到了制造假视频，敲诈勒索，假新闻之类的事情上，也就此导致Deepfake社区当时被瞬间封杀。
当然了ZAO这款APP也会自动识别出公众人物，禁止用户恶搞。以免自己重蹈覆辙；但是不得不怀疑，ZAO的技术真的能识别出99.99%以上的公众人物的各种照片吗？
不同的角度、不同的画质、不同的光照，目前恐怕没有企业敢保证自己识别成功率能在99.99%。
而且最重要的是，你的识别率只要不是100%，那出事、被封停就是迟早的事情。
只要有一次，被用户利用ZAO APP 制作出了有不良影响的视频，ZAO就死定了！
虽然制作视频之后，还需要用摄像头进行人脸识别，但是想要欺骗过去实在太简单了，很多安卓机的人脸识别，你用一张照片就能欺骗过去……
换句话说，如果你是ZAO的竞争对手，你直接组织团队专门用ZAO app制造一个公众人物的娱乐视频。就足够摧毁它……
而且在ios生态中，ZAO 的未来更惨淡了……搜索排名第一的已经不是ZAO了，而是另外一款叫做[颜技]的APP，接近的定位、宣传，恐怕会拿走不少ZAO的用户……
App Store中的排名也非常明显的能看出 ZAO 的热度和流量被这款[颜技]拿走了不少：
如果真的有竞争者按照我所猜测的专门组建团队，利用ZAO 制作公众人物（政治人物）的娱乐、恶搞视频，那ZAO 和背后的陌陌恐怕凶多吉少了。毕竟关停的内涵段子、暂停发布内容的简书都是一个个血淋淋的例子。
要知道连境外色情网站P站（黄黑logo的那个，知乎不能提它的全名），因为有太多换脸公众人物的色情视频，当时为了保护自己当初都已经在官网禁止搜索 Deepfake 这个关键词了……
而且Deepfake并不是AI换脸类非常先进的技术，这1-2年间早就涌现了无数比他更先进的技术，在此就不提及了。
最后分享一个人工智能方向，很6的应用，普通人也用得到。
一键高精度抠图
本段已获授权，转载自：高级农民工（ID：Mocun6）
逼死淘宝专业抠图的照片，3行Python代码，5秒高精度抠图
这里的 API 接口来源于 Remove.bg 网站，一个邮箱账号可以申请一个免费接口，可处理 50 张照片，如果想处理更多或者生成高清照片，需要买套餐，算下来价格大概是 1 元一张。
上淘宝搜索「证件照换底色」的店铺，发现多数店铺收费是 5 元，觉得利用好价格差空间，应该有商机。
接着比较感兴趣淘宝店家是怎么抠图的，抠图的质量如何，于是选择了排名前两位的店家来做测试，跟掌柜开始了一段「套路」聊天。
先找了第一家店主，店主上来就说先发照片，抠图满意再付款，于是就发了文章开头那张比较难抠的一张，想看看他们水平怎么样：
没想到店主这一抠就是二十分钟。。。
满心期待地打开图片一看，头发丝抠的不好，照片色彩也变了：
跟第二家店掌柜聊了后，也是花了 16 分钟弄好，比第一家稍好一点：
把三幅图一对比，从头发丝抠的效果和照片的色彩还原度就可以看出还是 AI 效果最好，而且只需要 5 秒钟。
于是，大致可以总结这款 AI 工具从效果和效率上基本碾压手动 PS 的淘宝店家。
心疼掌柜，花了 20 分钟还没有拿下我这一单……
这么难抠的图 AI 工具效果都好，那简单的证件照更没问题，基本确定有商机。
接下来用 Python 把上面的代码进行完善打包成 exe 文件执行。
轻松实现这样的功能：只需要简单敲几下键盘，就可以随意批量更换照片的背景色（常见的白、蓝、红三种颜色），然后秒换背景出图。
效果如下：
具体实现很简单，第一步输入 API，第二步输入图片所在文件夹，接着程序就会先抠图，生成带透明背景的 PNG 格式图形。
接下来第三步利用 PIL 库来设置图片的背景颜色，键入一个字母就可以秒生成对应的背景色证件照。
- b：blue 蓝色
- r：red 红色
- w：white 白色
这样就做成了一个简单的证件照更换工具，拿去抢抠图淘宝店的饭碗毫无压力，设计师要5元，我就要4元。
被抢了饭碗而下岗的设计师，恐怕打死也想不到自己的竞争对手是几行代码……
此工具可在公众号“七月在线实验室”，回复“证件照”获取。
毕业季福利
原价199元的Python课程
限时免费学习！没有任何套路，直接领取就可以！
任何疑问，教师团队随时解答。
虽然是免费课，但教师团队可没有缩水，依旧是前BAT高级专家配合顶级高校硕士进行教学。
立刻微信搜索公众号“七月在线实验室”
回复“Python”，开始学习。
ZAO是陌陌团队开发，“ZAO”背后的大老板竟然是著名的交友软件“陌陌”，其两位实际控股股东雷小亮与王力分别是陌陌公司联合创始人兼游戏业务部总裁；以及陌陌公司联合创始人兼COO。陌陌本身就一直游走在法律的边缘，从陌陌诞生的“zao"也不例外。
1、换脸术到底有多厉害？
先看看历史的内容，前陌陌一姐啊冷唱歌被换脸成杨幂、高圆圆等，非常相似。
还有杨幂被换脸
1、zao最大的法律风险
在ZAO 的用户协议有这么一句话：如果您把用户内容中的人脸换成您或其他人的脸，您同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权，以及利用技术对您或肖像权利人的肖像进行形式改动；
而这其中最大的风险，是zao对于用户的形象获取非常严苛，需要用户头部移动视频或者极为清晰的用户正面照。而用户视频移动现在广泛被用于面部识别领域，比如支付宝，比如安检等领域。
但面部识别是否会被正确的应用，只能靠企业的道德监管，而陌陌如果将用户面部识别用于更广泛的领域，信息安全并不能得到保证，毕竟陌陌并没有所谓的“道德洁癖”。
朋友圈的刷屏，让ZAO快速的被曝光，监管，也或将快速的被监管所下线。
2、工具最大的问题是，火一把就死
火一把就死的工具非常的多，之前的啪啪，还有围住神经猫，还是足迹，小咖秀都是这样的产品，单一工具很难吸引用户的注持续意力。新的工具会不断的吸引用户的注意力。而且用户阈值时不断提高的，这次替换了吴彦祖头像，下次就像裸体吴彦祖的激情戏了。
更何况，对隐私的侵占带来的极大的监管压力。
3、资本市场也太疯狂了
和聊天宝上线之初一样，第二天就获得了诸多的投资者上门，ZAO也是这样的，朱啸虎表示，已经10多个vc团队起投资。疯狂恶投融资市场已经变成了一个巨大的绞肉机，无数的人想要往里面冲刺。
3、ZAO或许是抄袭国外开源软件deepfakes
早在2017年12月，国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上，效果很逼真。
“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星，这也是世界上所有人们第一次公开见识到AI换脸的强大。Reddit论坛迫于压力封杀了“deepfakes”的账号，不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码。只要具备基础的电脑知识，即使一个“菜鸟”也能在几个小时内做出一部换脸视频，该项技术立刻风靡全球。
虽然ZAO并没有表示其换脸技术源自开源的“deepfakes”代码，但其技术有着强烈的相似性。
谢邀。
利益相关：不相关
看到有人担心，玩这个软件会不会导致自己的支付宝刷脸被冒充？
先说结论：这点完全别担心，不会的。
这不是互联网上的第一款换脸App，也一定不是最后一款，
但不管怎么换，也不管换的有多「逼真」，你都不用担心支付宝刷脸支付的安全性。
1、「刷脸支付」采用的是3D人脸识别技术
在进行人脸识别前，会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成的，能有效地避免各种人脸伪造带来的身份冒用情况。
2、在支付宝App上开通刷脸支付需要曾输入过密码
支付宝还会通过各种安全风控策略确保账户安全。比如刷脸支付功能需要用户进行开通操作，开通之后才能进行支付，用户也可以随时关闭。而且只有在输入过密码的支付宝App上才能开通刷脸支付。
3、多因子校验，确保万无一失
在支付宝App上，人脸识别并不是唯一的校验方式，我们的智能风控引擎会通过设备、环境等多个因素辅助校验。部分用户还需要输入与账号绑定的手机号以及验证码进行校验，进一步提高了安全性。
4、100%的保障
即便出现账户被冒用的极小概率事件，支付宝也会通过保险公司进行全额赔付。
虽然支付宝的刷脸不会因为你玩这个软件而受影响；
不过还是建议大家在用此类软件前，
认真阅读相关的「用户协议」或「隐私权政策」，
以确保其他相关App的安全。
其实，支付宝一直在呼吁生物识别领域的行业自律，
此前，我们发起了《生物识别用户隐私与安全保护倡议》，
呼吁从事该行业的科技企业加入进来，一起来规范和保护用户信息。
我们认为
企业在采集用户生物信息时应遵循「最小、够用」的原则，防止被滥用。
企业应对采集到的信息进行加密存储来提高安全强度，也应明确和规范用户信息使用的目的及范围，避免信息被过度使用。另外，在具体使用中也应建立保险机制来确保用户资金不受损失。
我们也希望行业里有更多公司能加入进来
关于支付宝的一切，推荐关注支付宝知乎机构号：支付宝
https://www.zhihu.com/video/1151118999478726656我只想说，我变成陈冠希原来这么帅！
——————————————————
等下载了以后才知道隐私的事情…既然都签了，隐私没了，不如多乐乐。
要看蔡徐坤的鸡你太美么…哈哈哈哈哈 笑死我了
比蔡徐坤还娘的换脸
https://www.zhihu.com/video/1151269960033726464—————————
感谢大家的热烈讨论 ZAO 终于改了隐私协议条款
让我这种看都没看协议就下载了的用户，有保障了
从前天开始，我的朋友圈就被ZAO刷屏了。
我数了下，这两天至少有200人在朋友圈分享了自己的换脸视频。它的功能是可以把电影主角的脸换成你的，让你不费吹灰之力就可以成为“戏中人”。
很多人大呼这太神奇了，但事实上这并不是什么新技术，至少在一个P开头的国外网站上，早就不是什么新闻了。
很长一段时间里，无论是好莱坞巨星斯嘉丽约翰逊、盖尔加朵还是国内的迪丽热巴、范冰冰都深受其害。
这对猥琐的宅男来说是福音，但对这些视频的主角来说就是噩梦。因为总有人会信以为真，然后到处散播关于这些女明星的虚假新闻，接下来就是各种恶臭的评论，我相信你们都能想象得到。
这严重影响了女星们的正常生活，所以现在即使在那些网站上，这些视频也大多被投诉下架了。
快播的王欣在法庭上曾说“技术是无罪的。”
技术确实是无罪的，但使用技术的人却可能心怀不轨。他们手上的技术越来越先进，他们犯罪起来也越来越容易，越来越恶心，也越来越难以防范。
ZAO APP也是一样。
你不能排除他们的老板用这一技术以及采集到的用户面部特征作恶的可能性。
尤其在他们的用户协议中有这些内容的情况下：
注意到这一连串的“完全免费”、“不可撤销”、“永久”的字眼了吗？
只要你用了他们的软件服务，你就等于放弃了自己的肖像权，他们可以任意使用你的肖像，而你对此完全不知情。
做直播平台的朋友表示“我觉得我们已经够流氓了，但我们和主播签的合同，都没这个流氓”——要知道直播平台是给主播发钱的，是雇佣关系，而你在ZAO怎么都算个用户。
无论这协议有没有效，敢明目张胆的这样写，都非常恶心了。
不过，我猜你们在用的时候没注意到，不仅仅因为它的用户协议并不是必读的，更因为我们从来没有读用户协议的习惯，也正如百度ceo所说，我们没那么在乎自己的隐私。
往好了想，这个并不大的公司的数据会不会泄露，一旦泄露，等于犯罪分子同时掌握了你的形象和个人信息，完全可以进行各种犯罪。
往坏了想，骗你签下如此霸王条款公司会不会直接利用你的形象和信息获利——无论是用来诈骗别人，还是用来合成一些不能说的视频，都足够恶心我们了。
可能哪天你就接到一些投诉，被人指控是个诈骗犯，但你什么都没做。
——因为别人盗用了你的形象。
这还是在你是nobody的情况下，如果你是稍有名气的人，还可能被伪造视频，发表一些演讲，facebook总裁扎克伯格就曾经被篡改过视频，虽然现在的篡改还有迹可循，但迟早有一天，他们会改得天衣无缝。
那将是一个恐怖的，没有真相和信任的时代。
也许是十年后，但也可能就在明天。
所以我不信任ZAO，也不会去玩它。在相应法律法规完善之前，我建议你们也不要过于信任这些公司的良心。
除非你确定自己是个没有丝毫价值的人，未来也不会有价值，否则我建议你们也注重一点自己的隐私。
再重复一遍。
技术是无罪的，但技术背后的人却可能用它来作恶。
最近一款名为ZAO的换脸app开始在各大社交网络刷屏。作为法律工作者，我认为ai换脸中有很多法律问题是有争议的，于是便怀着好奇的心态看了下他们的用户协议，然后，我发现了协议中巨大猫腻，及我绝对无法接受的法律风险。
我先说结论，1、“ZAO”app涉嫌过度攫取用户授权，让你在无形中将自己的肖像权拱手让人，以后你的脸将完全有可能被别人随意使用，变换；2、zao并未获得换脸明星们的肖像权授权，你变脸涉嫌侵权，但当明星认为自己的权利受到侵害时，“ZAO”app将完全有可能将法律的锅全部甩给你，让你自己承担侵权苦果。
我为什么这么说呢？
首先，我们先来看看ZAO的用户协议。用户协议第6条第1款规定：“在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予zao及其关联公司以及zao用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑...”以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利。"
这是什么意思呢？你在正式使用该app以前，是要上传自己肖像的，不仅静态，还有动态，而当你选择使用这个app以后，根据协议内容，该app除了可免费使用并修改你的肖像，还可以将它任意授权给自己想授权的第三方，当做信息进行贩卖。所以当有一天，你在zao或者其它关联平台上发现你的脸被随意变换、不再属于自己的时候，你想起诉zao，不好意思，它会拿出这个协议来堵你的嘴，告诉你你自己早已同意。
其次，我们再来看看关于侵权的规定。第6条第2款明确规定：“如果您把用户内容中的人脸换成您或其他人的脸，您同意或确保肖像权利人同意授予‘zao’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利。”
这是什么意思呢，比如现在你将杨幂的脸换成自己的脸，你除了要保证自己永久、不可撤销地把自己的肖像免费给zao使用，还要保证杨幂同意zao及关联公司使用她的肖像...但你又不是杨幂，你怎么能确保？这不搞笑吗。而他这么做，说白了，就是因为自己没钱拿到明星们的授权，日后侵权，它们可以将锅甩给你们。
而在此情形下，协议第七条第7款规定：若您侵害他人名誉权、肖像权、知识产权等合法权利的...zao可以诉诸行政执法机构或司法机关，追究相应法律责任。若因您违反本协议或zao平台的其他规则导致任何第三方损害的，您应当独立承担法律责任并承担损害赔偿责任；zao及其关联公司遭受损失的，您也应当一并赔偿。
意思即，如果杨幂状告zao，主张自己的肖像权被zao平台滥用，那zao完全可能说这不怪我，技术无罪，要怪就怪这些换你脸的用户，并且，即使zao承担了平台责任，其也完全可以起诉具体用户进行追偿。总的来说，他们把自己的屁股擦得非常干净，将侵权的苦果全部甩给了用户。
所以，朋友们，你们明白了吗？
你今天在网上换脸，觉得很开心，其实你在无形中，已经成了丑陋的侵权人，同时，你的肖像权，也不再只属于你自己。
是的，你的脸已经不仅仅是你的脸了，它也归zao，及它想授权的所有人。
你可能会问zao靠什么盈利？我不知道，但或许日后，它就靠卖你的肖像权盈利呢。
看到这个用户协议，我用四个字形容，那就是触目惊心。
我从来没见过如此明目张胆攫取用户权利的用户协议。
而我更感到后怕的是，截至我发这条微博，已经不知有多少用户同意了这份协议，丧失了自己的肖像自主权。
更何况，现在人脸支付，手机人脸解锁正逐渐普及，如果它拥有你的动态肖像权，那背后可能出现的问题岂不是更令人不堪设想。
难道这就是所谓互联网公司的狼性？
在zao更改用户协议前，我绝不会使用这个app。而我已经将用户协议分析给大家，大家要不要用，选择权完全在你自己手里。我也希望大家将这条微博转发给所有对这个app感兴趣的人，因为他们很有可能在不明所以的情况下，就对app进行了使用，同意了协议。
我只想提醒诸位，你以为你只是在用户协议那点了个小小的勾，但你在点确定的一刹那，你已经丧失了很多本属于你自己的东西。
而这些东西，其实是你无比珍视的。
不是新鲜玩意儿。github上早就有了：
iperov/DeepFaceLab这个项目实际上是一个利用机器学习来替换视频中的面部的工具，通过运行脚本可以直接使用。
通过收集原图像和替换图像的大量视频和图片素材，将素材剪辑成为段视频，替换data_src.mp4和data_dst.mp4，然后使用一些脚本修改其中的参数，可以得到训练之后的模型，最后会将换脸后的图片合成视频。当然，这个不是最早的技术，2017年左右Deep fakes才算是最早的“换脸”产品，然后在外网势不可挡（后因大量被用于P站，遭到各大“被换脸”女星抵制）。
法律、道德等维度都有高赞回答谈到了，我们就聊下实际使用的技术
从本质上来说，类似ZAO这样的“换脸”是一种使用AI深度学习，从而将一张图片中人的脸换到其他人的图片上的技术。事实上，被“换脸”的视频在运行中也是被拆分为图片了，所以它和换脸人的图片要求基本一样，视频要清晰，视频中要只出现被换脸人的一个人的脸，如果有其他人的脸，需要把它去掉。
当然，最开始这项技术对硬件和视频、换脸人图片的质量甚至是数量都有非常高的要求：
硬件方面，尽量1060往上，内存至少8g，这只是标配，在这个标准配置下，图片训练时间至少为6小时。（低于这个配置也可以跑，但质量和耗时就不好估量了）
满足条件后，训练一个AI换脸模型需要3个步骤：
- 提取数据
- 训练
- 转换
其中，1和3用到了数据预处理，另外3还用到了图片融合技术。所以主要包含的技术框架有：图像预处理、网络模型、图像融合等
具体原理思路为：对于每张脸，都训练一套编码器和相应的解码神经网络。编码时，使用的是第一个人的图片。而解码时，则使用第二个人解码器。
也就是说，既然我们想要将两张脸互换，那么我们可以设计两个不同的解码网络，也就是使用一个编码网络去学习两张不同人脸的共同特征，而使用两个解码器去分别生成他们。
因此，设计一个输入端或者说一个编码器，分别输入两个不同的脸，然后两个解码器，就可以通过隐含层来分别生成两张不同的人脸了。
回归到ZAO上来，在我看到这个问题时，ZAO的服务器已经崩溃了
我预估，接下来的节奏应该是：
借钱 -> 抵押 -> 融资 -> 被起诉 -> 不妥协 -> 被取代 -> 被监管 -> 妥协 -> 融合 -> 变现 -> 离场
作为换脸圈的老兵，太多人问我对zao有什么看法，索性这里统一回答一下。
首先感谢zao这么优秀的产品，让换脸技术又火了一把，作为换脸领域的公司，零零发科技客观上得到了更多关注，我推测也会有更多的影视客户关注AI换脸技术，甚至建立更多信心，这对我们真是实实在在的收益，在此衷心表示感谢。此处不禁觉得我来这里回答问题是典型的蹭流量，但是创业艰难，求别拆穿，也感谢邀请我的人。
zao是一款火爆的产品，而且应用了崭新的技术，从技术角度讲我猜测是face wrap、表情计算、人脸融合这主要的三项，当然也有可能是用gan做的，无论如何，zao的产品和技术团队肯定做了大量的工作才能产出这么成熟的作品。讲技术路线，ZAO的换脸原理和零零发用的AE有很大区别。首先最明显的数据层面，ZAO只需要客户一张正面照片，而零零发科技目前需要成千上万张。进一步，计算速度层面，ZAO需要的计算时间非常短，而零零发科技要为客户做一个模型，我们测试最快也需要几个小时才能达标。最后最终效果层面，从上周内测开始我看到的ZAO提供的效果还没有超过换脸圈的及格水平，距离徐锦江等顶级网友作品还是有很大差距。
但是现在不代表未来，如果用户在使用ZAO的过程中提供更多数据，我相信以ZAO的技术实力，利用更多数据和更新的算法，换脸效果会很快提升，甚至提升到影视级别都是有可能的。如果没有更多数据的话，我相信以目前的算法，基本不可能再提升换脸效果了，ZAO应该已经达到了现有算法的效果极限。
零零发科技目前还没有达到现有算法的效果极限，我们的主要客户是国内影视类客户，项目周期和成本限制了我们，我们只能在效果和效率中间找到一个平衡点提供给客户。以典型电影的男女一号为例，40分钟的镜头，我们报价200万，国内客户肯定会嫌贵，通常要求10周内完工。此种情况下，我们只能建议客户选择4k画面下效率较高，效果也不错但是并不是最好的模型。国内影视客户愿意为最好的技术和效果买单的，还是很少很少。
创新很美好，生存很艰难。
但我相信ZAO一定能够赚钱，之前有影楼客户告诉我们，如果帮情侣做一个泰坦尼克号船头吹风的片段，应该能挣好几万，我们因为资源不足担忧版权问题，一直没有开展这种服务。黑产类来骚扰我们的就更多了，吓得我们把已经卖出去的换脸直播机都退款了。但是换脸能挣钱肯定是确定无疑的。尤其是，ZAO能提供剧情。拍一张你，再拍一张我，我们一起去演戏，这是一个很好的社交互动玩法。我猜测会有很多消费者愿意付钱。很有可能这就是ZAO的背后想法。
如果ZAO能够挣钱，无疑再一次验证中国网民已经有了成熟的付费习惯，并且打动用户付费的产品价值线，并不是太高，这对所有研发新技术的团队，都是巨大利好，往大了说，是所有新技术创业团队命好，赶上了这个时代，和这个时代里的中国网民。
再说一下最敏感的问题：零零发会不会去抄袭ZAO的产品玩法？
在这里，我正式回答，我们肯定不会啊。我相信要吸引重复用户，肯定还要做很多事情。所以我们不会去抄袭ZAO的第一步。
不抄袭我们会死么？目前看，影视级的AI换脸能够勉强养活我们，等我们多接几个电视剧电影项目，攒够钱了，我们会启动下一步，等着未来电影电视剧中充斥的完美的脸吧。
不抄袭你们去干什么呢？我们也想为C端客户提供一些东西，但是多半不会是换脸。换脸只是用一个比较夸张的案例告诉大家AI的能力有多大。我们会进一步研究如何用AI处理图像，比如，如何做一个AI模型，把顶级修图师四个小时的工作在0.2秒内完成。如果我们做出来了，我们会提供给C端用户，看看能不能收一些钱，让团队的生活更好一些。
换脸是小事，社交是大事，我想这是ZAO的用心。带剧情的交友互动，这个想法从去年我们就一直很看好，很羡慕ZAO能做出来。
客户爸爸没一个好伺候的，我们接着搞技术去了，我们貌似只会这个。
衷心祝贺ZAO团队，坚持住，再搞一个非腾讯系的社交产品出来！
补充：
好多人告诉我zao不是创业公司，看来我多虑了，我一直担心算力成本zao扛不住，琢磨着zao应该怎么挣钱，真是穷人思维啊。
前面的一堆答案，很多法律隐私角度的分析，有些过于恶意揣测zao团队了，在zao用户的欢呼声下，也显得有些太脱离群众了。
zao本身尚未作恶，版权问题是有双赢方案的，版权方自会处理。zao目前也尚未泄漏或者滥用用户隐私，更谈不上不道德。
而zao的贡献，已经是真实的了。
所以，支持zao不变！
换脸技术本身无罪！
坚决反对对技术做有罪推定。
满足了我想活在上个世纪的愿望：
其实最重要的不在于美不美，主要是能和朋友一起笑到岔气哈哈哈哈哈哈哈：
https://www.zhihu.com/video/1151264803308916736添加几句评论：
这个软件爆火应该归咎于
是个比美颜相机更能“筑梦”的软件。
可对于一个新用户而言，试用换过几个视频之后，新鲜劲儿一过，幻想被满足，也就不愿再继续玩儿下去了。有点像叔本华说的
“生命是一团欲望，欲望不能满足便痛苦，满足便无聊。人生就在痛苦和无聊之间摇摆。”
若是软件后续不做跟进的功能性更新，仅靠换脸明星/网红这么个单一的用途，这把火也应该烧不旺太久。
希望创办方能更好地完善用户体验，利用自己的优质技术造福群众。
也希望能尽早解决大家针对隐私保护与肖像权等隐患提出的质疑，更希望社会中没有那么多人心叵测，鬼蜮伎俩。
一夜之间，一款叫做「ZAO」的换脸 app 火了。
朋友圈的张三李四，突然都拥有了一张「明星脸」，还跟爱豆们在屏幕里谈情说爱。
相信很多人对类似的换脸技术并不陌生，从将女明星变成小电影主角的 Deepfake ，到 B 站上朱茵变杨幂的换脸视频，类似的技术已经多次登上过热搜。
过去被换脸的对象多是公众人物，一个换脸视频的生成至少要几个小时。而现在只需要几秒钟，每个人都可以变成想要变成的人。
在 Deepfake 换脸刚刚兴起的时候，爱范儿曾设想当这种技术的门槛被降低后会走向何方。而现在随着「ZAO」这样的换脸 app 面世，一个全民换脸的时代可能真的来了。
问题在于，这种超低门槛的换脸 app 会不会像之前的换脸工具一样走向不可控？
ZAO 换脸初体验：易上手、花样多，但还不够逼真
跟前段时间爆红的变脸软件 FaceApp 类似，ZAO 的操作也十分简单，用户只需要选定模板上传自拍，就能自动生成属于自己的换脸视频。
可比起 FaceApp 免费版数量有限的变脸滤镜，ZAO 可以选择的素材则要丰富得多，有合演、名场面、换装、爱豆同台等多种场景可以选择，甚至还细分到扮演的角色、剧情、演员和影视剧等。
我把自己的脸换到白展堂、谢尔顿等影视角色上，大概 10 秒左右就能生成一个视频，可能是因为缩短了时间，效果只能算一般。脸部与颈部的接痕隐约可见，尤其在头部运动时比较明显。
此外虽然能从换脸视频上看出自己的五官特征，但整体而言就不太像我自己了，远远不如此前朱茵变杨幂的视频逼真。
但 ZAO 能火起来，最关键的原因还是将换脸变成一键就能完成傻瓜式操作，大大降低了门槛，
除了视频，还能将你的脸换到各种表情包上，不过表情包的素材相对视频就没有那么丰富了。
除了花样更多，ZAO 跟此前的换脸 app 不一样的是，更加严格地限制了用户的图片上传。
如果用户使用的是未经本人肖像验证的图片，就只有 10 次的使用机会，生成的视频也会打上浮动的水印：「未经肖像权验证，此视频也无法保存」，就连截图和录屏也不行。
另外公众人物的照片也能被识别出来，爱范儿尝试使用一张黄晓明的照片来进行人脸识别，系统随即提示「疑似侵犯公众人物肖像权」。
ZAO 采取更加严格的认证机制，显然是为了防止这种换脸工具被恶意利用，不久前可以「一键脱衣」的 app「DeepNude」，就是在巨大争议和骂声中不得不全面下线。
然而，这样的上传认证和限制分享设计，就能让 ZAO 这款换脸 app 潜在的问题都扼杀在摇篮吗？
看似严格的认证机制背后，却藏着更大的猫腻
尽管 ZAO 采用了相对严格的认证机制，但有用户发现这款 app 的用户条款存在不少猫腻，在用户玩得不亦乐乎的时候，可能已经将自己的肖像权送给了别人。
在 ZAO 用户协议里，有这样一条：
在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予 zao 及其关联公司以及 zao 用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑..……以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利。
法律工作者@法山叔 指出，这意味着 ZAO 不仅可以免费使用你的肖像，无论是动态的还是静态的，而且还有权将你的肖像权有偿或无偿授予第三方。
简单来说，想要使用 ZAO 换脸，先得把你的脸无条件交出来。
▲ 目前 ZAO 因为访问量过大已无法正常使用
不止如此，为了规避侵犯肖像权和影视版权风险， ZAO 还试图在用户协议里将这个锅甩给了用户。
再来看看 ZAO 用户协议，其中第 6 条第 2 款明确规定：
如果您把用户内容中的人脸换成您或其他人的脸，您同意或确保肖像权利人同意授予 ‘ZAO’ 及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利。
翻译成人话就是，你用别人的脸之前，要先保证别人也同意将自己的脸免费交给我们哦。
那如果真的侵犯了别人权益怎么办，第七条第 7 款就说了：
若您侵害他人名誉权、肖像权、知识产权等合法权利的…ZAO 可以诉诸行政执法机构或司法机关，追究相应法律责任。若因您违反本协议或 ZAO 平台的其他规则导致任何第三方损害的，您应当独立承担法律责任并承担损害赔偿责任；ZAO 及其关联公司遭受损失的，您也应当一并赔偿。
也就是说，如果我在 app 里把葛优的脸换成我的，葛优来告 ZAO，ZAO 也可以对你说：「亲，你怎么没有事先征求葛优的同意啊？现在要赔人家 100 万，这笔钱得你来付。」
通过这一纸协议，ZAO 可谓是占尽了便宜又撇清了风险。正如@法山叔所说，「从来没见过如此明目张胆攫取用户权利的用户协议。」
更可怕的是，目前 ZAO 已经登上了 App Store 免费榜的第二位和娱乐免费榜的榜首，大量用户也许在毫不知情的情况下就将自己的肖像权拱手让人。
无论 ZAO 能走多远，鉴别换脸视频的技术越来越重要了
除了公众人物外，一般人对于肖像权可能并不太敏感，毕竟我们平时就在各种开放网络平台发布自己的照片。
但换脸 app 不太一样，它采集的是动态的、更多细节的人脸信息，如今人脸识别在智能手机上十分普遍，有人开始担心不法分子会利用这些人脸信息进行犯罪，比如破解刷脸支付进行盗刷。
▲图片来自：蛋蛋赞
那么 AI 换脸视频有可能破解刷脸支付吗？支付宝的工作人员告诉爱范儿，不管网上各类换脸软件换的有多逼真，都是无法突破刷脸支付的。
「刷脸支付」采用的是 3D 人脸识别技术，在进行人脸识别前，也会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成的，能有效地避免各种人脸伪造带来的身份冒用情况。
不过这种担忧未必是杞人忧天，曾有研究人员尝试用 Deepfakes 视频来测试的人脸识别系统，用的还是比较领先的基于 VGG 和 Facenet 神经网络人脸识别系统，结果显示误识率分别达到 85.62% 和 95.00%。
当然能骗过人脸识别系统的 Deepfakes 视频质量要比一般的换脸 app 更高，但至少说明这个可能性是存在的，或许 ZAO 会是又一款月抛型的爆款应用，但提升鉴别换脸视频的技术越来越有必要了。
其实目前已经有研究团队采用生成式对抗网络（GAN）来鉴别换脸视频 ，以 AI 对抗 AI。前不久加州大学伯克利分校和南加州大学的研究团队就开发了一套 AI 鉴别系统，先通过生成式对抗网络，提取特朗普、希拉里和奥巴马等人的面部、头部运动特征，合成假视频。
随后再用机器学习分析真假视频的差异，从而得到每个人的「软性生物特征」（soft biometric signature），识别出细微的动作特征，这种检测工具识别 Deepfake 视频的准确率达到 95%，研究人员希望能在未来半年内提升至 99%。
不过这种利用 AI 对抗 AI 的鉴别方式也存在问题，因为生成式对抗网络的原理就是让两套神经网络在相互博弈中学习，随着鉴别技术的提升，假视频的质量也会进一步提高，两者永远处在不断的对抗当中，谁也无法彻底打败谁。
▲ 图片来自：allure
另一个不太令人乐观的事实是，相比起 AI 换脸技术的研发，鉴别技术的科研力量显得有点势单力薄。加州大学伯克利分校的计算机科学家 Hany Farid 也指出，目前研究合成视频和鉴别的人数是 100：1，
据称 ZAO 一夜爆红后，已经吸引了大批风投机构的关注，一大批「复制品」已经在排队上线。天下熙熙，皆为利来，换脸可能带来的商机让资金蜂拥而至，进一步推动换脸技术的进步。
因此，仅仅依靠现有的技术可能难以避免 AI 换脸走向失控， Hany Farid 的建议也许值得参考：
解决方法不能只靠技术，还需要媒体专业的报道，以及更好的数字公民、公司和政策。
如何彻底清除 ZAO 上的人脸信息？
对于已经在 ZAO 上体验过换脸的用户也不必过于担心，爱范君告诉你一个快捷注销账号，清除人脸信息的方法：
- 点击右上角头像
- 进入隐私协议，拉至页面底部
- 点击「申请注销账号」
- 点击「开始注销页面」，通过手机号认证后完成注销
注销账号后，所有上传的面孔信息都会被删除，不过同一手机号未来 30 天内无法再次注册。
本文作者：李超凡
昨晚，一款换脸app——ZAO一上线就瞬间火爆。
天眼妹还没弄清这个app和之前“变老变性”的app是不是同一款产品，这个app就又因为用户协议的问题被二次引爆了。
ZAO的背后是陌陌？
ZAO运营主体是长沙深度融合网络科技有限公司。公司的法定代表人为雷小亮，股权向上穿透后，可以看到ZAO的实际控制人分别为王力、雷小亮。两人分别通过海南喵咖网络科技有限公司间接持股50%。
王力的身份为陌陌总裁兼首席运营官，雷小亮则是陌陌的联合创始人。
而且，天眼妹进一步查询后发现，长沙深度融合的全资股东海南喵咖网络的股权已全部出质。
出质给的公司是北京壹六零二信息技术有限公司，这家公司正是北京陌陌信息技术有限公司的子公司。
所以，不论是从ZAO背后的实际控制人来看，还是从公司股权出质的状况来看，ZAO都是属于陌陌打造的一款产品。
其实，换脸技术早就悄悄开始普及并被商用化了。
不过国内还鲜有人真正去关注用户的面部数据安全，以及在安装app或其他软件时，那份容易被我们忽视掉的“用户协议”。
希望ZAO的火爆，能真正唤醒更多的用户和相关部门，去关注如何保护我们的隐私数据吧。
刚刚下载，被朋友安利所以去试着玩了一下。
https://www.zhihu.com/video/1151246618836844544换了一下我的女神试试。
新增回答。因为有评论提到觉得我提供的照片太精修，我觉得可能会影响一些对于软件效果的判断，所以我跑去犄角旮旯里翻出了当时这一张的原图，也可以识别，所以用未修图再替换一下演示效果：
https://www.zhihu.com/video/1151401175680081920可以看到其实如果是未精修的图的话，皮肤瑕疵还是会很明显的，并不会帮你抹除掉（。）
我不算特别细心，但也会大致浏览一下条款，奇怪的是我看的时候已经删掉了之前回答里提到的霸王条款，变成了这样。
不知道是不是因为压力而做了紧急修改。
另外这个软件识别公众人物的系统也有点人工智障，在我之前用我另一张照片识别的时候，被弹出来了这样的信息。
我当时的表情：
目前已经打算注销了。
https://www.zhihu.com/video/1151248876467122176因为好久没有这么笑了
https://www.zhihu.com/video/1151248903222546432?
该应用在iOS商店里排在前列的评论
01
你看过它的“用户协议”吗？
“ZAO”用户协议（部分）
换脸视频会侵犯肖像权、著作权、影视改编权等，还待法律意义上的厘清。
在“ZAO”之前，已经有不少类似的软件存在，但多数还属小众。不妨把它的火爆，视作一种提醒：
这种技术离我们如此之近，未来某天，如果发现自己出现在某条色情视频中、被人指控从事诈骗，或者听说有人替你和亲朋好友通过话，你都不要太过惊讶……
话题的讨论让人们注意到同类技术中的安全问题
02
挡不住的技术
下面的动图截自早前一些使用 AI 换脸技术制作的情色片。现在的技术已经更为强大。
“艾玛·沃森”
“娜塔丽·波特曼”
“斯嘉丽·约翰逊”
今年初，斯嘉丽·约翰逊就在多个场合，炮轰这种假色情片行为。她说：
“互联网是一个巨大黑暗的虫洞。我没法阻止一个陌生人把我的照片拼接到另一个人的身体上。这件事对我个人造成的影响不大，因为大家都知道那不是我。但是我希望，女性和小孩们今后在网上能够倍加小心。因为很快就会有普通人被盯上。”
事实上，针对普通人的假色情片制作已经形成了一个灰色产业。
在国内很多网络交易平台上，100元就可打包200部换脸情色片，囊括国内一二线女明星；定制换脸视频，低于1小时只需100元，可为你制作自己同事、同学或朋友的假色情片。
“ZAO”的app宣传页上写着“仅需一张照片”。假色情片制作同样只需要照片而已——而你的这些个人照片，网上可能很容易找到，对吧？
有一天，如果你中招出现在某个不可描述的画面里时，连嫌疑人都很难锁定。
换脸视频的受害者几乎没有反击的工具。美国法律专家表示，换脸视频往往难以追踪，无法调查，而且存在一个法律灰色地带：它们建立在公开照片的基础上，实际上是新的创作，这意味着它们可以作为言论自由受到保护。
几个月前，有个ID为“阿尔贝托”（Alberto）的程序员开发了一款名叫DeepNude的应用：只需要上传一张女性照片，该应用就能自动移除女性身上的衣服并“填补”出裸体。
这种“一键脱衣”使用的是和AI换脸类似的算法。后来，迫于全网压力，DeepNude宣布下线。
但就像开发者辩解所说，“技术已经发展到这一步了，如果我不这样做，别人也会在一年内做出来。”
技术本身是挡不住的，所以更需要人们来予以约束。
谷歌公司在这个问题上的态度也很有代表性。他们说自己很重视道德责任，但认为如果对新技术严加限制，可能会让延缓开发出一些对人类有益的用途。
计算机科学家法里德认为这是一种狡辩：“你能想象一个生物学家对人们说：‘嘿，这有一种非常酷的病毒，我们看看如果人人都能感染它会怎么样’吗？”
法里德说：“这项技术太不成熟了，科技公司必须放慢推广它的步伐。”
04
它会摧毁我们对外界的信任吗？
“ZAO”在图片上传时，对公众人物的照片进行了拦截。有用户疑问说：“它如何充分定义和识别公众人物呢？”
这种拦截，是因为公众人物的换脸视频危害更大，特别是利用他们来发表一些观点。奥巴马、特朗普，都曾是此类视频受害者。
今年6月初，一则以Facebook总裁扎克伯格为素材的换脸视频在Instagram上传播开来。在视频里，假的扎克伯格说：“试想一下，一个人拥有几十亿人的数据，他知道这些人的秘密、他们的生活，甚至他们的未来。而这些数据全是偷来的。”
“AI换脸”扰乱美国政坛, 扎克伯格也成受害者_腾讯视频
扎克伯格的“受害”视频，以及AI如何干扰美国政坛。
它以扎克伯格的名义讽刺了他自己。
此前，扎克伯格一直对Facebook上的假视频态度暧昧，强调不应该由平台来判断什么是真假。
到6月底，扎克伯格宣布，Facebook已经在制定新的换脸视频监管政策，来预防它们造成恶劣影响，并且表示：在未来，Facebook可能会完全禁止换脸视频。
而与此同时，“语音克隆”也取得了突破，现在，只需提供几秒钟的语音样本，就可以模拟出非常相似的人声。百度，谷歌、Adobe等公司都在开发相似的项目。
视频加上声音，恐怕你自己来鉴别都会有难度。
“人在家中坐，祸从天上来。”未来不要感觉太奇怪。
当这种换脸视频的泛滥，耗尽人们去核查辨别的耐心之后，这种新技术很可能会摧毁公民社会里的相互信任。
你如何看待换脸AI？
主要参考资料：
https://www.theguardian.com/news/shortcuts/2019/aug/13/danger-deepfakes-viral-video-bill-hader-tom-cruise
https://www.economist.com/the-economist-explains/2019/08/07/what-is-a-deepfake
https://36kr.com/p/5077359
https://www.vice.com/en_us/article/3k7mgn/baidu-deep-voice-software-can-clone-anyones-voice-with-just-37-seconds-of-audio
https://www.cbsnews.com/news/facebook-zuckerberg-says-its-really-important-to-form-policy-on-deepfake-videos/
https://fortune.com/2019/06/26/mark-zuckerberg-facebook-deepfake-videos-policy/
https://www.scmp.com/news/world/united-states-canada/article/2180091/graphic-deepfakeporn-videos-are-being-weaponised
阅读原文：刷屏的“换脸”，有什么风险？
点击链接即可阅读
没结婚的理由
“步调一致”的狂热
他那天到底想跟我说什么呢?
http://weixin.qq.com/r/yjnC2k3EShA1rQm592zY (二维码自动识别)
我认为是目前对ZAO协议条款的技术性批评，其实模糊了重点问题。其用户协议和隐私协议无疑写的都很糟糕，但也因为对肖像权授权的过于权利义务不对等，这些条款一旦进入司法程序，可以肯定会被判无效，或者在进入司法程序前就被相关监管机构要求整改。而视频内容目前可能存在的侵权问题，之后也完全可以通过商业合作取得授权来解决。ZAO这类利用深度学习技术换脸的软件，最大的问题还是大规模收集生物识别信息和“真假难辨”的deepfake给社会带来的安全风险，而这种风险目前被公众广泛低估，但实际上已经在不断带来严重的后果。
静态或动态的人脸信息（ZAO都会向用户收集）、指纹、虹膜都是典型的生物识别信息，属于个人敏感信息，由于其不可更改，一旦泄露或被滥用，都会给信息主体带来持久的影响。更通俗地说，这是一个魔鬼交易，为了一段自娱自乐的视频，用户交出了自己最重要的信息，且完全不清楚其可能的后果。从糟糕的用户协议和隐私政策来看，ZAO的开发者也并没有严肃地思考过这个问题，而是秉承一种先把用户的数据收集过来再说的态度。这在国内也并不是第一个例子，之前也有不少类似的例子，甚至有在厕所里换取一包卫生纸，就要求用户进行人脸识别的情况。在安防、金融反欺诈等领域，人脸识别已广泛应用，但争议也不小，但毕竟是涉及公共利益，对收集者数据安全能力的要求也很高。而在泛娱乐场景，生物识别信息的收集，风险和收益极为不对称，仅以创新的理由大规模收集，是非常危险的。
另外一个问题影响面则更大，在国外被称作deepfake（深度伪造），即利用人工智能技术尤其是deep learning（深度学习）技术制作精品真度极高的视频、音频，目前已达到以假乱真的水平，很多时候普通人几乎无法分辨真伪。由于这一技术一开始就应用于色情和政治领域，在国外迅速引起了立法者的关注，如美国已经在联邦和州一级的立法程序中有所回应，加快了立法程序。除了各种名人以外，deepfake已经出现了很多受害者，尤其是一些年轻的女孩，仅仅是因为在社交网站上公布了一些照片，就被制作成了色情视频，并广泛传播；之后因此出现各类的诈骗，应该也都在预料之中。而其最大的问题，是挑战了“眼见为实”，使得公众对事实真假都失去了信心，会带来巨大的社会成本。
根据我的研究和了解到的信息，无论是生物识别信息的收集和利用，还是对deepfake的法律应对，国内的立法者和监管者都非常重视，在关于个人信息和数据安全的立法中有所回应。
（首发于21财经）
谢邀。
ZAO 将 DeepFake 产品化了。
无论它用什么概念去包装，目前的这种「AI 换脸技术」只会被用来干两件事。
- 满足自己的某些趣味。（将自己的脸、明星的脸换到影视作品上，包括成人作品）
- 造假，散布虚假的信息，构陷、攻击、诽谤他人。
目前 ZAO 还挺克制的，视频片段不能自己上传（也就是没法替换色情片），还会对公众人物的脸进行检测。
长期地看，这个技术被用于第一件事是没什么大问题的，无非就是将人们脑中想象的内容具体化了，它会停留在像 ZAO 这样的「玩玩」的层面，如果出现成人作品相关的内容，也会像现在的成人作品一样停在那些互联网的角落里，而不会进入主流视野。
我们不用太过担心这个事，就好像我们不用担心 18X 的同人作品会毁了正作一样。
关键在于第二件事。之前就有假的扎克伯格，最近又出现了假的奥巴马。
从技术上来说，好莱坞肯定早就可以做到造一个假的奥巴马说一段奥巴马没说过的话来误导公众，我们基本不用担心 DeepFake 的存在会让「真相」完全消失，有很多技术手段可以用来反制 DeepFake。
但问题在于，造谣的成本。
15 年前，我们在网上第一次看到「肯德基的鸡都是转基因鸡，要不你想想，它只卖鸡翅，哪有那么多翅膀？」的谣言，下面还附带一张「长六个翅膀鸡」的拙劣 PS 图片。
有无数人因为「眼见为实」就相信了这个新闻，之后的很长一段时间里我都会听到各种人说肯德基的鸡「打过激素」、「转过基因」，「我亲眼看过，它那个鸡长六个翅膀」。
这还只是 PS，需要人手工去 P。时至今日，P 得相对拙劣一点的图已经骗不到任何人了，很多网友都进化成了敏锐的「鉴 P 师」。
但 DeepFake 不一样，它是一个 AI 工具，易用性远超 PS。任何人只需要上传视频片段就可以一键生成虚假的内容。
而且这些产品作者还会想办法鼓励大家多去尝试使用，因为这能训练神经网络，使它变得更精准。
这才是问题的关键所在。
现在潘多拉的魔盒已经打开了，想靠法律法规和行业自律去限制，难以从根本上解决问题。
因为带有恶意的人一定能够找到一个合适的工具来达到他的目的。这个领域很多代码都是开源的，想要产品化并不难。
只能靠技术手段进行反制。只是这个问题，可能需要等出现了大规模技术滥用导致恶劣后果之后才会真的引起重视吧。
暌违三年，没人邀请，利益相关，来刷个脸。
作为一名知乎吃瓜群众，我关注到目前这个问题下以及全网范围大家集中在讨论人们最担心的用户隐私问题，伦理问题，源视频素材版权问题。也在一天之内，目睹了在多方舆论法律权威的法务建议众目睽睽之下Zao修改了用户协议。
我想只要Zao在线上一天，这种修改甚至可能会伴随其整个的产品生命周期，发布新版本，改一改，搞个营销活动，再改一改。
虽然我也是在Zao修改了用户协议后斗胆决定写下这个回答，但我反对但并不针对某些为了蹭热度而只单纯停留在车轱辘话反复谈论用户隐私安全，聊法律法规、源视频资源版权风险层面上并以此为攻击点而唱衰产品未来走向的答案，这难免会让人误以为是在蓄意踩踏。 同时真诚的赞同和感谢那些积极提出相关法律风险点给出用户协议修改建议的律圈大佬答主们的专业答案。
以上这些问题的集中讨论现象其实早在两年前在海外就发生过。应该有不止一个答案提到了这种应用的鼻祖先尊。
2017年年末在Reddit平台上，ID为Deepfakes的网友做出了一套AI换脸算法，用其制作的大量色情视频一时充斥了Reddit，在法律和舆论的多重压力下，Reddit下架了相关视频并封杀了ID“deepfakes”，而这更直接促使代码被开源。后来的牛人将该套开源库进行封装成了一个应用FakeApp, 那些拥有一台搭载高性能GPU的电脑且有十足的性趣的人们就此展开了他们的副业。无数宅男们用这个技术拿来做色情小电影以及用来恶搞调侃欧美政客，在海外形成了地下灰产。
今年年初杨幂换脸朱茵”微博话题破1.1亿次事件更是将这套技术玩法在国内带起了一波小高潮，此后便有了红透全网被玩坏的蔡徐坤，躺在家里上热搜的“海王”徐锦江等等。目前大部分业内玩家应该都人手一套基于DeepFaceLab的开源代码包在进行着各种优化和满足自身需求的辗转腾挪。
Zao的一夜爆红我并不意外，甚至是某种期待下的意料之中。
我更愿意作为一个友商身份的产品经理，同时也站在一个普通用户的角度去表达一些和目前大部分答案所持观点不太一样的个人观点和看法。
以下言论仅代表我个人观点，不代表任何官方，但我愿为我的个人言论负责，如果您有兴趣有耐心看完，欢迎在评论区或私信以不带人身攻击的态度和方式与我进行友好的观点交流和讨论。
不得不说作为一款刚刚发布的1.0阶段的产品，Zao可谓全须全尾，该有的都有了，包括激起公愤不负责不克制乱甩锅的版权声明、隐私协议及用户协议APP合规三件套。
Zao获得了初始阶段性成功的关键，在于它抓住了用户核心痛点以及做好了基础功能：满足了广大用户对于YY、各种苏的终极想象形式：合演、名场面、换装、爱豆同台、好友互动。对于全部场景有覆盖相对应的简单标签分类，作品直接生成短视频和GIF格式，方便传播。 内容上目前我个人看来稍微有点不足，期待在后续加强视频素材版权获取和第三方合作以及内容运营模式上能更加丰富。至于看到有其他网友评价用户界面（UI）没有特色，不好看，我觉得这些真的不重要，生成视频中的你有特色好看才是它的首要任务，甚至我个人看来它界面的简洁粗暴设计十分利于用户迅速了解产品功能及交互逻辑。
目前最影响体验的可能还是高并发带来的服务器算力不足问题，早在两个月以前我也有和敝司研发小哥讨论过同类产品都会有的这个死穴，尽管Zao为此已经付出了极高的成本投入（官方宣称一夜服务器烧掉200多万，壕！）在我看来短期内这种情况应该是会持续的。
Zao的起步一波营销在关键传播节点和主流社交平台上一定是做了较大资金投入的，很难相信这是突然间的自然爆发，然而确实也是产品的功能易用、交互流畅、趣味性强决定了它在传播路径上畅通无阻成为了现象级产品。
Zao的研发和产品能力是顶级的，最牛批的两点1.将模型训练所需素材压缩到了极致：仅用一张照片作为训练素材，技术上极大减少了对用户隐私图像素材量的获取（这有多难？大概相当于你刚刚教你家娃1+1=2，他沉默了一分钟之后突然说出了一个三角函数公式）2.极快的生成速度，是服务器算力原因导致了用户的排队，拿号之后的生成等待时长大约为十几秒到一分钟。尽管我在体验产品的时候也多次被弹窗告知服务器繁忙需等待，不过等待时长我觉得作为免费用户还是在接受范围内的。
以我有限的技术理解力猜测，Zao应该是先将预制素材视频（我个人觉得目前平台上的视频素材并非为C端用户所上传，只是为避免违规的一种说辞）全部都已进行了素材预处理，我发现输出视频较原视频比画面的锐度更高，通过原视频素材进行提高锐度的处理（可降低训练时间），并且用大量的人脸素材与原素材进行编解码训练提高模型泛化能力从而获得一个适用性超强的万能模型，缩短训练时间）
夹带一张我素颜做dst刘亦菲做src的模型预览图的私货hiahia……
零零发研发小哥猜测：技术路线上Zao的研发团队也许是采用了去年某篇论文的方法（论文出处见文尾标注），研发大牛撸代码，产品经理说人话，我来大概翻译一下：一张包含人脸的图像中有几种核心元素，即通用概念范畴上的姿态，角度，表情以及个性化生物属性即所谓的个体长相（五官）包含在编码器和解码器的中间层，这些属性数据解耦，dst保留姿态角度表情属性，叠加src的个人属性进行训练，输出后即是保留dst演技水平的又具备src五官特征的完整视频。
不得不承认，Zao产出视频视觉效果上非常好，既与你本人有较高相似度，却又比你本人美。以及我猜测生成过程中应该也叠加了一些美颜算法，提升了生成视频人物图像的美观精致度。
这又是一个类似于“脸萌”“ZEPETO”的产品生命周期短暂的现象级产品吗，我不是非常认可种说法，无论“脸萌”还是“ZEPETO”，他们的输出都是萌系或时尚挂卡通化的形象，应用场景使用人群都相对有限，很难通过后续的运营等手段刺激转化出高频使用场景和强需求来保证用户留存和活跃。且其输出形象视觉上已经脱离用户个体本身，基于个人形象生成的脸萌形象还是ZEPETO形象，你说是另外一个人甲乙丙丁，也不会有人怀疑，然而AI换脸不同，只要用户愿意，换的永远是自己的脸，真人的脸，人都是自恋的（自恋是人类共有的心理障碍之一），看自己的脸永远看不够，人类对自我形象的认知、期望获得肯定及意淫的需求永远都存在。而之前短暂火过的faceAPP，玩法也比较单一，变年轻变老变性，玩几次基本就弃了。
个人尝试推测下Zao未来可能会玩的商业模式：
1. 广告：广告主瞄准目标用户，拍一个美美哒广告视频模板投放进来，用户就可以自行传播了，这里单独给服装类品牌商黑体字。
2. IP合作：各类影视作品的持续不断的PR活动，大IP的授权合作（李现发抖音用了哪吒模板）。
3. 围绕当下仍然处于快速上升通道中的“饭圈儿经济”去做扩展。
4. 素人演员海选。
5. 电商直播 ：之前和某时尚内容导购平台对接，为C端用户提供一对一的线上实时试衣服务，为B端卖家提供虚拟模特服务。目前天猫商城已经有AI线上试口红的应用在试水了，之前也有体验过，作为一名过气美妆博主，个人觉得达到和实物试色一模一样的效果不太可能，起到可以作为辅助参考的作用。
6. 社交 ：个人十分看好AI换脸在开放式社交领域的发展
7. 虚拟主播 ：不是乔碧萝张阿姨那种，而是类似于一种24小时全时段全能（吹拉弹唱打游戏）多栖主播，各位放飞想象一下。
作为开放式社交扛把子陌陌旗下的产品，我想Zao的业务格局并不要求它实现短期的盈利，个人更倾向于认为是业务拓展试水和行业破冰式的布局（毕竟之前确实没人敢做&能做），无论它未来能够走多远，客观上它都已经成为了一个里程碑式的产品，Zao做了业内众多在AI换脸领域进行各种尝试探索在红线黑线上疯狂挣扎的团队们想做而不敢做的事，也达到了一些友商即使做了相似产品却也没有达到的高度，希望它能够不负这场亮相所带来的用户狂欢，也能敢于面对用户和舆论质疑，做好对用户隐私数据的管控，在隐私条款用户协议及声明上尽量友好、详细、及时明确的向用户解释介绍清楚用户的图像数据流是怎样的。通过正规渠道获取到更多优秀内容及版权。用户自身也需要加强提高保护隐私的意识，认真阅读用户协议隐私条款，有意识的选择是否同意而不是无意识的随便打勾。技术和产品做到克制有度，有舍有得，资本和法律政策进行有效调节和监管。敬畏用户，迭代技术，做好产品，相信Zao会越走越好。期待相关的法律法规可以尽快得到完善和补充，必须承认一点是，任何行业都一定是在法律法规这个大风向标的指引下去调整和规范风口。
我的好友 @蒋坚 （北京零零发科技有限公司CEO）的研发团队去年年中在DeepFaceLab基础上历经了数次的优化、迭代，已经达到能够产出作品质量明显优于业内同行的水平，一直以来作为零零发的兼职吃瓜产品经理我都在和他不停的探讨一些这项技术可能应用到C端和B端的各种场景。
C端产品的优势不言而喻，有丰富有趣的应用场景能够适用于广泛且多层次的用户群体，激活多种传播链，有机会短时间迅速传播裂变、爆发式获取到海量用户及流量，也能通过后期运营实现长尾的商业模式（毫不谦虚的说，Zao目前所有包含的玩法，我们都曾经讨论过，最终都被Zao实现了，牛批），弊端是C端产品从开发初期的研发投入、时间周期、高算力硬件等各项成本支出，到能够支撑上线后的营销费用、支持高并发量的服务器集群成本和版权资源再到后续运营等等都将是一笔巨大的投入。此外就是C端产品会涉及到文章之初所提到的无法回避的用户隐私安全问题，因为这项技术确实敏感又灰色，用它来做什么怎么做全看创始团队初心和团队文化价值观，如何在合法合规的框架下，产品能够带给用户安全感和信任感并规避掉所有安全隐患是一直都是困扰我们的一题。
创业公司的每一天都面临极大的资金压力，短时间内无法获得满足开发C端产品所需资金量的融资（这两年的融资环境真的非常糟糕），彼时恰逢B端市场（影视行业）有大量影视剧作品因参演演员个人原因（涉嫌违法犯罪，发表不正当言论、婚外情等等个人作风问题）大规模爆发了上映播出危机，唯一补救方式即通过后期修改涉事演员剧中镜头），有一些影视制作方主动联系了零零发研发团队寻求合作机会，因此零零发借势选择了发力B端市场的方向。
B端市场带来的利好信息是，全行业问题作品库存远超预期想象，业内人员称已知因演员原因导致的无法过审的电视剧约有上百部，我个人调研统计近两年来平均国内产出电视剧约为300部/年，在完成拍摄后通常都会有4，5个演员（第一、二番位）涉事导致10-30部剧集无法过审或无法上映。去年某演员因涉嫌强奸案导致其参演6部剧无法正常通过审核并播出，其中《巴清传》则是由演员李晨，到一个专业摄影棚，原模原样的模精品原演员的表演，从早到晚连续拍摄了40多天re了所有镜头（要明白一个还算有演技口碑的男演员要舍弃掉自身的演技如表演方式、表情运用台词习惯等去完全模精品另一个人的表演去演40天戏，你就会知道，李晨太难了，关键，这部戏他没收钱，所以真说他没爱过范我不信，这种爱真的只有他能给啊……），整个后期完成耗费约3000万。
可见B端市场优势是目前存量较大，客单价高，应用场景也同样多样也有机会将产品平台化，一旦成首单后行业内会迅速形成口碑积累起一定壁垒优势，操作得当甚至能有机会参与重构产业链上的多个环节。然而B端市场的劣势也在和客户的合作逐渐深入过程中呈现了，投入高，风险大，客户从意向到签约决策周期长。由于B端市场客户多为传统的影视行业，其行业本身无论是生产业务流程还是生产工具、放映设备目前都达到了一个极其专业化、精致化、准入门槛极高的生人勿近阶段，作为原本外行的技术团队，要去满足它的各项参数要求和边界规范，它要求视频产出达到1.Dst（destination）与Src的微表情、神态、口型、面部细节等要高度还原并融合无面具感，2.支持高清分辨率（4K）大尺寸特写镜头 3.生成品与原镜头对比无断帧、丢帧 4.生成视频能还原出原镜头的拍摄环境、光影环境5.面部不能受妆发影响产生瘢痕、畸变等。为了满足用户的以上要求，零零发团队先后重金租赁和购买了超算dgx1和dgx2投入研发和生产，目前已经完成了一部电影和一部电视剧的后期工作，并有几部签约订单在手。此外，零零发研发团队的独门绝技直播实时换脸目前已通过测试达到上线标准，目前该业务仅面向合法经营的企业公司合作，适用于电商直播，在线教育，辅助心理康复等专业化直播场景。
行业和市场仍然很残酷，每走完一步就要想后面的十步、一百步，以及预测后面会要遇到什么样的坑，怎么避开坑。很显然做单一的后期业务，太看zhengce脸色，演员有没有问题，问题爆发后能否被公关掉，会不会被封杀，AI技术会不会持续被允许应用在影视后期环节这种事很有可能朝令夕改，如果单纯吃“救灾打捞队”这碗饭，吃完了存量将很难有下一步发展。
在深入了解行业需求和相关业务链路的过程中，我发现AI换脸B端完全可以从后期前置到生产流程前期，即可服务于1.影视行业金融保险，2.辅助casting导演选角3.替身演员（目前大部分替身戏都没正脸、近景镜头）4.数字化保鲜（跨年龄段戏，可以用演员年轻时的数字素材修复脸部）5.数字化艺人（虚拟艺人），而这些业务同样可以延伸到C端业务进行打通，这可以让每一个素人都有机会参与到影视剧制作行业中来，可以理解为是影视行业的一次行业人员下沉，这大概是真正的C端用户和B端大佬共同enjoy“泛娱乐”的切入点和良机。
一项技术落地成为了一个产品，他如果势不可挡，一定是因为它熬过了生不逢时，迎合了用户需求，重整了产业链条，吸引了大佬入场。
期待更多的公司企业团队个人加入到这个行业，大家一起走花路。
欢迎大家关注知乎“零零发幻脸科技”企业号，公众号：零零发AiFace。
论文参考：Jianmin Bao, Dong Chen, Fang Wen, Houqiang Li, Gang Hua. Towards Open-Set Identity Preserving Face Synthesis. arXiv:1803.11182v1 [cs.CV] 2018.3
