移动互联网

蚂蚁呀嘿凉了,为什么AI换脸都难逃“英年早逝”的宿命

2021/3/6 10:32:00

编辑 | 于斌

出品 | 潮起网「于见专栏」

”蚂蚁呀嘿“最近在抖音刷屏,其背后的Avatarify 是一款AI变脸应用,奇妙的视频效果,喜感夸张的人脸变化,配合上短视频应用的流行,让Avatarify 突然爆红起来。

这款应用在2 月 25 日问鼎 App Store 应用免费榜榜首,随后连续数天稳居榜首。

Avatarify 最初的用途是在开远程会议时换脸的,比如让「托尼斯塔克」突然加入会议。

“蚂蚁呀嘿”和它背后的Avatarify这款产品如同其他AI变脸软件的爆红一样,其背后的原因也差不多相同。AI变脸软件主要通过算法实现换脸或变脸,这种新鲜、独特的娱乐方式不仅为互联网注入了鬼畜元素,同时也成了年轻人热衷的不严肃潮流。

而Z世代作为社交媒体的原住民,对于内容,求新、个性化、有趣成为他们追求的热点,Z世代是出了名的爱种草。

AI变脸软件恰好满足了他们开心、娱乐的需求,而他们身上与生俱来的猎奇DNA为“蚂蚁呀嘿”这样的等AI变脸软件的传播提供了肥沃的土壤。

get?code=NmU4NjM3N2RhZDk1NzhlMjVkM2Y4NzYxNDI5ZDY0MmUsMTYxNDk1OTg1MTgyNw==

似曾相识的结局

不过爆火的AI换脸app都难逃被下架的命运,仅仅7天的时间,蚂蚁呀嘿就嗨不起来了。

这种似曾相识的感觉让人不仅回想起,2019年,陌陌旗下的换脸软件ZAO正式上线,和Avatarify相似的走红,快速的下架。

ZAO上线仅一天时间,就刷爆各大网络社交平台,其在App Store的免费App下载快速登顶,甚至服务器也因为制作量过大而宕机。

但是ZAO从上线到App被下架,仅仅用了3天时间。

ZAO,只需要一张正脸照,就可以用你的脸制作网络热门表情包,出演经典电影片段,跟idol、朋友飙戏,其核心也是AI

换脸技术。但这项技术在带来新鲜体验的同时,也存在人脸信息被滥用甚至侵害他人权益等额外风险。

虽然ZAO在微博发布声明称,没有采集任何个人生物识别特征、不会存储个人面部生物识别特征信息、使用ZAO不会产生支付风险等,但依然无法打消用户的疑虑,并引起了有关部门的关注。

ZAO的用户协议条款也让很多用户担心。一方面技术滥用会导致虚假信息泛滥;另一方面,如使用明星等他人的照片来制作相关视频,就可能涉及名誉权、肖像权、知识产权等法律问题。

此外,个人隐私泄漏可能会涉及资产安全、人身安全等问题。

如今,Avatarify 有如 ZAO 的昙花一现,再次唤醒人们对隐私安全的担忧。

虽然 AI 换脸技术已日趋成熟,但其背后存在的安全隐患为它走向商业化带来了不小的阻力。AI

变脸软件需要更多安全保障,才能被大众所接受,想彻底变成娱乐应用尚需一些时日。

get?code=NDY3MmYyODJmNTFmYjhmNjQ3ZjhiYzk3NzQwMzE1YTYsMTYxNDk1OTg1MTgyNw==

智能换脸的娱乐代价

事实上,无论是Avatarify还是ZAO,走红可能是一场猎奇的意外,而下架却是必然的结果。

创新有趣的智能换脸带给我们欢乐,但欢乐的背后却往往需要更深的警惕。

娱乐之外,却不得不让人心生忧虑。

披着娱乐外衣的AI换脸,冠冕堂皇地使用着他人的肖像,而其应用对肖像权和隐私的侵害更将随着技术的泛滥而放大。

借助一些低价乃至免费的软件,消费者无需专业知识和技术能力,就可通过终端实现调整速度、摄像头效果、更换背景、实现换脸等操作。

而这些眨眼、摇头等动态行为信息,都是用户不可更改的敏感信息,一旦被非法使用,后果不堪设想。

有演示人员演示了如何利用深度合成中的表情操纵方法的安全漏洞攻击人脸识别系统。

如图所示,只需要一个人的一张照片,利用深度合成中的表情操纵的方法生成的一段伪造的视频。

做出比如说点头、摇头、说话等动作,就可以冒充这个人,轻易的来攻击人脸识别系统,完全达到以假乱真的效果。

要知道,眨眼、摇头等动态行为信息,都是用户不可更改的敏感信息,一旦被非法使用,便会造成严重的后果,例如:个人信息被泄露、被侵权、被别人刷脸导致钱财上的损失、甚至被用在一些涉嫌违法的情况上。

比如在2019年3月份,就有犯罪分子使用深度伪造技术成功模仿了英国某能源公司在德国母公司CEO的声音,诈骗了220 000欧元(约1 730 806人民币),其破坏性可见一斑。

其次,这也在一定程度上成为了色情视频滥觞的源头。

值得一提的是,AI换脸最初的猎奇就是被应用于色情行业。

2017年,美国新闻网站Reddit的用户首先上传了经过数字化篡改的色情视频,即这些视频中的成人演员的脸被替换成了电影明星的脸。

此后,Reddit网站就成了分享虚假色情视频的一个阵地。

2019年出现的一键生成裸照软件DeepNude,只要输入一张完整的女性图片就可自动生成相应的裸照。

受害者通常没有追索权,并且,照片上传之后难再删除。这种轻易生成的色情视频将很大程度上损害女性的工作前途、人际关系、名誉和心理健康,造成污名化女性、色情报复的恶果,使女性暴露在某种集体监视之中。

最后,也是智能换脸带来的最严重后果,就是对于信息的真实性形成的严峻挑战。

自从摄影术、视频、射线扫描技术出现以来,视觉文本的客观性就在法律、新闻以及其他社会领域被慢慢建立起来,成为真相的存在,或者说,是建构真相的最有力证据。“眼见为实”成为这一认识论权威的最通俗表达,在这个意义上,视觉客观性产自一种特定的专业权威体制。

get?code=N2I4ODE1ZjcwNDUyZGVkYjQzMmZmNDNmZTk4Mzg2OWUsMTYxNDk1OTg1MTgyNw==

然而,PS发明后,有图不一定意味着真相。

智能换脸的出现和流行,让视频也开始变得真假难辨起来:人们普遍认为视频可以担当“实锤”,而现在这把实锤竟可凭空制造,当真伪界限被数字化操纵,娱乐的趣味性与真相的真实性在混淆视听的人工智能生成物问世后变得更加模糊。

这对于本来就假消息满天飞的互联网来说,这无疑会造成进一步的信任崩坏。

如今“眼见为实”已不再适用,人类难以在日常的社会生活中区分数字面孔与自然人,虚假内容轻易取得信任,真伪之辨难上加难,合理的猜测与过度猜忌的界限更加难以平衡。

当人工智能能自动生成以假乱真的面容、声音乃至语言的时候,互联网乃至整个社会又该如何应对这种身份信息的混乱?

在过去,人脸只是涉及肖像权的问题,但在算法高度发达的时代,人脸已不仅仅局限于肖像,它更是延伸到金融、财产、安全、隐私等方方面面。

而这种“变脸”软件在生成特效时均需要导入照片,但产品在进行解读和智能分析的同时也可能泄露隐私,如利用上传的人脸用来做门禁、支付等,每个玩这款应用的用户都有可能会变成受害人。

可以说,不论是Avatarify还是ZAO,其走红可能是一场猎奇的意外,而下架却是风险衡量后的必然。

不论是从法律规制的角度,还是技术应对的角度,人们都尚未做好准备来迎接这一技术带来的风险和挑战。

任何技术都是双刃剑,泛滥带来的过度娱乐虽然利好了商业,却是一种僭越。

风险中藏着机遇

尽管AI换脸争议不息,但机遇也不停。

首先,这是对创新的渴望和需求。

目前,整个创投行业和互联网行业普遍都认为TO

C端的产品已经没法创新了,但实际上市场对创新和技术驱动带来的变化从未停止过,而通过此次“蚂蚁呀嘿”和Avatarify的事件可以看出,用户仍有巨大的渴望但市场上还未真正出现能够满足用户需求的产品。

在技术革命这块,尤其是在AI技术的应用也给我们留下了无穷大的想象和市场空间,而这些市场机会能不能突破,也是各个运营企业需要考虑的问题。

虽然这种AI变脸的玩法本质上并不新鲜,基本上都是“换汤不换药”,即使是近段时间走红的“蚂蚁呀嘿”也是只是变得更鬼畜了而已。

但不管怎么说,在AI换脸这个方向上,很多人仍然还在探索突破的路上。

另一方面,AI变脸技术的相关应用想要真正走向商业化,首先要解决信息安全问题,平台需要承担监管的责任,相应也要付出极大的成本。

当然,在一些特定的商业场景下,比如专业影视制作、电商购物等,AI变脸或换脸技术还是能发挥很大空间的,比如速度与激情的演员去世后通过换脸技术在银幕上重生。

总之,AI换脸技术在未来的潜力无限。但是要真正进行相关的推广和应用,还需要指定严格的监管政策。


版权声明
本文仅代表作者观点,不代表艾瑞立场。本文系作者授权艾瑞专栏发表,未经许可,不得转载。

专家介绍

  • 于见

    总访问量:4167641
    全部文章:1311
中央国际广播电台《新财富时间》连线嘉宾,江苏电视台财经评论嘉宾,国家域名注册服务监督员,美国格理集团专家,美国格尔曼集团专家,《中国经营报》、《证券日报》、《人民网》、《法治周末》、《南方都市报》、《每日经济新闻》、《新京报》等媒体采访嘉宾,研究方向:互联网、通信、手机、家电、移动互联网、电子商务。
  • 合作伙伴

  • 官方微信
    官方微信

    新浪微博
    邮件订阅
    第一时间获取最新行业数据、研究成果、产业报告、活动峰会等信息。
     关于艾瑞| 业务体系| 加入艾瑞| 服务声明| 信息反馈| 联系我们| 广告赞助| 友情链接

Copyright© 沪公网安备 31010402000581号沪ICP备15021772号-10

扫一扫,或长按识别二维码

关注艾瑞网官方微信公众号