“蚂蚁呀嘿”App爆红下架背后：AI换脸再掀数据安全争议
“蚂蚁呀嘿，蚂蚁呀呼，蚂蚁呀哈哈……”克日，配以这段魔性音乐的换脸视频在各大社交平台刷屏。提供该特效的AI换脸软件Avatarify也因此火爆全网，并于2月25日登顶App Store免费软件下载榜首。不外，3月2日凌晨，该软件在App Store中国区悄然下架。AI换脸软件引发争议已非首次。南都此前报道，2019年，换脸软件ZAO就曾因涉嫌未依法依规收集使用人脸信息被工信部约谈。本年1月起正式实施的民法典，也已将AI换脸纳入到肖像权的掩护范围，明确规定不得使用信息技能手段伪造等方式侵害他人的肖像权。
https://p8.itc.cn/q_70/images03/20210307/a7cdb1edeaf54c5a8e5cc136b7845acc.jpeg
爆红：“蚂蚁呀嘿”刷屏，相关视频播放量超31亿
在Avatarify导入一张人脸照片，选择相应模板，软件就能通过AI算法，自动生成一段随着节奏浮夸扭动的短视频。无论是马斯克、比尔盖茨，照旧唐僧师徒、还珠格格，都难逃被AI换脸后随“蚂蚁呀嘿”扭动的命运。
除了被动卷入，也有不少明星主动“换脸”。2月27日，演员甄子丹在其微博发布了一段他和吴京勾肩举杯扭动齐唱“蚂蚁呀嘿”的视频，得到吴京转发及近10万点赞。惠英红、邓紫棋、李佳琦、德云社相声演员等明星也通过社交软件纷纷到场到这场网络“AI变脸”中。
https://p6.itc.cn/q_70/images03/20210307/53f3c7075a4d44eda1faf395ed7605dc.png
南都记者在移动应用数据分析平台七脉数据查询发现，2月中旬起，Avatarify在中国区App Store的下载量便不停攀升。2月24日0时，该软件在中国区App Store总榜（免费）排名706，当晚21时便进入前100；2月25日0时排名52（应用榜排名65），当天15时、17时便分别占据总榜、免费应用榜榜首，并连续维持领先，直至3月1日才退居应用榜第2名。
然而，3月2日2时，Avatarify在中国区App Store突然下架，且未显示原因。与此同时，App Store上，另有一批主打“蚂蚁呀嘿同款特效”甚至使用与Avatarify图标相同的App出现。
3月6日，南都记者在多个网络社交平台看到，“蚂蚁呀嘿”热度仍不减。抖音“蚂蚁呀嘿”话题下，相关视频播放量已达31亿次，微博话题“蚂蚁呀嘿视频大赛”的阅读量也已超5000万。
https://p5.itc.cn/q_70/images03/20210307/b335530ffe984d2186d52f1e0778f0a3.jpeg
风险：AI换脸惫娓存个人隐私数据泄露、侵权等隐患
Avatarify的爆红与下架，也让AI换脸背后的数据安全争议再度引发关注。
此前，号称“仅需一张照片，出演天下好戏”的AI换脸软件“ZAO-逢脸造戏”，也曾履历过上线6天，就从爆红到被要求整改的巨大落差。
南都此前报道，2019年8月30日，ZAO上线后迅速刷屏，登上各大应用商店下载榜首位。然而，由于被质疑存在隐私协议不规范、数据泄露风险等问题，9月3日，工信部约谈ZAO的孵化团队——北京陌陌科技有限公司，要求其组织开展自查整改，强化网络数据和用户个人信息安全掩护。
https://p9.itc.cn/q_70/images03/20210307/c2e2462af2e34c069e69628d302bd00e.jpeg
国内较早使用深度学习技能提供服务的广州图普科技网络公司向南都记者先容，相对于“换脸”技能自己，安全风险更会集于人脸信息的收集、加工、存储和传输等环节。由于人脸识别具有高度的直接识别性和唯一性，因此在对人脸信息处置处罚的过程中，存在更高的数据泄露、非法滥用、盗用等隐患。一旦App被黑客攻破，相关的用户信息就有大概流入黑产的地下数据库，被非法分子拿来获取优点。
2019年9月，长沙市反电诈中心就曾发布告急预警，提醒市民使用AI“换脸”及雷同软件风险极高，不但大概造成个人隐私数据泄露，甚至大概被非法分子用于实施电信网络诈骗。好比，通过收集照片、视频，使用AI技能“换脸”，用伪造的照片或视频实施诈骗等。
3月5日，北京冠领律师事务所主任周旭亮担当南都记者采访时表现，AI换脸软件存在着诸多法律隐患，大概会侵犯用户的肖像权、名誉权和著作权等根本权利。
西南政法大学人工智能法学院院长陈亮先容，AI换脸技能因其应用场景的差别也面临着差别的法律风险：“好比未经授权修改影视作品，涉嫌侵犯影视作品的著作权；在相关色情视频中的换脸，大概侵犯他人的名誉权；未经本人同意擅自使用其肖像举行换脸，大概侵犯他人的肖像权。”
中国政法大学知识产权研究中心研究员徐新明也表现，如果软件开发者没有事先取得相关素材的权利人的许可，大概构成侵权。“即便软件中的部分素材是由用户自行上传的，但是软件开发者开发者应该明知道普通用户通常是不具有版权许可的。”
规制：民法典已将AI换脸纳入肖像权掩护范围
事实上，在Avatarify、ZAO面世之前，Deepfake、Deepnude等换脸应用也曾先后引发热议。AI换脸技能门槛低沉的同时，对此类技能的滥用也催生了一批黑灰产业。南都记者此前观察发现，在猎趣、转转多个二手平台上，有卖家低价出售破解版换脸软件、“脱衣”软件，另有卖家打包出售通过换脸软件制作的女明星淫秽视频，并宣称提供视频定制服务。
AI换脸便利与风险并存的背后，新技能该如何羁系？南都记者梳剃头现，比年来国家有关部分已制定出台多项法律法规，进一步强化对此类技能应用的规制。
2019年9月，针对AI换脸等新应用带来用户隐私泄露隐忧，国家互联网信息办公室副主任刘烈宏在国新办发布会上回应，国家网信办积极支持新技能、新应用发展，同时也采取须要步伐防范随之带来的风险。国家网信办已会同有关部分制定出台了《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》《个人信息安全规范》等法规尺度，指导督促互联网企业开展安全评估，羁系上线的新技能、新应用。别的，网信办还组织开展了App违法违规收集使用个人信息专项治理，掩护用户个人信息和个人隐私，维护用户正当权益。
2019年11月，国家网信办等部分团结印发《网络音视频信息服务管理规定》，要求使用新技能新应用制作、发布、流传非真实音视频信息的，应当以显著方式予以标识；网络音视频信息服务提供者发现使用者使用基于深度学习、虚拟现实等的虚假图像、音视频生成技能制作、发布、流传谣言的，应当实时采取相应的辟谣步伐。
2019年12月，国家网信办印发《网络信息内容生态治理规定》，明确网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得使用深度学习、虚拟现实等新技能新应用从事法律、行政法规克制的运动。
2021年1月起正式实施的民法典，其第1019条明确规定了肖像权的消极权能，其中“不得使用信息技能手段伪造等方式侵害他人的肖像权”“未经肖像权人同意，不得制作、使用、公开肖像权人的肖像”的规定，被视为将AI换脸纳入到肖像权的掩护范围。
民法典编纂专家、中国人民大学法学院副传授朱虎此前担当南都记者采访时透露，民法典中增加对肖像、声音的掩护，正是为了回应AI换脸等深度伪造技能带来的新型社会问题并予以规制、管理，制止后续损害的发生。
采写：南都记者 刘苗 实习生 杨苓妍
来源：https://www.sohu.com/a/454517336_161795
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！
页:
[1]