推特公布首份草案应对AI换脸成绩！武艺被用于制造淫秽视频售卖
11月11日，美国交际媒体平台推特公布了首份处理Deepfake（一种使用深度学习武艺识别和互换图片、视频中人物脸部图像的东西）成绩的草案。草案中，推特针对Deepfake内容提出了三项约莫接纳的办法，并指出，假如Deepfake内容具有误导性，并约莫要挟或人的人身宁静或招致其他严峻损伤，就会将其删除。
据南都此前报道，经过AI换脸武艺制造的视频越来越稀有，乃至被一些人用作“AI脱衣术”，有卖家在网上打包出售经过换脸软件制造的女明星淫秽视频，并声称提供视频定便办事，或是低价出售“高清破解版”换脸软件，也有卖家称可以提供教学，三步即可换脸。
早前，一款在国内爆红的AI换脸软件也曾惹起争议。据南都此前报道，国内一款名为“ZAO_逢脸造戏”（下称“ZAO”）的AI换脸软件上线后，被质疑存在用户隐私协议不标准、数据流出风险等网络数据宁静成绩。
推特提出三项处理Deepfake成绩的办法
11月11日，推特公布了一份处理Deepfake成绩的草案。
在草案中，推特发起将构成和窜改的内容界说为任何“为了误导群众或改动其原始涵义而举行了严重变动或伪造”的照片、音频或视频，即人们通常所说的Deepfakes。
推特表现，当发觉有效户上传试图误导群众大概殽杂好坏的Deepfake内容时，约莫会接纳以下办法，包含在Deepfake内容旁边打上提示的标志；在用户即将分享大概点赞Deepfake内容之前给出告诫；添加一个链接指向真的讯息大概推特Moment，以便群众可以经过多方泉源来区分出Deepfake内容。
推特还表现，假如Deepfake内容具有误导性，并约莫要挟或人的人身宁静或招致其他严峻损伤，就会将其删除。
现在该草案在征求发起阶段，用户可以在11月27日前经过填写问卷或在干系话题的推文下提供反应。随后推特会审视收到的反应并对草案举行必要的调停。新规正式上线前，推特还会给出 30 天的过渡期。
据有关媒体报道，上个月初，多家科技公司到场了一个处理Deepfake成绩的聚会会议，包含美国交际媒体平台脸书，美国视频分享网站优兔等，这些公司被要求尽快订定出方案，以标准Deepfake内容的分享、移除和归档。上个月，亚马逊旗下的亚马逊网络办事（AWS）表现将与脸书和微软公司一同到场“Deepfake检测挑唆”。
AI换脸武艺曾被使用于制造淫秽视频
公开材料体现，Deepfake是一种使用深度学习武艺识别和互换图片、视频中人物脸部图像的东西。
本年2月，一段经过AI换脸武艺修正后的《射雕好汉传》片断在网崇高传，视频中原因朱茵扮演的黄蓉被改换成杨幂的脸。别的，网上还曾显现“李现洪世贤换脸”“黄晓明换脸”“冯提莫换脸赵丽颖”等换脸视频。
本年8月，南都记者观察发觉，在猎趣、转转多个二手平台上，不仅能容易搜刮到“高清破解版”换脸软件，“脱衣”软件，另有卖家打包出售经过换脸软件制造的女明星淫秽视频，并声称提供视频定便办事。
南都记者实测发觉，可主动天生裸照的“脱衣软件”仅需5元就可以买到，安装、利用步调也很简便。以转转为例，南都记者以“视频换脸”搜到了多个出售换脸软件的卖家，如“Deep*ake视频换脸，全套软件加教程”等，也有卖家称可以提供教学，3步即可换脸。
固然局部卖家以“学习软件”“武艺交换”为名，在商品形貌中提示“只供文娱，不克不及用做不法用处”。但仍有人以“脱衣术”为名，低价兜销“主动脱衣”软件。
8月尾，国内一款爆红的AI换脸软件“ZAO”也曾惹起广泛争议。该软件主打AI视频换脸，用户只需上传人脸信息，即可将本人换成影视剧的主演。
据南都此前报道，“ZAO”上线不久后被质疑用户协议涉嫌过分搜集用户隐私、存在数据流出的风险以及涉嫌使用未担当权的影视剧等成绩。9月3日，产业和信息化部网络宁静办理局约谈“ZAO”的孵化团队——北京陌陌科技仅限公司，要求其构造展开自查整改。
现在，该软件在安卓市肆和IOS市肆均能正常下载使用。11月13日，南都记者实测了解到，9月7日该软件更新版本后，用户在初次使用交换照片功效时，软件会弹出“隐私表明”的提示，指出“为确保您的信息宁静，‘ZAO’不会储存一局部面部特性信息。头像照片的肖像权归本人一切”。
采写：南都见习记者 封聪颖
