Deeptracker 第一期

Deeptracker 旨在于搜集关于 Deepfakes 的技术动态、新闻报道等信息,让研究者们更多地关注 AI 技术的滥用。本人也正在研究如何利用深度学习技术帮助鉴别音视频内容是否被篡改,欢迎感兴趣的童鞋一些交流讨论!

技术动态

【1】饱含争议的DeepNude应用程序发布一天即关闭,用于合成裸体女性照片

这是一个富有争议的应用程序,从女性照片中“删除”衣服。该app已被其创建者在发布后不到一天删除,理由是服务器过载和道德问题。

这是一款windows和linux的应用程序,使用开源的GAN 模型 pix2pix。该app大约30秒内从目标照片中合成裸体照片。虽然该应用程序称无法从穿着上生成逼真的照片,但当主体在高质量的图片上显示出一些皮肤时,很容易产生逼真的“裸体”。该app可在6月23日免费下载,但生成照片覆盖水印。要删除大号水印,用户必须支付50美元。

由于其明显的恶意应用和缺乏道德监督,对该应用的媒体报道表达了强烈的抗议和厌恶。尤其是妇女权利活动家谴责该应用程序有可能大大加剧由深度学习造假色情制品的危害,并且这种武器化的技术易于获取。虽然该应用程序的创建者最初减持认为该应用不是用于色情用途,而是技术热情的产物,但他仍然删除了应用程序,理由是下载需求导致服务器过载与担心其被不合理应用。然而,他的结论性评论“世界还没有为DeepNude做好准备”表明删除应用程序可能不是永久性的。

【2】马克·扎克伯格承认Facebook需要重新考虑deepfake政策,以将其从“虚假新闻”中区别出来

马克·扎克伯格承认,Facebook需要重新考虑他们在阿斯彭创意节上处理deepfake的政策了,但他辩护说,在社交网络上留下了南希·佩洛西的shallowfake内容。

扎克伯格承认,将deepfakes与书面虚假新闻混为一谈是错误的,并指出有一个很好地案例可以证明“deepfakes实际上是完全不同于虚假新闻的事物”。然而,他强调需要仔细确定deepfakes的定义,以确保Facebook不会为人们提供对包含他们根本不喜欢的内容或仅仅略微修改过的内容的审查方法。他自己将deepfakes定义为“人工智能操作过的媒体”,尽管这个定义含糊不清,但会成为一个谨慎的占位符,因为Facebook将继续探讨这个问题。

政策的重新考虑并不意味着Facebook授权删除。尽管扎克伯格承认Facebook对南希·佩洛西的shallowfake反应缓慢(因为该视频需要花费一天以上的时间来标记),但他为这一视频的优先级和标签做出了辩护,而不是将其删除。他呼吁对Facebook现有的方法进行“改进执行”,但最终还是声称标准是适当移除监管的唯一方法。他的立场使得Facebook不是真理的仲裁者,他说:“私人公司阻止你说出一些他认为不正确的事情”。

【3】 华盛顿邮报发布识别不同类型伪造视频新指南

华盛顿邮报的一个团队制作了一份全面指南,用于识别不同类型的伪造视频,旨在教育读者、检查员和其他记者。

该团队首先分析了被伪造的数个小时的镜头,将其分为了20个不同的类别。他们又确定了进一步细化为6个关键术语和类别的共同元素及特征。包括三个一般类别(缺少上下文、欺骗性编辑和恶意转换),这些类别进一步细分为两个特定的子类别。每个类别和子类别都附有一个例子及相关文章,提供更加详细的信息。

该指南是一个强大的资源,为不同类型的视频操作提供了清晰而全面的分类。包含概述指南主要发现的视频,以及读者可以提交怀疑被修改的视频以供审查的表格,对于确保指南易读和参与度也很重要。展望未来,作者表示将更新指南以反映视频伪造的变化情况,这意味着这份指南有望不会过时。

【4】 一种新的生成技术:从单张图片和音频生成动态说话视频

来自三星AI中心和伦敦帝国理工学院的研究人员创造了一种技术,用于制作动态脸部视频,其唇部动作和面部表情与语音音频样本相匹配。

这项技术被称为”语音驱动的面部动画”,通过从目标人物的单张图片和语音音频样本自动合成动态面部视频。这项工作由cycle GAN来执行,该cycle GAN将来自音频的语音信号转换成与样本照片匹配的相应嘴部动作。此外,还从样本照片中生成眉毛移动和眨眼,使脸部动画更加自然生动。最终输出几个超现实的视频,视频中唱或说的语音与照片或历史人物高度匹配,例如拉斯普京”唱”光环,金正日”唱”江南style等。

这个链接页面中包含了图灵测试,供用户测试他们能否从生成的视频中辨别出真实的视频。尽管面部动画不算很逼真,但该技术使用单张照片和音频文件来生成人脸确实令人印象深刻。尤其是能够重现伴随语音音频的准确面部动作以及前面提到的眨眼/眉毛运动。

新闻速览

  • 一个现实的合成“虚拟影响者”在Instagram上积累了超过160万粉丝,并被用于宣传几个着名的时尚品牌,包括普拉达和凯文克莱因。(NYT)
  • Deepfake的创始人Villainguy发布了一段演员罗斯·马昆德(Ross Marquand)“变脸”的Deepfake视频,以匹配他在吉米·坎摩尔秀(Jimmy Kimmel show)上模仿的11位名人。(The Daily Dot)
  • 谷歌首席执行官承认,Youtube一直在努力对抗平台上仇恨言论和虚假信息的突出,并承认他们永远无法过滤100%的有害内容。(CNN)
  • 香港的抗议活动导致网上虚假信息激增,中国官方新闻发布了误导性文章,一些肤浅的虚假图片在社交媒体上疯传。(Buzzfeed News)
  • 人工智能合作组织发表了一篇博客文章,总结了他们最近在BBC举办的研讨会,主题是如何保护公共话语免受人工智能产生的错误/虚假信息的影响。(Partnership on AI)
  • 美国参议员和众议院代表提出了两党合作的《深度造假报告法案》(Deepfake Report Act),该法案要求国土安全部(Department of Homeland Security)每年对深度造假进行研究。 THE HILL
  • 加州立法者还提出了一项法案,该法案规定,除非媒体被明确贴上虚假或被操纵的标签,否则在选举前60天故意传播深度造假将被视为非法。Techwire
  • Instagram负责人亚当·莫塞里(Adam Mosseri)表示,该平台正在评估其处理深度假货的方法,强调“安全与言论之间的平衡”以及“更快获取内容”方面的困难。CBS
  • 在哥本哈根民主峰会上,一段关于唐纳德·特朗普声称“上帝选我当总统”的deepfake“Skype电话”被播出,以警告这项技术带来的危险。The National

观点讨论

  • 国会不应急于监管deepfakes?电子前沿基金会(EFF)的研究人员认为,美国目前提出的打击deepfakes的立法缺乏确保言论自由保护所必需的细微差别。page
  • 当涉及到识别假照片时,经验比上下文线索更重要:蒙娜·卡斯拉(Mona Kasra)概述了她对影响识别假照片成功的因素的研究,包括发现在线经验和图像编辑知识对正确决策最重要。page
  • 打击deepfake视频是每个人的责任:胡珍(Jane C Hu)认为,社交媒体平台在打击深度假货方面进展缓慢,这意味着个人必须承担起培养发现假货所需的媒体素养技能的责任。page
  • 二次侵扰:一个可疑的俄罗斯情报行动,DFR实验室展示了他们对一场复杂的反西方虚假信息运动的最新研究。这场运动利用虚假账户和伪造文件,在数十个在线平台上瞄准用户。page
  • 蒂芙尼·C·李(Tiffany C Li)分析了金·卡戴珊(Kim Kardashian)旗下deepfake最近因侵犯版权而被撤下的消息,并认为合理使用的例外情况使得版权法不适合作为解决deepfake问题的法律解决方案。page

编辑:邹书桥、陈鹏

请作者吃酒!