Deeptracker 第二期

Deeptracker 旨在于搜集关于 Deepfakes 的技术动态、新闻报道等信息,让研究者们更多地关注 AI 技术的滥用。本人也正在研究如何利用深度学习技术帮助鉴别音视频内容是否被篡改,欢迎感兴趣的童鞋一些交流讨论!

技术动态

【1】一项调查发现,在网络市场上,中国deepfake盗版色情作品的价格仅为2美元

《京华时报》和《环球时报》的一项调查发现,网络市场上存在大量非法的deepfake色情作品,其中不乏中国知名女性明星的视频。

此次调查由《新京报》的记者牵头,他们在二手交易市场“闲鱼”和百度论坛上发现了deepfake色情作品的销售。在这两个网站上,中国女明星的deepfake色情视频被发现捆绑销售,价格从2美元几十个视频到25美元数百个视频不等。记者们还发现deepfake网站上有卖家提供定制视频服务的广告,包括可以让买家选择主题和提供自学教程。

调查显示,与在美国和欧洲看到的情况一样,deepfake在中国也有类似的发展和商业化。色情作品目前在中国是非法的,中国立法者已经采取行动,禁止所有侵犯个人肖像权的视频。在上述调查之后,两家网站都声称已经删除了所有涉及deepfake的非法列表,并实施了对deepfake和faceswap等关键词的搜索禁令。然而,与Pornhub等色情网站一样,这些禁令的尝试并没有取得成功,类似的搜索结果在仍然会出现。

【2】Faceapp的照片老化功能标志着人工智能合成媒体的病毒式传播

智能手机照片编辑应用Faceapp发布了一项老化功能,用户可以看到30年后自己的样子,该应用使用人工智能技术,合成的图像在全球掀起了一股热潮。

2017年,在机器学习的reddit分论坛上,一场讨论表明,这款应用结合了GANs和更经典的电脑视觉技术,来生成逼真的照片修改。开源软件可以创建类似于Faceapp的输出,它使用英伟达的StyleGAN作为骨干,可以在人脸编码中找到向量,这些向量对应于抽象特征,比如年龄、性别、头发长度。虽然很难确定FaceApp实现的详细技术,但很可能他们正在使用与StyleGAN类似的GANs来计算合成衰老和其他面部变化所需的编码。

尽管这款应用在2017年发布时添加了许多不同的编辑功能,但这款应用最近的病毒式传播要归功于合成老化人脸的功能,该功能因其真实性和准确性而受到好评。尽管该应用的使用条款仍存在争议,但上周该应用在美国的下载量增长了560%,数据库中有超过1.5亿张脸。Faceapp也从侧面表明了用于生成合成媒体的人工智能工具正在逐渐商品化。

【3】麻省理工学院和IBM允许用户将一张照片转换成15世纪的肖像图

麻省理工学院和IBM沃森实验室的研究人员创建了一个人工智能肖像网站,该网站能够依据一张生活照片创建出风格类似于15世纪的肖像画。

该项目基于GANs实现,GANs识别给定照片的面部线条和面部特征,生成一个15世纪风格的全新面孔。基于GAN的算法使用4.5万幅经典肖像画的数据集进行训练,并且着重1400幅画作(由于该时期在西方被誉为写实肖像画的起点),还包括一些文艺复兴早期和当代的画作。输出的是一幅4k合成图像,逼真地“绘制”了一幅古代大师风格的肖像。从一些例子中可以看出,作品在捕捉个人形象的同时,也将某些特征转化为与肖像画风格相一致的内容。

该项目在Faceapp的老龄化功能病毒式传播后不久就开始流行起来,该功能也可能使用GANs生成最终输出,提高合成结果的准确性。然而,创建者表示,该项目旨在让用户考虑算法偏见如何影响决策和输出。这是因为人工智能人像只针对特定的西方绘画进行训练,这意味着生成的图像符合非常特定的西方风格,不考虑来自不同文化的其他不同风格。设计者还鼓励用户上传他们微笑或露出牙齿的照片进行实验,因为15世纪的肖像画中很少包含微笑主题,这意味着生成的图像可能会以有趣的方式扭曲或不准确。

【4】印度政客在成为deepfake色情的目标后“崩溃”

据英国《每日邮报》报道,印度政界人士林巴伐利在新德里立法议会进行了含泪抗议。此前,有人利用 deepfake 伪造他进行同性恋性行为的视频。

林巴伐利要求对一周前发布的所谓的“deepfake”视频进行官方调查,该视频描述了他与同性恋者发生性关系。林巴伐利声称“很难想象你的家人受到了如此严重的精神创伤”。一位前政界人士也提到了虚假视频对印度政界人士的影响,其中许多视频在社交媒体和Whatsapp 群组上流传。演讲结束后,警方报告称已提起诉讼,并已开始努力查明在社交媒体上创建或分享这些视频的人。

这起案件发生在马来西亚和巴基斯坦的几起案件之后,在这两国,政客们受到诽谤,或声称自己被描绘成同性恋或不当性关系的deepfake视频所玷污。尽管deepfake色情作品的绝大多数针对的是女性,但这些案件突显出deepfake色情作品可能造成的损害。色情作品描绘的是男政客在同性恋性场景中的行为,在这些国家,此类行为是非法的,或者仍然受到严重歧视。由于印度已经饱受虚假信息泛滥之苦,针对政客和边缘化群体的deepfake,可能会显著加剧现有形式的虚假信息引发的频繁暴力反应。

【5】美国众议院情报委员会主席敦促大型科技公司在2020年美国大选之前出台打击deepfake政策

美国众议院情报委员会主席亚当·希夫致信Twitter、Facebook和谷歌的首席执行官,敦促他们澄清打击deepfake的政策和战略。

这些信件都是直接写给每家公司的首席执行官的,并就他们“如何在以病毒营销为核心特征的平台上,对deepfake的潜在危害做出有效回应”寻求答案。这些问题包括: 查看和分享南希•佩洛西的shallowfake的指标,该平台在打击deepfake方面有哪些具体政策,该平台是否已经禁止假冒图片或视频,以及该平台是否正在开发检测deepfake和其他虚假内容的技术。

此前,美国众议院情报委员会于今年6月举行了一场关于deepfake的公开听证会,希夫对deepfake所构成的危险表达了越来越强烈的担忧,这种担忧将一直持续到2020年美国总统大选。尽管国会目前正在审议几项deepfake法案,包括《恶意deepfake禁令法案》和《deepfake问责法案》,但这些信件表明,人们越来越关注社交媒体平台和关键的网络服务的作用,认为它们在实际中对打击deepfake至关重要。在南希·佩洛西的shallowfake病毒式传播之后,这些平台因处理视频的方式受到了密切关注。希夫的信件表明,他们相信,政治压力是迫使形成强大的“deepfake”战略所必需的。

新闻速览

  • Poynter 的研究人员编制了一份清单,列出了7款最受欢迎的教育类游戏,旨在教给孩子们核查事实的基本要素,以及如何在网上发现错误信息。(Poynter)
  • 一项被怀疑是俄罗斯所为的行动被确认为首次利用政治紧张局势,散布有关北爱尔兰的虚假信息和假新闻。(爱尔兰时报)
  • 成人平台YouPorn开发了一个CGI色情演员Jedy Vales,该公司承诺将为该角色和其他合成模特制作完整的色情视频。 (Dazed Digital)
  • 澳大利亚公司Skylight Cyber针对Cylance公司基于人工智能的杀毒软件,通过设计对抗性攻击,使其误以为WannaCry、SamSam和其他已知恶意软件是无害的。(Skylight Cyber)
  • 网络安全专家的一份报告得出结论,美国2020年总统大选很可能成为包括伊朗在内的其他几个国家的虚假信息攻击目标。 (The Hill)
  • Facebook前安全主管亚历克斯·斯塔莫斯收到了克雷格的“名单”创始人克雷格·纽马克捐赠的500万美元,用于成立斯坦福互联网观察中心,以研究互联网技术的滥用。(WIRED)
  • 加州大学伯克利分校的研究人员建立了一个包含7500张“自然对抗图片”的数据库,这些“自然对抗图片”是真实生活中物体的普通未经编辑的照片,会在计算机视觉系统中造成非强迫错误。(The Verge)
  • 《纽约时报》推出了一个新闻来源项目,帮助出版商探索打击虚假信息的技术手段,包括基于区块链的解决方案。(纽约时报)

观点讨论

  • 维克多•利帕贝利概述了合成媒体公司Synthesia对合成媒体技术未来的愿景,重点是最大限度地发挥人类的创造潜力,将有害用途降到最低。page
  • Denise Melchin探讨了禁止deepfake色情的法律对云计算服务的影响,以及这些服务如何阻止在其平台上创建deepfake色情。page
  • Craig Silverman根据媒体专家的工作,提出了一个媒体框架用于教育老年人如何识别和检查网上虚假或极端内容的事实。page
  • Nina Iacono Brown认为,美国国会试图在2020年大选前“解决”deepfake问题,从根本上低估了问题的复杂性和附带损害的风险。page
请作者吃酒!