记得南希·佩洛西（Nancy Pelosi）的病毒视频，唐纳德·特朗普（Donald Trump）总统 重新发布在Twitter上 上个夏天？录像经过更改，显示众议院民主党议长在似乎是醉酒的自言自语中之以鼻。但是，该视频已通过人工智能进行了更改。换句话说，这是一个深深的假象。
尽管对于看到并分享这一特殊政治深渊的人们来说为时已晚，但Facebook仍在努力通过新的内部关于深造假的政策来防止这种新形式的错误信息在整个2020年总统大选周期中蔓延。
在一个 博客文章 Facebook全球政策管理副总裁莫妮卡·比克特（Monika Bickert）于周一发布的消息称，该公司正在做出新的努力，以“消除误导性的操纵媒体”。
这家社交媒体巨头的新规定是在马拉松比赛举行前几天发布的 众议院能源和商业听证会 在星期三早上集中在受操纵的媒体上。 Bickert是Facebook Deepfake博客文章的作者，是委员会审问的证人之一。她一再重申，该公司希望确保人们可以控制自己的数据以及他们在平台上看到的内容，但是在回答某些特定问题时有点间接。
显然，委员会正在考虑制定立法，以解决今后不断发展的假货，因为它们有可能破坏政治进程，选举，新闻业甚至个人自由。
特拉华州美国代表丽莎·布朗特·罗切斯特（Lisa Blunt Rochester）在听证会上说：“技术超越了技术和人民。”
什么是Deepfake？
上面的gif并非来自前总统理查德·尼克松（Richard Nixon）就阿波罗登月任务发表演讲的真实视频，而是来自一段深深的录像带，在那段视频中他宣布机上的宇航员已经死亡。
2014年，伊恩·古德费洛（Ian Goodfellow）博士现在在Apple工作的学生发明了Deepfake，它是基于生成的对抗网络或GAN的。
GAN帮助算法超越了简单的将数据分类的任务，而进入了创建数据（在本例中为图像）的领域。当两个GAN试图愚弄彼此以为图像是真实的时，就会发生这种情况。经过验证的GAN仅使用一张图像，就可以创建一个视频片段，例如Richard Nixon所说的话显然是虚假的，而他甚至从未说过。 （是的，这已经完成了）。
“至关重要的是，该系统能够以特定于人的方式初始化生成器和鉴别器的参数，因此，尽管需要调整数以千万计的参数，但训练只能基于少量图像并快速完成。 ”，研究人员在2019年5月写道 纸 它描述了从一个图像创建一个深浮点浮雕是多么简单。 “我们证明，这种方法能够学习高度真实和个性化的新人甚至头像绘画的头部模型。”
在尼克松的例子中，麻省理工学院的一个团队使用深度学习（一种人工智能）来编辑视频片段，并雇用配音演员来构建尼克松的声音。与以色列初创公司Canny AI一起，研究人员研究了视频对话替换策略，以在讲话时复制尼克松嘴唇的动作，从而使尼克松的嘴与假话相匹配。最终产品是尼克松真实可信的视频，告诉美国公众登月任务失败。
显然，像这样的视频和佩洛西（Pelosi）的深造不仅对可信新闻构成威胁，而且对国家安全乃至选举也构成威胁。
Facebook的策略
Facebook正在采取一种特殊的，两管齐下的方法来标记和删除深度欺诈。根据博客文章，要拍摄下来的图像，必须满足以下条件：
不过，讽刺和模仿视频仍然是安全的，仅为了省略或更改单词顺序而编辑的视频也是如此。
关于佩洛西（Pelosi）Deepfake的事情是，Facebook的新禁令似乎根本没有涵盖该视频。该视频在去年夏天流行之后，在Facebook上被广泛观看。根据 边缘，Facebook表示，该视频当时并未违反公司的政策。有了新的规则，Pelosi Deepfake仍然看起来可以穿越裂缝并保留在网站上。那是因为该特定视频根本不是用人工智能创建的-它很可能是使用随时可用的软件进行编辑的，这可能会使Pelosi的讲话语调成醉汉。
不过，Facebook表示，不符合其Deepfake删除标准的视频可以由其独立的第三方事实检查人员之一进行审查，其中包括50个使用40多种不同语言运行的全球合作伙伴。
博客文章说：“如果照片或视频被事实检查者评为虚假或部分虚假，我们将大大减少其在新闻Feed中的分发，并拒绝将其作为广告投放。” “重要的是，看到，尝试共享或已经共享它的人，会看到警告警告他们这是错误的。”
Facebook表示，如果所有被操纵的视频都被简单地删除，它们仍然可以在“互联网或社交媒体生态系统的其他地方”获得，从而可以避免上下文。该公司认为，取而代之的是，最好将这种深层伪造标记为“假”。以佩洛西（Pelosi）视频为例，如果今天发布，可能会这样做。
深造假听证会
哈佛大学肖恩斯坦大学媒体，政治与公共政策中心技术与社会变革项目的研究总监Joan Donovan博士在众议院委员会听证会上表示，她认为使用分散式技术（例如区块链）可能有助于确定创建原始Deepfake视频并最终出现在社交媒体上的用户。同时，Bickert表示，Facebook已经“验证了那些在社交媒体上发布广告的广告商的身份”，这似乎意味着没有必要进行进一步干预。 Bickert补充说，Facebook还保留了这些广告的完整库以及谁负责。
代表加利福尼亚州第九区的国会议员杰里·麦克纳尼（Jerry McNerney）问比克特，Facebook的事实检查过程是否足够快地进行，以防止病毒视频传播，她回答说，用户对Deepfake的举报可以使删除过程迅速进行。但是，当麦克纳尼问Facebook是否愿意在今年6月1日之前将其传播或防止虚假信息的行为提交第三方审计时，她回避了麦克纳尼的问题。
Bickert回答说：“我们认为透明度很重要。”他补充说，该公司很乐意就具体问题与委员会进行跟进，但并未解决审计的可能性。
同时，委员会其他成员正在制定法律草案，可能迫使Facebook重新思考其处理深造和其他形式的错误信息的方式。
纽约第九国会区的代表伊薇特·戴安娜·克拉克（Yvette Diane Clarke）提出了一项新的Deepfake法案，该法案将迫使内容创建者将其内容贴上标签，如果他们想将其发布到网上的任何地方。
多诺万表示，这可以帮助内容平台阻止错误信息的传播。她称此为“主动”内容审核。
