兰德：深度伪造技术对信息战的影响(2)

2.威胁

威胁与影响使用的因素

2. 1 威胁 第一，深度伪造内容可被用来操纵选举。 比如，在选举即将结束时，一个证明候选人丑闻的视频会对选举结果带来影响。 第二，深度伪造内容可被用于加剧社会分裂。 俄罗斯就利用虚假内容进行旨在分裂美国公众的宣传。 第三，深度伪造内容可降低民众对政府机构的信任。 在伪造的逼真的政府官员视频加入暴力、种族歧视等内容会大大降低人们对政府机构的信任。 第四，深度伪造内容会侵蚀杂志和可信的信息源。 利用高度可信的深度伪造视频，真实的视频内容也可能会被诽谤为深度伪造内容。 2. 2 限制深度伪造大规模使用的因素

目前，深度伪造仍然没有大规模使用，主要原因是：

一是考虑到深度伪造的潜在威胁。 二是高质量的深度伪造视频仍然需要专业人员和工具制作， 比如高成本的设备、训练用的视频内容、专业的技术人员等。 三是时间因素。 用于虚假信息战的高度逼真的深度伪造视频制作往往需要数月甚至更长的时间。也就是说，需要提前数月来规划虚假信息活动。无法做到实时限制了该技术的应用。 四是深度伪造视频需要大量的训练数据。 高质量的深度伪造需要上万张图片用于训练，这也是目前大多数深度伪造视频都是名人和政客的原因。 五是虚假信息的“0 day”（零日）。 在虚假信息和深度伪造领域，0 day表示对手可以开发一个定制的生成模型来创建可绕过检测的深度伪造内容。对手想要尽可能长时间地绕过检测以最大化阅读量。检测工具也是在深度伪造内容上建立的，因此对手可能会尽可能地保留生成模型，等到关键时刻再使用，比如大选前一周。 六是深度伪造视频可能会被成功检测。

3.应对与建议

3. 1 检测技术 目前应对方法： 应对深度伪造视频的主要方法就是： 开发和实 现可以检测深度伪造视频的自动化系统。 DARPA资助了两个与检测技术相关的项目： Media Forensics项目（2021年结束）和Semantic Forensics 项目（2021财年获得1970万美元，2022财年预算请求2340万美元）。2020年，Facebook启动了Deepfake Challenge Competition竞赛。 建议政策制定者应： 收集情报并识别对手深度伪造的技术。 使用深度伪造技术的对手会平衡机遇、益处、风险等做出决策。建议美国应当进行兵棋推演，识别可以影响对手决策的威慑战略。同时，情报机构应收集对手对深度伪造技术和创建深度伪造内容的投入情况相关的情报。 投资并加强检测技术研究。 美国政府、研究机构、社交媒体平台和其他利益相关方应继续投资并采取措施加强检测技术。关键措施包括创建深度伪造内容库，内容库可以促进检测技术的发展。同时，政府应与私有机构合作推广可以用于检测深度伪造视频的数据集。此外，政府和其他利益相关者还应探索对特定高性能深度伪造检测器的访问。 3.2 内容来源展示 目前应对方法： 内容来源，即 通过 内容真实性计划 （Content Authenticity Initiative），Adobe、高通、Trupic、纽约时报和其他参与者提出一种获取和展示照片源的方法。 2022年1月，内容溯源与真实性联盟 (C2PA联盟 / Coalition for Content Provenance and Authority)建立了技术标准，指导创建者、编辑、媒体平台和消费者等实现内容来源的展示。 建议政策制定者应： 推广基于展示的方法。 C2PA联盟已经制定和发布了必要的技术说明，应扩大该技术的使用范围，确保信息来源的权威性。 3. 3 监管措施 目前应对方法： 通过 监管和刑事立法 应对深 度伪造相关风险 。自2019年以来，美国通过了多个州层面的深度伪造应对法案。在联邦层面，也提出了多个法案。但目前多个法案仍在提案阶段。 3. 4 开源情报技术和新闻方法 目前应对方法： 开源情报 （ OSINT ）是美国中央情报局（CIA）的一种情报搜集手段，从各种公开的信息资源中寻找和获取有价值的情报，可以为解决深度伪造问题提供新的方法。这些方法的目标是开发和共享可以用来识别深度伪造和其他虚假信息相关内容的开源工具。 建议政策制定者应： 开发新的OSINT工具。 来帮助 新闻机构、媒体机构和其他非技术专家检测和开展深度伪造内容研究。 3. 5 媒介素养