人工智能、深度伪造和虚假信息(2)

自从lan Goodfellow和同事在2014年创建GAN系统以来，深度伪造视频已经变得越来越有说服力。2021年春天，一个TikTok账号(Tom [@deeptomcruise])发布了一系列高度逼真的深度假视频，视频中似乎是汤姆·克鲁斯在说话。截至当时，这段视频的浏览量已超过1590万次，引发了公众对即将到来的深度伪造虚假信息时代的严重担忧(见图1)。 精心制作的深度伪造需要高端的计算资源、时间、金钱和技能。例如，来自@deeptomcruise的深度伪造需要输入许多小时的真实汤姆·克鲁斯镜头来训练人工智能模型，而训练本身就花了两个月的时间。深度伪造还需要一对NVIDIA RTX 8000图形处理单元(gpu)，每台成本高达5795美元(截至撰写本文时)。然后，开发人员必须一帧一帧地检查最终的镜头，以找出明显的信息，比如笨拙或非栩栩如生的眼球运动。最后，如果没有一个天才演员能够成功地模仿汤姆·克鲁斯的动作和习性，这一过程也将失败。 随着时间的推移，制作这类视频的成本会越来越低，所需的训练素材也会越来越少。汤姆·克鲁斯的深度伪造事件是在一系列深度伪造视频之后发生的，例如，2018年深度伪造巴拉克·奥巴马的脏话和2020年深度伪造理查德·尼克松的演讲(尼克松从未发表过的演讲)。随着每一次迭代的进行，视频的质量变得越来越逼真，人工合成的组件也越来越难以用肉眼检测到。 各种各样的网页现在提供对 深度伪 造 服务的访问。热门网站包括Reface，它允许用户在现有视频和动图中交换面孔；MyHeritage，为已故亲人的照片制作动画，这是一款使用深度伪造技术的中国应用程序，用户可以将自己的脸强加给电影角色中的一个。最臭名昭著的是，DeepNude网页允许用户上传照片，并输出照片主体的裸体。 声音克隆 声音克隆是 深度伪 造 的另一种方式。各种在线和手机应用程序，如名人语音克隆和Voicer名人AI变声器，允许用户模仿流行名人的声音。恶意利用这类服务的例子已经存在。举个例子，英国一家能源公司的首席执行官说，他接到了一个电话，听起来像是他母公司老板打来的。在据称是语音克隆软件输出的电话语音指令下，该首席执行官电汇了22万欧元(约24.3万美元)到匈牙利供应商的银行账户(2019年)。在另一个例子中，一名费城男子声称他是语音克隆攻击的受害者，当他相信自己听到儿子的声音，声称自己在监狱里，需要钱请律师时，他给一个陌生人电汇了9000美元( 2020年)。 深度伪造 图片 深度伪造图像也令人担忧。 深度 伪造 图像最常见的形式是大头照片，它们看起来非常逼真。这些图片很容易通过某些网站访问，比如生成照片，允许用户快速轻松地构建假头像。 图2显示了一个领英个人资料，其中有一张专家认为是深度伪造的照片——这是国家间谍活动的一部分。档案称，凯蒂·琼斯(Katie Jones)是战略与国际研究中心的俄罗斯和欧亚地区研究员。2019年发现的这份档案与一个规模不大但有影响力的账户网络有关，其中包括特朗普政府的一名官员，他在事件发生时正在任职(2019年)。