靠AI技术诈骗2亿的大案！Deepfake让明星大V都防不胜防

前言

外网有这么一段视频，视频中马斯克以新身份“币圈慈善家”的形象在Youtube、推特发起一个项目：给我你的币，我给你每天30%的回报率。其实这一片段是诈骗团队利用DeepFake，也就是深伪技术换脸，通过截取马斯克在TED采访的视频，并为其配音，为的就是推出BitVex比特币诈骗平台。 除此之外，诈骗分子还伪造了方舟投资（Ark Invest）CEO凯瑟琳·伍德、以太坊联合创始人查尔斯·霍斯金森等多位币圈名人推荐BitVex的视频。虽然此骗局很快被拆穿，但作为币圈大粉头，马斯克也不是第一次因被假冒而下场辟谣了，从去年5月至今年年初，假冒马斯克的视频层出不穷。 AI深度模仿：眼见不一定为实 Deepfake深伪技术指深度学习（Deep Learning）+Fake（伪造）的合成词，现在专门指基于AI的图像、音频等合成技术的应用，其中最为大众熟知的形式就是AI换脸。 Deepfake的开源技术、以及“傻瓜式”实时换脸软件的兴起使得极具娱乐性的一些应用，例如换脸Cosplay火爆全网。从个人发散到明星，这些二次创作都在一定程度上为明星、作品带来新的热度的同时，也为平台带来了更多的流量，Deepfake技术在推动娱乐文化的发展上有着非常大的优势。 但在这项技术变得越来越普及且越来越难辨真假的同时，人们对Deepfake技术的担忧也越来越多。根据2021年的韩国成均馆大学的研究论文，微软的Azure认知服务对高达78%的Deepfake视频均无法辨认。 今年年初光是靠DeepFake技术换脸马斯克的骗局在一周内就达到24.3万美元，诈骗总额高达3000万美元（约人民币2亿）。除此之外，诈骗分子还伪造了方舟投资CEO凯瑟琳·伍德、以太坊联合创始人查尔斯·霍斯金森等多位币圈名人推荐BitVex的视频。 AI进化无止境，监管才是难题 如果你觉得当前版本的deepfake就已经进化到头，那你就太小看AI了。NeRF出现于2020年，是一种通过在神经网络内拼接多个视点照片实现重建物体和环境的方法。 在2020年的ECCV会议，其将隐式表达推上了一个新的高度，仅用2D的posed images作为监督，即可表示复杂的三维场景。也就是说，用大量2D图片就可以合成一个以假乱真的3D物体！ 虽然换脸效果相对较粗糙，但作为一个非专业人士在没有专业工具，庞大的数据集和预训练模型的基础下，在几天时间内制造出上述程度的Deepfake视频意味着如今人工智能进化的脚步使得Deepfake技术变得更加容易。除了自己摸索之外，更是有卖家在某二手交易平台出售相关技术、教程等，Deepfake技术的门槛一降再降。 当AI用在正途上时，深度伪造可以称得上是救火队长。影视剧为了在不重拍的基础上正常上映，采用AI换脸的方式来低成本替换已经成为影视行业共同的选择。 向左走是未来科技的坦途，向右走是凝视人性的深渊，但总体来说还是一种带动社会进步的象征。索菲亚觉得不必过于担忧，解决技术、监管难点，施行很好的深伪检测，那么深伪内容将在造福大众生活的方向上蓬勃发展。