深度伪造与国家安全:基于总体国家安全观的视角
中国保密协会 http://zgbmxh.cn 发布日期:2022-05-07

内容提要:

深度伪造是人工智能技术和数字技术发展的产物,自2017年第一个深度伪造的作品出现,深度伪造正在世界范围内快速扩散。人工智能与大数据技术的发展和普及,使得有心者制作各种深度伪造作品的门槛大大降低,导致互联网和各种社交媒体充斥着各式各样的深度伪造作品。深度伪造技术既有造福于人类社会的正面功能,也有给国家安全带来风险与挑战的负面作用。它不仅给国际形势和国际安全环境带来了巨大的冲击,让国际社会本就存在的“信任赤字”更为恶化,而且在国防安全、政治安全、经济安全和国民安全等领域制造了更多、更为复杂的问题。国际经济犯罪团伙利用深度伪造对中国企业和民众进行诈骗活动;以美国为首的西方国家更是频频利用深度伪造的作品,在涉疆、涉港等问题上对中国发难;在重大国际问题上,国际上的各种势力更是利用深度伪造争取中国的民意,造成部分民众认知的错乱;等等。要治理深度伪造所带来的各种安全隐患,就要在总体国家安全架构下完善针对深度伪造的综合治理体系,同时倡导综合安全、合作安全和共同安全的理念,与国际社会共同打造数字时代人类安全的命运共同体。


深度伪造(Deepfakes)是一个合成词,是人工智能(AI)领域由“深度学习”(deep learning)和伪造(fake)合成的一个词汇。它用来描绘利用人工智能技术和大数据生成的视频、照片和其他文本,这些视频、照片和文本看起来非常逼真,不要说非专业技术,就连专业技术亦难以识别其真伪。深度伪造包含两方面的含义,首先,它是一种技术,一种制作超逼真视听作品的技术。其次,它指根据深度伪造技术制作的视听作品。深度伪造的主要危险在于它会让一个人——无论是政治家、商界精英还是普通公众——向他人呈现另一种“现实”:一个真实的人在做一些他们从未做过的事情或者说一些他们从未说过的话,从而通过这样的“现实”欺骗不知情的公众。

一 深度伪造技术特征及其快速传播的原因

(一)深度伪造技术及类别

深度伪造通常被描述为使用机器学习(machine learning)技术创建的伪造品,这是人工智能技术的一个子领域,特别是生成对抗网络(Generative Adversarial Networks,GANs)的产物。其过程是:两个被称为神经网络的机器学习系统会相互竞争地进行训练。第一个网络或生成器的任务是创建伪造的数据,如照片、声音,或复制原始数据集属性的视频片段;第二个网络或鉴别器的任务是识别伪造的数据。这两个称为“生成器”和“鉴别器”的网络在相同的图像、视频或声音数据集上进行训练,然后第一个网络尝试创建足以欺骗第二个网络的新样本,第二个网络用于确定它看到的新媒体是否真实。这样,它们互相推动改进。基于每次迭代的结果,生成器网络不断进行调整,以创建越来越接近真实的数据。上述两个网络间的竞争——通常是数千次甚至数百万次迭代——直到生成器提高其性能,使鉴别器无法再区分真实数据和伪造数据。计算机视觉技术——如焦点识别,可以与生成对抗网络相结合,以跟踪图像或视频中的特定物体。使用面部特殊标志跟踪,或识别人面部的主要特征,允许程序准确地交换目标面部。类似的技术也存在于增强现实领域,即虚拟物品在现实世界中实时显示的领域。在Instagram和SnapChat等网站或应用程序上,以面部交换和过滤的形式,换脸是一件非常快速和轻松的事情,关键是这样做几乎没有任何成本。2016年,迪士尼电影工作室将凯莉·费雪(Carrie Fisher)年轻时的形象植入电影《星球大战外传:侠盗一号》中,耗资数百万美元;如果使用深度伪造技术,几小时内就可以免费创建一个完美的复制程序。

1. 深度伪造技术分类

从技术角度看,深度伪造可以分为以下三类。第一类是深度伪造视频技术。三种数字技术对于深度伪造视频技术的发展发挥了至关重要的作用:首先,计算机视觉科技的发展开发了一种算法,可以自动绘制图像中面部的标志特征,比如眉毛和鼻子的位置,从而产生了面部识别技术。其次,互联网的兴起,特别是视频和照片分享平台的大量涌现,形成了以互联网为基础的庞大的视听数据库,为各种深度伪造视频提供了取之不尽的大数据。最后,图像取证能力技术的发展,使系统可以自动检测伪造品。上述技术的发展为人工智能技术的繁荣创造了先决条件,机器学习特别是深度学习的优势就在于它的循环学习方法:它可以检测大型数据集之中的模式,并产生类似的产品;它能够从取证算法的输出中学习,因为这些算法教会了人工智能算法在下一个生产周期中需要改进什么。如此循环往复,制作出来的视频产品相似度就越来越高,甚至几乎完全一样。

第二类是语音克隆技术。语音克隆技术也被称为音频深度伪造、语音合成、语音转换或交换。语音克隆技术已经发展到这样的水平:只需采集到一个人的几句话,人工智能语音克隆软件就可以生成与目标人类语音非常相似的合成语音。这一技术已经成为日常家用电子产品的标准功能,如谷歌家庭(Google Families)、苹果智能语音助手(Siri)、亚马逊语音虚拟助手(Amazon Alexa)等。各种方便访问的人工智能应用程序使创建语音克隆产品变得更加便利,语音克隆体的质量也迅速提高。因此,人工智能技术使得语音克隆的可信度和创建可信克隆的速度达到了一个新的高度。

第三类是文本合成技术。在深度伪造的背景下,文本合成技术可以生成模仿目标独特说话风格的文本。这些技术主要依赖于自然语言处理(Natural Language Processing,NLP)技术。这是计算机科学和语言学交叉形成的一门科学学科,它的主要应用是改善人类和计算机之间的文本和语言互动。自然语言处理系统可以分析大量的文本,包括一个特定目标的音频剪辑文本,从而形成一个能够在一定程度上解释演讲的系统,包括词语以及对所表达的微妙情感和意图的理解。这可能会制造一个人说话风格的模型,并反过来又可以用来合成新颖的演讲。自然语言处理常用的架构是一种称为“机器学习模型”(Transformer)的深度学习算法。该算法基本上可以通过学习单词序列如何在句子和文本中相互关联,将一个输入的文本“转换”为一个新的文本。位于旧金山的一家人工智能研究实验室开放人工智能(Open AI)创建的第三代语言预测模型(GenerativePre-trained Transformer 3,GPT-3)被认为是这一技术领域的领先者。开放人工智能实验室的研究人员声称,“GPT-3甚至可以生成新闻文章,而人类评估者很难将其与人类所写的文章区分开来”。

2. 深度伪造作品分类

从深度伪造产品本身的性质看,目前出现的深度伪造作品可以分为三类。第一类是具有积极作用的产品或应用。深度伪造技术在许多行业具有积极用途,包括电影、教育媒体和数字通信、游戏和娱乐、社交媒体和医疗保健、材料科学以及各种商业领域(如时尚和电子商务)等。电影业可以通过多种方式从深度伪造技术中受益。例如,它可以帮助因疾病而失去声音的演员制作数字声音,或者更新电影片段而不需要重新拍摄;它还可以为任何语言的电影自动配音,从而让不同语言的观众更好地欣赏电影和教育媒体。例如,在医学上,渐冻人协会(The ALS Association)正在利用深度伪造技术,为渐冻症患者提供帮助。渐冻人协会与一家名为“琴鸟”(Lyrebird)的公司合作,使用语音克隆技术来帮助渐冻症患者。该公司鼓励渐冻症患者在他们还能够发声时备份他们的声音,并将语音克隆技术与眼睛阅读器辅助技术联系起来,使渐冻症患者在丧失说话能力之后,依然能够用他原始的、独特的声音而不是“机器”声音来与家人和朋友进行交流。

第二类是较为中性的深度伪造,主要是娱乐和幽默性质的深度伪造作品。这类作品往往是以公众人物作为娱乐对象。例如,2020年在中国社交媒体上广为流传的一段深度伪造视频,表现的是时任美国总统唐纳德·特朗普(Donald Trump)和国务卿迈克尔·蓬佩奥(MichaelPompeo)两个人用中文合唱了一首歌曲《我爱你中国》,明显属于娱乐大众之作。优兔(YouTube)上有1 820万粉丝的吉米·坎摩尔(Jimmy Kimmel)在他的节目中播放了特朗普总统的视频,总统的声音在“醉酒唐纳德·特朗普”的片段中慢了下来,听起来像是喝醉了。这样的深度伪造作品没有恶意,纯属幽默,观众也明白这样的视频并不是真的,所以不会造成不良的社会后果。

第三类属于恶意的深度伪造。这一类深度伪造被创作者用于某种特殊的目的,往往会给国家安全、社会治理带来严峻的威胁和挑战。如在深度伪造中占比最高的是利用深度伪造技术合成的色情视频。深度伪造的色情视频受害者不仅包括一些影视明星,也包括一些普通女性,属于人工智能技术发展带来的新的性别安全问题。深度伪造还被用来抹黑政治人物,尤其是正在从事选举工作的政治候选人,从而影响一些国家的政治进程。深度伪造也被用来对一些国家正在发生的政治事件作出不利的描述,不仅可能激化社会矛盾、导致群体性事件的发生,也可能影响国家的政治形象,在国际舞台上给这些国家制造难题和困境。深度伪造还会给企业和个人在经济上带来损失,无论是通过深度伪造影响一些企业股票,还是影响一些企业刚刚上市的产品,都会给企业带来巨大的损失。深度伪造造成的诈骗活动,更是让一些企业和个人蒙受了重大损失。更严重的是,深度伪造可能会摧毁社会信任,信任赤字将恶化整个社会的心理生态环境。

(二)深度伪造的特征

1. 网络社交平台是传播深度伪造作品的最主要渠道

在20世纪甚至21世纪初的大部分时间里,杂志、报纸和电视广播公司管理着向公众传递的信息。上述媒体均建立了严格的专业标准来控制新闻质量,而大众媒体和自媒体的数量相对较少,这意味着只有有限数量的个人和组织可以广泛传播信息。然而,在过去十来年,智能手机的普及使得社交媒体被广泛运用,越来越多的人开始习惯从各种社交媒体平台获取信息,如国外用户从脸书、推特,国内用户从微信、微博等平台获取信息。这些平台依赖大量用户来生成相对未经过滤的内容,而用户倾向于展示他们自身的体验,浏览并发送他们同意的观点(平台算法也增强了这种趋势),将他们参与的社交媒体平台变成了“回音室”。这些平台也容易受到所谓的信息级联影响(cascading impacts),即受深度伪造作品影响的人向其所在的多个群组传递、分享信息,选择相信这些信息的群组受众又会将这些未加鉴别的深度伪造作品传播到更大范围,从而造成深度伪造的累积效应。《科学》(Science)杂志的一项研究报告称,推特上的虚假信息通常会被更多的人转发,而且比真实信息要快得多,尤其是政治话题。

2. 深度伪造发展迅猛

自第一个深度伪造视频出现后,深度伪造以其质量、数量和多样性的特点稳步上升而受到极大的关注,这反向推动了深度伪造更为迅猛的发展。联合国裁军研究所(The United Nations Institute for Disarmament Research,UNIDIR)的追踪研究发现,自2018年11月以来,在线识别的深度伪造视频数量每六个月就会翻一番。

3. 深度伪造传播迅速且点击量巨大

当一段关于美国众议院议长南希·佩洛西(NancyPatricia Pelosi)似乎喝多了、走路摇摆不稳的深度伪造视频上传到互联网后,不到48个小时,仅仅在脸书和推特两个社交平台就获得了几百万的点击量。另外根据笔者在优兔(YouTube)的观察,此类深度伪造的作品传播速度普遍都十分迅速,拥有非常高的点击量。如拜登唱歌、特朗普跳舞的深度伪造视频自2020年11月17日上传,到2021年12月23日,已经获得了10 941 585次的点击量;特朗普总统与英国伊丽莎白女王的“史诗之舞”,从2017年7月4日发布,到2022年4月12日已经有3 972 528人次观看。

4. 深度伪造以公众人物等为主要对象

公众人物主要包括国家政要、跨国公司老板和影视界明星等,因其具有高知名度和较大的社会影响而备受深度伪造者的青睐,美国前总统贝拉克·奥巴马(Barack Obama)及其妻子米歇尔·奥巴马(MichelleObama)、特朗普及其女儿伊万卡·特朗普(Ivanka Trump),众议院议长佩洛西、英国女王伊丽莎白、脸书创始人和老板马克·扎克伯格(Mark Zuckerberg)、2018年被《时代》(Times)杂志评为“最具影响力100人”的以色列著名演员盖尔·加朵(Gal Gadot),以及中国的一些影视界明星等,都曾经出现在各种深度伪造的视频作品中。

(三)深度伪造快速传播的原因

深度伪造之所以能够迅速流行并传播,主要有以下几个原因:

1. 人工智能技术的发展和普及使得制作深度伪造作品更简单易行

与其他人工智能技术一样,深度伪造和合成媒体不需要专门的硬件或设备来开发,拥有强大显卡的台式电脑就足够了。商业性甚至免费的深度伪造服务已经出现在公开市场上,这些服务的普及将降低进入门槛,使得任何有兴趣的人几乎都可以拥有创建专业级深度伪造作品的能力。

2. 互联网空间免费获取数据集使深度伪造的门槛变得很低

计算机视觉社区已经创建了带有标记的视觉材料的大型数据集,其中许多数据集都可以在互联网上免费获得。这些数据集是训练机器学习算法所必需的。深度伪造数据的创建者可以很容易地访问这些数据集;此外,由于云计算提供的服务,训练机器学习算法所需的计算能力成本较低,如谷歌的Colaboratory(简称Colab)可以让任何人通过浏览器编写和执行任意高级通用编程语言(Python)代码。它尤其适合机器学习、数据分析和教育目的。用户无需进行设置,就可以直接使用,同时还能获得图形处理单元(Graphics Processing Unit,GPU)等计算资源的免费使用权限。因此,一台普通的电脑,甚至是一部能上网的智能手机,都足以创造出高质量的深度伪造作品。

3. 深度伪造中占比最高的是色情和政治类作品

从传播学的角度看,色情和政治类作品往往具有低俗、虚假、传播快的特性,加上人性的猎奇心理——这在东西方国家都是一样的,如中国有“好事不出门,恶事行千里”的谚语,西方国家则有“当真相还在穿鞋时,谎言已经传遍半个世界”(A lie travels halfway around the world while the truthis getting its shoes on)的谚语,讲的都是同样的道理——这些因素使得色情和政治类深度伪造作品传播最广。美国麻省理工学院(MIT)通过对推特进行深入研究,“分析了十多年来300万用户发布的约12.6万条级联新闻报道”,结果发现,“一个捏造的故事传播到1 500人的速度是一个真实故事的6倍”。而且,虚假的政治故事比关于商业、恐怖主义或科学的虚假故事传播得更快。

4. 近年来欧美国家的政治极化也加快了深度伪造信息的传播速度

冷战结束后,外部压力的弱化反而加剧了欧美国家国内政治的两极分化。政治极化的一个重要后果就是减少了公众之间跨领域政治互动的机会;而同质的社交网络又降低了对不同观点的容忍度,放大了理念上的两极化,在一定程度上提高了接受意识形态兼容新闻的难度,并增强了对不同信息的封闭程度。这些趋势创造了一个深度伪造作品高度吸引特定受众群体的环境。

二 深度伪造对国家安全的威胁与挑战

(一)深度伪造对国际安全的威胁和对国际形势的影响

1. 深度伪造会破坏国际社会的战略互信并冲击脆弱的和平环境

在国际关系中,战略互信是国际安全与国际形势稳定的核心支柱,可以为全球合作和多边合作体制建设奠定坚实的基础。但信息的数字化以及几乎无处不在的快速通信的数字手段,促进了虚假和误导性内容的传播。从国际安全和国际形势稳定的角度看,深度伪造与其他颠覆性数字技术相结合,将极大地降低全球和区域多边机构以及国际关系行为体彼此间的信任。对于在国际社会和国际安全领域试图制造事端的国家与非国家行为体而言,它们可以随时获取和利用日益先进的深度伪造技术,减少信息武器化的障碍,扩大参与并深度影响国际安全形势。2019年,印度和巴基斯坦之间的紧张局势升级期间,路透社发现了30起关于该事件的深度伪造视频:这些视频大部分是2017年印巴冲突期间,发生在印巴两国一些城市的民众向对方抗议示威的场景。“有心人士”利用人工智能技术对这些视频作了处理,被有意错误描述为正在印度和巴基斯坦发生的视频片段。这些深度伪造的合成视频极大地刺激了印巴两国的民族主义者,导致事态升级。由于担心事态失控,印度和巴基斯坦官方被迫暂时关闭了一些社交平台。

2. 深度伪造有可能会影响军事决策和军备控制

一些国家的政治和军事领导人依赖公开与秘密的信息环境作出重大决策,特别是在重大危机面前,需要快速作出决策。但武器化的深度伪造可以被用来扰乱信息环境,这在持续的政治和军事紧张局势中,可能会引发国际危机甚至导致对立或对抗的升级。例如,一段关于某拥有核武器国家将其核武库提升至高度警戒的深度伪造信息,可能会导致其他拥有核武器的国家相应提高其核力量的警戒等级。以核大国对其他拥核国家核武器监控能力而言,这样的深度伪造不必然会导致核武器的使用,但很可能会破坏敌对国家之间以及盟友之间围绕战略稳定的政治和安全氛围。伦敦国王学院的玛丽娜·法瓦罗(Marina Favaro)将深度伪造归类为“大规模扭曲的武器”(Weapons of Mass Distortion),认为它能够降低一个国家的态势感知能力,并可能侵蚀核指挥、控制和通信(NC3);随着深度伪造的复杂程度不断提高,核武器决策者将发现越来越难以信任机器生成的信息,无论是在快速作出决策还是根据事实信息作出决策方面,都将因对收到的信息缺乏信任而导致决策者在危机期间处于不利地位。在2021年3月举行的“技术复杂性下的核武器决策”研讨会上,北约一些前高级决策者讨论了深度伪造的危险并作出判断,认为新兴技术尤其是人工智能技术的发展,“将影响决策者管理、吸收、解释、信任、验证信息以及最终作出决定和决策的能力”。

3.涉及他国领导人的深度伪造作品会对国家关系造成影响

涉及他国领导人的深度伪造作品不仅给国家领导人带来负面影响,也会影响国家间关系。2018年,比利时社会党在电视台播放了一段美国总统特朗普关于气候变化的视频。在视频中,特朗普呼吁在即将到来的全民公投中投票退出《巴黎气候变化协定》。他说:“正如你所知,我有勇气退出《巴黎气候变化协定》,你也应该如此。因为你们现在在比利时所做的实际上更糟。你们同意了,但你们没有采取任何措施。”比利时社会党制作这一视频的出发点并不是出于恶意,而是希望吸引比利时人签署在线请愿书,呼吁比利时政府采取更紧急的气候行动。特朗普在视频的最后说:“我们都知道气候变化是假的,就像这个视频一样。”这相当于最后说明了这是一段伪造的视频。但是,恰恰是最后这一句话,并没有以当地语言出现在字幕中,再加上特朗普对待气候变化的一贯立场,让收视者理所当然地认为这就是特朗普的演讲,是在干涉比利时的内政。这段视频就这样激发了比利时人对美国总统干预比利时气候政策的愤慨。

4. 深度伪造很可能会成为国际恐怖活动的催化剂

深度伪造技术对非国家行为者尤其是国际恐怖组织来说,无疑具有很高的利用价值。早期的恐怖组织缺乏制作虚假但可信的音频和视频的资源,如今随着深度伪造技术的成熟,它们可以轻而易举地制造这类作品了。恐怖组织通过深度伪造的视频或音频,展现对手包括政府官员发表煽动性言论或从事挑衅性行动,最大限度地对其目标受众产生有利于恐怖组织的影响。如“伊斯兰国”(ISIS)的附属机构可能制作这样的视频:某军事联盟的士兵射杀伊斯兰国家的平民和妇女儿童,或轰炸了某伊斯兰国家的清真寺;某国政府官员、执法人员焚烧《古兰经》等。这类视频无疑会激起伊斯兰国家穆斯林的怒火,酿成针对特定国家目标如大使馆、领事馆或企业的抗议活动,甚至导致类似于2012年美国驻利比亚班加西领事馆遇袭之类事件。这样的深度伪造作品还有利于恐怖组织招募人员,补充后备力量。而对这种深度伪造的逆向对等操作,就是西方国家的媒体也可以制作深度伪造的宣传视频,让西方国家的公众相信恐怖组织及其活动给西方世界构成的威胁。

(二)深度伪造给国家传统安全带来的挑战

1. 指挥自动化系统方面的深度伪造为双方军事行动提供战术优势

在现代军事体系中,指挥自动化系统(C4ISR)是军队的神经中枢,先进的C4ISR能力通过对态势的感知、对环境和对手的了解、对战场信息的处理以及缩短感知和响应之间的时间,为己方的军事行动提供优势。这一系统的核心就是战争或战场信息的获取、处理以及运用。这就给对手提供了利用信息的空间。在未来的军事行动中,战争和战场上的对手可以生成高级指挥官的深度伪造,向对手的部队下达虚假或矛盾的命令。为此,他们可以使用从媒体或通过情报获得的真实指挥官的视频或录音;或者创建不真实的卫星情报图像,误导基于人工智能的目标识别系统,这样就可以“毒化”图像数据并将民用基础设施识别为军事设施,或将军事目标归类为非军事目标,引导对手错误地攻击目标;他们还可以运用人工智能技术发起错误信息活动,从而导致盟友之间产生争端。在人工智能时代,军事指挥官再也不需要像二战时期那样设计复杂的骗局,以虚假的D日登陆地点信息欺骗纳粹德国总参谋部。未来的军事行动中不再需要这种物理欺骗,因为人工智能为设置数字陷阱和虚假信息提供了更强大的“武器”——深度伪造。

2.深度伪造给国家政治安全带来更大的挑战和威胁

数字时代特别是人工智能技术的发展给各国进行政治战(Political Warfare)带来了颠覆性的变化。深度伪造将极大地改变政治战的内涵和实施方式,那些拥有先进人工智能能力和侵入性访问其他国家大数据库能力的国际关系行为体,将在政治战中获得巨大优势。人工智能为虚假信息的传播者提供了快速侦察目标国家社交媒体受众并识别其心理弱点的能力。人工智能驱动的系统可以快速生成修改过的内容和深度伪造的数字产品,从而推动针对目标国家民众和国家利益的虚假叙事,冲击目标国家民众的心理,侵蚀目标国家社会的信任,给目标国家的政治安全带来更大的挑战和威胁。

3. 深度伪造会改变“脆弱国家”在国家治理方面的政治进程

经济合作与发展组织(Organisation for Economic Co-operation andDevelopment,OECD)将脆弱性视为一种普遍现象,在政治、社会、安全、环境和经济五个主要维度上,每个国家都不同程度地以不同方式存在脆弱现象。脆弱指数比较高的国家往往存在政治与社会局势不稳定、经济落后和治安混乱等现象。被视为“脆弱国家”(Fragile States)的往往都是整体发展水平比较落后的发展中国家。在“脆弱国家”,深度伪造还可能加剧社会分裂、内乱、恐慌和冲突,造成政局动荡,甚至会导致暴力冲突和军事政变。例如,2018年10月,加蓬总统阿里·邦戈·翁丁巴(Ali-Ben Bongo Ondimba)在访问沙特阿拉伯时因病住院,并从11月起在摩洛哥继续接受治疗。由于邦戈长期未公开露面,加蓬民众普遍认为其健康状况不佳,甚至已经死亡。2018年12月31日,邦戈在摩洛哥向国内民众发表新年贺词,承认自己身体有恙但正在康复。这段视频引发了一场全国性的危机。包括部分军人在内的相当多的人认为视频是深度伪造作品,加蓬政府的目的是试图隐瞒总统的健康状况。最终,这一叙事导致了加蓬军方的政变,政变军人的理由就是,他们怀疑总统正在康复的视频属于深度伪造,认为总统已经失去履行职责的能力。事后根据《华盛顿邮报》记者寻求专业数字技术公司查证,邦戈新年贺词视频尽管存在瑕疵,但并无明确的深度伪造算法介入的证据;而反对派成员提供的说明视频,反而存在人工智能操纵的迹象。这一案例表明,深度伪造的视频可能会引起一些国家的政局动荡。

(三)深度伪造给非传统国家安全带来的挑战

1. 国家层面:深度伪造的内容会损害国家的经济稳定

深度伪造危害国家经济安全的常见手段有以下几种:一是捏造政府的行为。世界各国的财政、商务和金融监管机构一直在与试图影响市场走势的谣言作斗争——这些谣言往往通过各种社交平台流传开来。如2019 年,印度中央银行试图平息社交媒体有关当局将很快关闭某些商业银行的谣言。深度伪造可能会编造诸如政府官员关于税收政策调整的讨论,或具有官方背景的银行家私下讨论未来利率变化,或被视为政府智囊的智库学者关于地区开发的讨论,等等。在经济和金融危机时期,深度伪造可能利用和放大先前存在的经济担忧和市场的波动。

二是制造虚假的突发性事件。突发性事件往往对期货市场和股市构成重大冲击。2013年4月23日,一个名为“叙利亚电子军”(Syrian Electronic Army)的黑客组织劫持了美联社的推特账户,并在推特上写道:“突发:白宫发生两次爆炸,奥巴马受伤。”这一虚假声明立即引发了大量交易,接下来的三分钟,原油价格暴跌,10年期美国国债收益率下跌,投资者转移风险,道·琼斯工业指数下跌150点,标准普尔500指数资本价值损失超过1.36亿美元。三分钟之后,一名美联社员工在推特上写道:“我们被黑客入侵了。”紧随其后的是官方确认该“新闻”是一个骗局,剧烈动荡的市场很快恢复正常。为交易公司提供市场数据的Nanex创始人埃里克·亨萨德(Eric S. Hunsader)说:“美联社的假推文是股市历史上最活跃的两分钟。”可以尽快控制的一般的虚假信息尚且造成如此大的金融和经济动荡,由深度伪造引起的怀疑要想消除将更为困难,后者会让市场动荡持续更长的时间,造成的损失也更加巨大。

三是恶意银行挤兑。一些国家的银行发生挤兑,这样的新闻经常出现在社交媒体中。发生挤兑的原因很多,其中部分原因与社交媒体的深度伪造有关。尽管基于社交媒体的深度伪造如制造银行排长队的视频或照片并不一定是银行挤兑的主要原因,但社交媒体为此类谣言的快速传播提供了平台,当公众对金融形势或银行健康运转的怀疑开始变得普遍时,社交媒体可以迅速放大它们,从而让挤兑变得更加疯狂。

2. 企业层面:深度伪造给企业带来的威胁和挑战更为直接

2021年3月10日,鉴于针对企业的深度伪造活动日益猖獗,美国联邦调查局特意对美国私营企业发出了警告。联邦调查局预测,在未来12—18个月,外国行为者将越来越多地使用支持人工智能的虚假媒体进行“网络钓鱼和社会工程犯罪”,其中深度伪造工具将用于创建“合成企业角色”或模仿现职员工,并且很可能对受害企业和组织造成“非常重大的财务和声誉影响。”穆迪投资者服务公司(Moody’s Investor Service)也向客户发出警告,先进的技术使得制作旨在损害企业声誉的深度伪造视频和图像变得更加容易,导致公司的业务和信用质量受到威胁。

3. 个人层面:深度伪造主要被用于欺诈或勒索行为

针对个人的深度伪造主要有以下几种情形:一是身份盗窃。深度伪造至少有两种可以导致身份盗用的方式:一种形式是有针对性的深度伪造来窃取个人身份,然后用受害者的合成语音对其亲朋好友发起欺诈性汇兑;另一种形式是以虚假身份创建银行账户的深度伪造音频或视频,促进洗钱活动或偷税漏税。

二是冒名顶替诈骗。主要指的是犯罪分子冒充“政府执法部门、知名企业或技术支持专家”向受害者施压,迫使其付款。深度伪造可以增强冒名顶替者诈骗的真实性。诈骗者可能会复制特定个人的声音,通过人工智能系统拨打许多受害者的电话号码,而且还能够根据受害者所在地区自动模拟当地的方言或口音。诈骗犯通过操纵受害者的情绪并制造一种虚假的紧迫感,让受害者往往无暇顾及甄别真假。而且,许多骗局故意针对更脆弱的受害者,包括老年人和女性群体。

三是网络勒索。在网络勒索计划中,犯罪分子声称拥有有关受害者的令人尴尬乃至恐慌的信息,并威胁要发布这些信息,除非他们得到报酬或提供更多他们想要的材料。网络勒索者可以使用深度伪造来生成更有说服力的虚假勒索材料,有时还在与受害者通信中引用受害者的密码或电话号码,这些密码或电话号码通常来自公开的数据转储。勒索者可能向受害者发送受害者本人的面部图像或视频,这些图像或视频被合成叠加到色情内容中,作为他们访问敏感信息的证据。根据美国联邦调查局的数据,2019 年,美国居民报告的网络勒索损失(不包括勒索软件造成的损失)为1.07亿美元。

三 结 语

人工智能和其他数字技术的不断进步,互联网技术的进一步普及,使得深度伪造技术产品的质量、数量和多样性在稳步上升;而相关软件工具的出现,服务的开放性和数据的易采集性等,都使得制造深度伪造产品的大众化能力不断增强。接触深度伪造产品已经成为互联网和数字社交平台用户日常生活的一部分。如在最近的俄罗斯—乌克兰冲突中,即使远离战场的中国公众,也几乎每天都会接触到一些深度伪造的军事、政治方面的信息。这些深度伪造的信息数量和影响之大、在世界各地传播速度之快,引起了一些数字平台的警觉。它所造成的潜在风险,也为各国敲响了警钟。

同时,恶意使用深度伪造技术以及这种技术的泛滥,无论是在传统安全领域,还是在非传统安全领域,都给国家和国际的和平、安全和稳定带来了多方面的风险和挑战,也让公众面临的安全问题更加复杂化。越来越容易获得的深度伪造技术让一系列国家和非国家行为体参与到原本复杂的虚假信息活动中,也更加容易和方便去影响其他国家的政治局势甚至政治走向;国家与非国家行为体还可以利用深度伪造来破坏其他国家的信息环境,从而在持续的政治和军事紧张局势中引发危机或导致紧张局势的升级。深度伪造最深刻的影响在于,它创造了“骗子的红利”——对从个人、社会、国家和国际社会不同层面的信任关系造成破坏,从而给社会、国家乃至全球治理制造更多、更持久的困难。

来源:国际安全研究ISS



 
设为首页
加入收藏
联系我们
法律声明
后台管理
主办单位:中国保密协会  京ICP备14000164号-1   技术支持:国防科工局信息中心
地址:北京市朝阳区利泽东二路3号 邮政编码:100102 电话:010-64399819 传真:010-64399819