美国深度伪造防御体系建设探析
作者 赵东华 卜江
发表于 2025年4月

深度伪造技术的发展使得篡改和生成高逼真度的音视频成为可能,为国家间政治抹黑、军事欺骗提供了新的工具。为防止技术滥用和敌对势力的渗透活动,美国从法律、技术、教育、国际合作等方面入手,加强对深度伪造技术的监管和防范。

美国构建深度伪造防御体系的主要做法

自下而上分层制定法律规范美国是第一个发生大规模深度伪造换脸事件的国家,也是第一个回应深度伪造技术问题的国家。美国的立法者对深度伪造的担忧主要集中在国家安全、社会稳定、政治选举等方面,同时又支持深度伪造技术在娱乐、医疗、影视等方面的应用,如何趋利避害成为一道治理难题。

州议会制定法案。2019年6月,德克萨斯州议会通过《关于制作欺骗性视频意图影响选举结果的刑事犯罪法案》,该法案明确规定“利用深度伪造技术制作视频企图干扰选举的行为被定义为刑事犯罪”。同年10月,加利福尼亚州议会通过《730号议会法案》,法案规定选举前60日内制造、传播经过篡改的有关政治家、选举候选人的视频、音频、图像的行为视为犯罪行为。两个州颁布的法案,为深度伪造技术的应用场景、创作内容和使用目的划定了法律红线。

参众两院制定法案。美国众议院颁布了《深度伪造责任法案》,规定深度伪造音视频的创作者,必须用“不可删除的数字水印以及文本描述”来说明该媒体文件是篡改或生成的,否则将构成犯罪行为。这明确了深度伪造内容创作者的责任和义务,让他们清楚知晓自己行为的法律后果,从而在一定程度上约束其行为,减少随意制作和传播深度伪造内容的现象。参议院颁布的《恶意伪造禁令法案》对社交媒体平台的责任也进行了规定,若平台明知内容系深度伪造仍继续分发,将受到罚款等处罚。这促使平台加强对所发布内容的审核,积极采取措施防范深度伪造内容的传播,维护网络环境的安全和秩序。

被动检测技术是从人脸视频自身获取信息或提取特征

主被动兼顾研发鉴伪技术 美国为提升深度伪造技术检测能力,依托国内的高科技公司研发各类检测技术。根据防御策略的不同,现有的检测技术主要分为主动防御和被动检测两大类。

被动检测技术。该技术是从人脸视频自身获取信息或提取特征,对伪造人脸视频进行鉴别的技术,侧重于事后取证,即针对已经制作并传播的视频进行检测。例如,美国DAPPA公司推出“媒体取证”项目和“语义取证”项目,其中“媒体取证”项目,主要检测和识别经过修改的数字媒体内容的项目,用于揭露伪造的图片或视频;“语义取证”项目,主要理解数据和信息背后的含义和上下文,以揭露潜在的欺诈或误导行为。被动检测技术的主要原理是“发现才处理”,这种防御方式存在滞后性,难以消除虚假视频带来的负面影响。

主动防御技术。该技术侧重于事前防御,核心思路是在人脸视频发布前添加一定的信号干扰,使得恶意使用者无法利用该视频素材进行伪造,即便伪造也能够顺利溯源,找到伪造者,以实现“精准溯源”的目标。例如,美国的元宇宙平台公司宣布将在其社交媒体平台上标记AI生成图像,目前在YouTube、TikTok等社交媒体平台上,一些内容创作者已经开始使用水印来保护他们的视频不被其他用户盗用,但相关技术的执行条件较为严苛,需要视频素材发布方主动添加干扰信息,这在素材自由分享的互联网是较难实现的。

多维度提升公民媒介信息素养 技术是中立的,技术的价值观取决于使用技术的人。深度伪造技术本身并不邪恶,并非在所有情况下都会给公民、社会和国家带来危害,政府需要通过教育,提高公民对深度伪造产品的警惕意识、甄别意识和法纪意识,弥补检测技术的不足。

本文刊登于《军事文摘》2025年4期
龙源期刊网正版版权
更多文章来自
订阅