摘要：Web3.0时代人工智能的发展使得AIGC谣言频发，这主要源于内容生产中的深度伪造和公开数据强化等问题。AIGC谣言在形式上呈现出多样态和高仿真，在内容上体现为近民生和抓眼球，在技术上凸显出低门槛和高效率，在传播上表现为难辨识和易扩散。AIGC谣言的治理需要创新智能方法和技术，以“智”治“智”，在生产端通过数据智能选择进行信息溯源，在分发端引入智能识别并规范AIGC发布，在反馈端进行舆情智能检测并推动源头治理。

关键词：网络谣言 AIGC 人机互动 舆情治理

2023年12月20日，国家语言资源监测与研究中心、商务印书馆、新华网联合主办的“汉语盘点2023”揭晓仪式举行，“ChatGPT”当选年度国际词。作为一款划时代的人工智能应用，ChatGPT自2022年末发布以来，不断刷新公众的认知，也开启了AIGC（Artificial Intelligence Generated Content，人工智能生产内容）这一新兴内容的生产范式。随着GPT-4o的发布以及国内多款AIGC工具的涌现，其生产类型从文本向图片、音频、视频等多媒体领域拓展。然而，由此产生的负面影响也层出不穷，数据泄露、名誉诽谤、谣言混乱等问题凸显，尤其是AIGC谣言产生了极其恶劣的影响，对其治理刻不容缓。从已有研究来看，网络谣言的生产和传播具有主观伪造和未经证实的典型特征。AIGC谣言则是一种特殊的网络谣言，它是借助AIGC进行生产或借由AIGC生产过程得到强化，并通过网络渠道进行传播的谣言。AIGC作为Web3.0时代最具代表性的生产范式，其谣言的生产主体及治理环境也日趋复杂。一方面，对话式人工智能制造的谣言高度仿真，并具有生产多模态谣言的能力；另一方面，基于智能技术的分发解决了谣言与用户间的匹配问题，能够轻松找到易于被谣言“感染”的用户并向其精准投放。

一、人机互动：AIGC谣言生成路径

AIGC谣言相较于其他网络谣言，呈现出两条独特的生成路径，一是谣言内容的智能生产，即利用AIGC对文本、图片乃至音视频进行全方位立体的深度伪造，使得谣言极具迷惑性，难以轻易识别；二是谣言传播的智能强化，部分AIGC会对社交媒体中的数据进行实时抓取和学习，其数据中难以避免谣言的混入，进而在与用户交互的过程中强化对谣言的传播。

1．“智谣”生产：深度伪造形成立体谣言。“深度伪造”一词源于“计算机深度学习”和“伪造”二者的合成，是指通过技术的高仿真处理，实现视频、音频、图像等信息的数据技术伪造，其广泛应用于影视制作、广告营销、艺术创作等领域，但基于“深度伪造”技术的应用开发和普及也屡屡触犯法律和道德的红线。AIGC的演进带来了对用户友好的工具与平台，同时也简化了深度伪造内容的制作流程，即便是非专业人士也能轻松伪造出极具真实感的内容，大大降低了造谣的难度。包括GPT-4o在内的多款具有图片生成能力的AIGC应用的推出，让没有任何图片编辑技术的普通人也可以通过简单的对话向人工智能下达指令，以实现图片编辑。“有图有真相”“有视频有真相”等说法在基于AIGC的深度伪造面前彻底粉碎，谣言的甄别难度进一步提升。

2．“智谣”传播：公开数据的谣言强化。AIGC应用的核心是基于数据预训练产生的大规模语言模型（Large Language Model，LLM），预训练数据集的质量和人工标注质量会显著影响AIGC信息的质量。目前，AIGC应用类型较多，从使用范围来看，可分为垂直型AIGC和通用型AIGC。垂直型AIGC是指在特定领域具有专业性，且主要为该领域的创作提供服务，如彩云小梦专注故事写作，DeepAI专注图片生成，Boomy专注音乐创作。通用型AIGC在使用体验上更接近于传统搜索引擎，如ChatGPT、文心一言等，用户通过对话向它们寻求各类问题的答案和帮助，通用型AIGC应用的数据库通常更为庞大，也更重视实时数据的抓取。AIGC应用中对报道或媒体传播数据具有依赖性，而社交媒体中的低质和谣言数据会因为实时抓取而混入AIGC应用的数据库，被用作预训练数据集，再加上用户的提问方式以及AIGC自身模型的缺陷，都会进一步导致谣言的生成和传播。此外，AIGC应用为增强自身可信度，其回答会突出对权威信息来源的标榜。例如，部分新闻事件在早期的媒体报道和社交媒体数据中存在片面乃至错误的认知，AIGC参考引用这些信息并标注来源，以一种“官方认可的真相”形式取信于用户，用户又缺乏对AIGC运作机制的了解，进而导致谣言的强化传播。

二、“智谣”难辨：AIGC谣言特点

有研究基于谣言文本的实证分析发现，善用故事元素并利用数据和权威支撑是网络谣言叙事的显著特征，扯明星、蹭热点成为网络谣言伪装的重要手段，此外，图片和视频类谣言比例不断提升。ChatGPT发布后，AIGC技术已将网络谣言推向了更高层次，AIGC谣言在形式、内容、技术和传播上呈现出崭新特点。