人工智能是新一轮科技革命和产业变革的重要驱动力量。加快发展人工智能是我们赢得全球科技竞争主动权的重要战略抓手，是推动我国科技跨越发展、产业优化升级、生产力整体跃升的重要战略资源。人工智能依靠其通用性、多模态和智能涌现能力，与千行百业深度融合，在引发生产方式、技术创新范式、内容生成方式和人机关系等多领域深刻变革的同时，也带来诸多风险。

党的十八大以来，以习近平同志为核心的党中央把发展人工智能提升到战略高度。习近平总书记指出：“我们要深入把握新一代人工智能发展的特点，加强人工智能和产业发展融合，为高质量发展提供新动能。”同时强调：“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。”为确保人工智能安全、可靠、可控，我国逐步加强对人工智能发展的规范和治理。例如，2019年6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》；2023年10月，中央网信办发布《全球人工智能治理倡议》。在大力发展人工智能、提升我国在人工智能领域国际竞争力的同时，也要对人工智能带来的技术安全风险、网络安全风险、经济社会风险、意识形态风险，以及伴随的伦理、法律和安全问题进行约束和监管，建立并逐步完善人工智能风险治理体系，推动人工智能安全、健康、有序发展。

国家安全视角下的人工智能风险

人工智能技术逐步进入实用阶段，赋能千行百业，创造出新的产品、服务和商业模式，为人类社会发展带来重大改变。作为一种追赶人类智能的特殊技术，人工智能对社会发展的推动力、对社会伦理与秩序的冲击力，以及其些作用背后的复杂性，都是人类既往的技术发明所不具备的。这其中蕴含着许多前所未有的、不容小觑的风险。

国家竞争力风险。人工智能是发展新质生产力的重要引擎，不仅是经济的推动力，而且在科技创新、国防建设中都发挥着重要作用。当前，我国人工智能技术发展迅速，人工智能领域的学术论文和发明专利都居国际前列，但在人工智能原创性技术领域与美国还有一定的差距，诸如ChatGPT、Sora等里程碑式技术创新均最早出现于美国，我国尚处于“跟跑”阶段。近年来，以美国为首的西方国家实施“小院高墙”政策，意图对我国人工智能的发展进行系统性打压，对我国造成不利影响。目前，我国的人工智能发展在人才、数据、算力等方面尚难打破西方霸权的垄断。例如在人才方面，2019年全球顶尖人工智能研究人员中中国研究人员占10%，2022年这一比例增加到26%，美国仍然吸引最多的人工智能人才。在数据方面，截至2024年，美国Common Crawl开源数据集每月对全网爬取会增加大约386TB的数据，其每月增量比我国多数开源数据集的总量还大。在算力方面，国产芯片的计算速度与世界顶尖水平相比还有不小差距；与图形处理器（GPU）配套的国产编程环境及软硬件生态尚未成熟，制约了算力效率。整体而言，我国人工智能产业创新生态与国际人工智能产业创新生态相比尚有很大提升空间。

技术安全风险。一是人工智能“黑箱效应”可能生成偏误信息，从而误导使用者。人工智能模型存在非透明性的算法“黑箱”局限，使用者难以观察模型从输入到输出的过程。当数据来源良莠不齐时，特别是有人使用特殊设计的输入数据对训练模型进行对抗性攻击时，人工智能模型生成内容的事实解释性以及可理解性缺失，不仅使得输出信息秩序紊乱、传递内容扭曲失真，也使得审查和纠正偏见、错误或不当行为变得困难。再者，由于植根于人类社会根深蒂固的偏见以及因话语权不同导致的数据资料分布不均衡，人工智能模型训练的数据是有偏的，导致人工智能模型对某些人群或事物作出不公正或不均衡推断。二是人工智能模型训练需要运用大量个人、企业和组织的数据，存在隐私和国家机密泄露风险。人工智能生成文本、图像和视频所需的大量数据可能涉及敏感的国家信息、商业信息和个人信息，在大范围应用时经常面临数据过度采集、窃取、泄露和滥用风险。三是人工智能技术研发与应用过程中存在知识产权侵犯和知识生产生态破坏等风险。随着人工智能技术的快速发展，人工智能在艺术作品、科学研究、发明创新等领域的应用愈发深入，这些活动涉及到版权、专利权、商标权等多个方面知识产权。