探索人工智能体的模块化治理框架
作者 张欣
发表于 2024年12月

科技兴则民族兴,科技强则国家强。党的十八大以来,我国高度重视人工智能发展,积极推动互联网、大数据、人工智能和实体经济深度融合,培育壮大智能产业,加快发展新质生产力,为高质量发展提供新动能。习近平总书记指出:“要坚持促进发展和依法管理相统一,既大力培育人工智能、物联网、下一代通信网络等新技术新应用,又积极利用法律法规和标准规范引导新技术应用。”习近平总书记的重要论述为我国人工智能发展提供了根本遵循和行动指南。大力发展人工智能,提高人工智能安全治理水平,要把党的二十届三中全会《决定》提出的“建立人工智能安全监管制度”重要部署不折不扣贯彻落实好,准确把握人工智能发展动向,重点关注人工智能前沿技术及其带来的风险挑战,加强前瞻性思考,不断探索人工智能治理的创新方案。

当前,生成式人工智能开创了人机交互新范式,凭借其强大的交互、理解和生成能力,为发展以大型自然语言模型为核心组件,集记忆、规划和工具使用于一体,具备感知和行动能力的人工智能体开辟了广阔前景。人工智能体已成为通用人工智能最重要的前沿研究方向和科技企业竞相布局的新赛道。它以大型自然语言模型为“智慧引擎”,具有自主性、适应性和交互性特征,可显著提高生产效率,增强用户体验,提供超越人类能力的决策支持,已能够应用于软件开发、科学研究等多种真实场景。尽管大规模商业化落地仍在初步探索和孵化阶段,但人工智能体所代表的虚实融合、人机深度互动等趋势对经济社会发展具有重要引领意义。然而,由于技术局限,人工智能体也可能引发复杂的、动态的、不可预见的风险与隐忧。

从设计逻辑看,人工智能体需要通过控制端获得认知能力,通过感知端从周围环境获取和利用信息,最终在行动端成为基于物理实体进行感知和行动的智能系统。

本文刊登于《新华月报》2024年21期
龙源期刊网正版版权
更多文章来自
订阅