数字人技术的应用争议与安全保障机制探索
作者 牛雯雯
发表于 2026年1月

由于数字人具有可以打造完美个性人设、在长时间内无休高效替代真人的特性,这一技术普遍被认为可以为品牌带来正向价值。然而,随着其在娱乐、教育、医疗、广告等多个领域的广泛应用,一系列复杂的市场应用与伦理问题开始浮出水面。数字人技术自诞生之日起就始终伴随着关乎个人的隐私权、肖像权等基本权利的争议,伴随近年来智能技术的发展更触及道德主体性、人工智能伦理、人与机器关系等更深层次的哲学议题。本文将从数字人技术的应用争议出发,深入分析其在隐私、身份、道德等方面面临的挑战,并基于伦理视角提出相应的伦理构建路径,以期为数字人技术的未来发展提供有益的参考和启示。

一、数字人在当下行业应用中的限制管理

在几家短视频直播头部平台先后发布新规限制数字人技术的应用前,大多数平台对数字人直播的态度都以规范、鼓励为主。无论具体的智能算法、形象模型或社会行业,在能用低成本数字人替代人类的领域内进行直播带货,已成为当下行业的重要共识。在应用争议伴随行业共识不断涌现的同时,业内也在加强对数字人的限制与管理。

1.头部互联网企业对数字人应用的限制。近年来,抖音、视频号与快手三大国内互联网直播平台相继出台一系列规范和限制数字人技术的新规。早在2023年,抖音率先在数字人监管领域采取了积极行动,发布《抖音关于人工智能生成内容的平台规范暨行业倡议》,首次在公开场合赋予了数字人直播以“合规性”地位,同时明确界定了虚拟人物直播必须遵循的一系列准则,包括但不限于必须由真实个体驱动、实行实名制注册、在数字人及人工智能视频下标明虚拟制作等要求,并严格禁止了完全依赖人工智能技术驱动的直播形式。2024年,抖音安全中心公众号再次发布了《抖音关于不当利用AI生成虚拟人物的治理公告》,将治理重点放在利用AI生成假外国人、假精英及利用AI生成虚拟形象骗取互动等三类内容上,并指出发布者应对人工智能生成内容进行显著标识,虚拟人需在平台进行注册,虚拟人技术使用者需实名认证等。腾讯微信平台则在2024年6月7日至6月13日期间就《视频号橱窗达人“发布低质量内容”实施细则》进行了意见征集,拟对非真实直播进行重新划分并将“使用插件、AI等工具生成虚拟形象进行直播”的行为视为违规。同时此次修订还增加了“对抗行为”的规定,其中明确反对“提供、售卖、教学或展示平台不提倡传播的内容,如讲解和售卖虚拟人代播软件”。此前,微信视频号平台并未对真人直播与数字人直播进行类型区分,而这一新规则限制了一切不由真人主播出镜的行为,平台将实施根据情节轻重予以扣除信用分的处罚,其长线影响包括但不限于减少直播推荐、减少账号推荐、限制直播带货能力等限制措施等。快手电商在2024年6月19日发布了针对智能数字人的倡议公告,明确宣布平台将不再为包括快手官方数字人(女娲产品)在内的数字人直播间提供额外的流量扶持,转而倡导商家及达人采用真人直播的形式与用户建立实时的互动联系,以此提升直播内容的真实性与互动性。

2.平台对内容真实性的把控。仔细研究三大平台的实施细则或倡议,会发现本次限制的争议点主要集中在数字人应用低质量、重复性和可能发布虚假内容对平台内容质量造成的负面影响上。数字人直播的争议焦点在于其“非真实”的特性,以及可能引发的造假和欺诈风险,这使得内容平台对其持谨慎态度。

三大平台并未采取“一刀切”的策略全面禁止所有数字人,而是对平台中使用的数字人进行了细致的筛选与甄别,那些仅具备机械性、重复性口播功能的二维数字人物,以及购买并使用相同数字人物的直播间,均被平台采取了封禁措施。对于以兴趣电商为核心战略的内容平台而言,AI数字人在提供情绪价值与高质量内容方面的能力存在巨大的局限性,而低质量的AI直播甚至可能对平台原有的真人直播生态产生负面效应。在《抖音关于不当利用AI生成虚拟人物的治理公告》中,平台就明确和具体地提出了包括生成境外虚假人设、消费爱国心理、博取关注;生成俊男美女虚假形象,骗取互动,交友导流;生成精英人士虚假人设,发布心灵鸡汤、财商、伪国学、伪成功学等不良内容,引流到站外以卖课、入群等方式获利等不当利用数字人进行内容生成的范例。

本文刊登于《传媒》2025年22期
龙源期刊网正版版权
更多文章来自
订阅