屏幕里，西装笔挺的“建国弟弟”梳着整齐背头，用温柔嗓音说着“亲爱的姐姐，岁月是一首诗”，评论区瞬间被玫瑰和爱心表情淹没。

屏幕外，60岁的李阿姨不知道，这个贴心的“弟弟”没有心跳，只有代码，一句句关怀话术，只是为了将“姐姐”们引到私域平台上进行商业变现。

近期，直播间利用虚拟主播，通过精心设计的情感话术诱导中老年消费，甚至涉嫌诈骗的事件引发广泛关注。“数字人王建国”便是AI技术被滥用的一个代表。

AI数字人技术为电商开辟了新路径，其“不知疲倦”“可批量复制”的特性提升了效率。然而，当这项技术被用于刻意模糊虚拟与真实的界限，利用特定群体的情感需求进行不当营销时，其潜在风险不容忽视，亟须规范引导。

对此，相关部门已采取整治行动。据“网信中国”微信公众号7月9日发布的消息，中央网信办整治AI技术滥用，第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。

屏幕里的 “贴心弟弟”

上海市普陀区人民法院刑事审判庭副庭长董婷婷接受本刊记者采访时说，近期利用“数字人主播”实施的诈骗案件高发，其核心危害在于经过算法优化的精准话术极易诱导冲动消费。

据介绍，“王建国”常在直播间里称呼观众为“宝贝姐姐”，并通过“你已经偷偷刷过去好几次了，这次就别当小透明了”“每隔几分钟我就会打开手机，查看你是否来了”等话术增强互动感。

记者翻阅相关视频的留言区中，常能看到类似“感谢建国弟弟，你帮助了姐姐，姐姐感激不尽”“你辛苦了。姐姐为你点亮红心，送一朵小红花”等内容。

“王建国”常许诺给“姐姐们”买房、和“姐姐们”过一辈子，情绪价值瞬间拉满。

值得注意的是，视频末尾，“王建国”总会提醒“姐姐们”购买其带货的商品，包括化妆品、黑芝麻糊等。

“建国弟弟”们是如何被生产出来的？记者近日以母婴博主身份电话联系了一家自称位于郑州的数字人直播服务公司。

公司周经理介绍，他们的核心业务之一是克隆主播形象和声音，打造“数字人直播间”。单个直播间的价格为4980元，如果支付9800元则可开通10个直播间。