在最近的一次安全测试中，一个旨在协助客户申请贷款的银行生成式AI（人工智能）聊天机器人遭到了操纵，并因此泄露了敏感金融信息。测试人员绕过了安全控制机制，提取了一份包括客户姓名在内的全面贷款审批清单。

这个警示性故事强调了一个根本问题：生成式AI可以彻底改变整个行业，但也可能在缺乏完备安全操作规程的情况下引发灾难性结果。传统的安全模式已不敷使用，生成式AI这类变革性技术需要一种新的、整体性的网络安全操作方式。

在此航空业提供了一个有用的模式。通过实施严格的安全操作规程，搭乘飞机已成为最安全的交通方式之一。AI的潜力谁也无法否认，但其未来取决于各类安全风险的解决。比如波士顿咨询公司最近的一项研究就发现，有3/4的企业高管认为，网络安全问题是扩大AI应用规模的主要障碍。

大型语言模型引入了不确定性行为，催生了网络安全盲点。此外，它们对自然语言输入的依赖、自适应学习以及与其他工具和服务的广泛集成，也使之具备独特的脆弱性。