ChatGPT
作者 刘胡君 薛宇
发表于 2023年6月

网络空间安全是指网络世界中的信息安全和网络安全,是一种保护网络系统、网络数据和网络信息安全的综合性概念。随着互联网普及程度的提高,网络空间已然成为继陆海空天之后的第五疆域,对于维护国家安全以及推动经济发展都具有非常重要的战略意义。网络技术的快速发展使得网络空间安全面临着越来越多的挑战,如黑客攻击、病毒侵入、网络钓鱼等恶意行为,这些对个人、企业和国家的安全都造成了威胁。

ChatGPT使用自然语言处理、机器学习、深度学习等目前主流的人工智能算法,能够学习并理解人类语言,几乎像人类一样进行互动交流,生成的内容流畅自然且具有一定的逻辑性。自2022年11月发布以来,ChatGPT火速风靡全球,在教育、医疗、金融、计算机等领域掀起轩然大波。比尔·盖茨多次在采访中表示,类似于ChatGPT的人工智能技术出现的重要意义不亚于互联网和电脑的诞生。但也有人对ChatGPT的出现表示了担忧,埃隆·马斯克认为“ChatGPT非常好用,我们离危险的强人工智能已经不远了”。那么ChatGPT的出现,对于网络空间安全意味着什么呢?

ChatGPT的网络空间安全隐患

ChatGPT是网络空间安全的一把“双刃剑”。实践证明,ChatGPT会给网络安全带来一些风险与不利影响。由于ChatGPT可以模拟真人对话,所以它能够非常便捷地被用来进行“钓鱼”等非法活动,导致网络安全形势出现了极大的复杂性与不确定性。另外,ChatGPT可能会在自我学习过程中汲取不当的信息,带来一定的安全威胁,出现网络安全漏洞。具体而言,ChatGPT存在着以下几种网络安全隐患。

造成数据泄露。ChatGPT依托海量的数据库存在,其隐私政策中提到会将收集到的各种用户信息(包括用户的账户信息、对话的相关内容)共享给供应商、服务提供商以及相关人员,在数据共享过程中可能会被未经授权的实体攻击,从而造成数据以及隐私泄露。由于ChatGPT无法对数据来源进行核查,可能将用户发送的个人信息或者商业机密用于未来的模型训练,导致个人隐私泄露以及商业机密泄露两大风险。泄露的个人数据可能会被未经授权的第三方利用,用于制造垃圾邮件、诈骗或其他恶意行为。商业机密的泄露则会给企业带来重大损失。2023年3月,韩国三星就发生了员工在ChatGPT上输入半导体设备信息以及重要内部会议资料而导致商业机密泄露的事件。为了规避数据泄露风险,已有微软、亚马逊等企业明确禁止员工向ChatGPT分享敏感数据。

恶意用户行为。ChatGPT所提供的API接口可以让开发者基于其模型開发自己的应用,如语音识别、语音合成等,而这些应用又可以被恶意行为者攻击计算机系统提供了更多的工具和数据开发方向。ChatGPT在受到攻击后可能滥用收集到的用户信息,在网络上肆意传播用户的隐私,或利用用户的个人资料进行恶意诈骗。

遭受网络攻击。ChatGPT可能存在技术失灵导致的网络安全问题。ChatGPT往往使用软件程序来完成指令,这种程序可能存在安全漏洞,一旦被恶意行为者利用,就可以在系统中收集数据、窃取隐私,甚至在系统中实施恶意攻击,造成巨大的损失。2023年3月,OpenAI发布临时中断服务的调查报告,称由于其开源库中存在的漏洞,可能导致1.2%的用户数据被泄露。

降低黑客门槛。ChatGPT能够自主编写程序代码,这极大地降低了进行网络黑客活动的准入门槛并扩大了恶意黑客的群体规模。

本文刊登于《军事文摘》2023年6期
龙源期刊网正版版权
更多文章来自
订阅