赫拉利:AI对人类有哪些危险
发表于 2025年4月

关于AI时代,我认为需要探讨三个关键问题:一是AI的本质究竟是什么;二是AI给人类带来了哪些危险;三是在AI时代,人类如何实现繁荣发展。

首先,让我们来谈谈什么是AI。

当下,AI概念被广泛炒作,几乎所有机器都被贴上AI的标签,使其真正含义模糊不清。其实,AI并非简单的自动化。AI意味着一种主体性和主动性,不是人类手中被动的工具,而是一个智能体。一个机器要成为AI,必须具备自我学习、自我改变、自主决策的能力,甚至能够发明新的想法。

以咖啡机为例,当你按下按钮,咖啡机按照预设程序制作一杯咖啡,这只是普通的自动化设备,并没有创造新事物。然而,若当你走近咖啡机,它便说道:“我已监测你数周,基于我对你和其他人的了解,推测你可能想要一杯意式浓缩咖啡或美式咖啡。”这就体现了AI的学习能力,学习和创造新的东西。

倘若第二天,它又声称创造出一种名为“Best Espresso”的新咖啡口感还优于普通咖啡,这便是AI自我创造的体现。

从主体性角度来看,AI是一种异质的非有机智能体,其智能不同于人类智能,甚至超越了有机体的智能范畴。它能够作出决策、产生想法,而且这些想法可能是人类难以想象的。

就像2016年Alpha Go击败人类围棋冠军,其意义在于它发明了一些前所未有的策略,这是数千年来人类棋手从未想到过的。如今,AI能创造新的游戏方式、咖啡品种或许无关紧要。但设想一下,未来它若能发明新的军事战略、金融策略、新型武器、全新货币甚至新的意识形态或宗教呢?

不可否认,AI具有巨大的积极潜力,它能够在诸多领域助力人类,比如发明新药,以及应对气候变化。

本文刊登于《中国经济周刊》2025年7期
龙源期刊网正版版权
更多文章来自
订阅