人工智能对人类是善意还是恶意？由于人工智能根本没完成自己技术上从0到1的过程，所以确实这问题的结果仍然是开放式的。为理解这有点矛盾的状况我们先梳理下人工智能的发展状态。

过去和未来那些可能的里程碑

《超级智能：路线图、危险性与应对策略》这书里提到一件有意思的事情：20世纪50年代后期的一些专家认为：如果能造出成功的下棋机器，那么就一定能够找到人类智能的本质所在。但结果通常是：这种机器一旦被造出来之后，人们就不称其为人工智能了。随后作者列出了人工智能发展史上一些里程碑性的事情。

西洋跳棋——超越人类，1952年，阿瑟·塞缪尔写过一个跳棋程序，并在1955年吸收了机器学习技术，从而改良了该程序。这是第一个玩起游戏来比程序编写者都好的程序。1994年，跳棋程序“奇努克”（CHINOOK）打败了人类卫冕冠军，这是机器程序第一次在竞技游戏中赢得官方世界冠军。2002年乔纳森？谢弗和他的小组“解决号”跳棋程序总是计算出最好的棋步，最终打了个平局。

黑白棋——超越人类，1997年，Logistello程序跟当时的世界冠军村上健的对战结果是6战6胜。

国际象棋——超越人类，1997年，深蓝计算机打败了当时的国际象棋世界冠军加里？卡斯帕罗夫。卡斯帕罗夫承认见识到了人工智能在某些棋步上具备真正的智能以及创造力。从那时起，国际象棋程序就一直不断进步。

桥牌——高手水平，2005年，订约桥牌软件就已经能够同最好的桥牌高手对弈。

《危险边缘》益智问答——超越人类，2010年IBM的沃森超级计算机在《危险边缘》游戏中击败了了肯·詹宁斯和布莱德·拉特这两名擂主冠军。《危险边缘》是以提问有关历史、文学、运动、地理、流行音乐、流行文化、科学以及其他领域细节问题而著称的电视益智节目。《危险边缘》游戏的题目一般都需要猜字谜的方式来发现线索。

扑克——发挥不稳，电脑玩家在玩德州扑克时还没能超越人类玩家，但是在一些类似的扑克游戏中却超越了人类水平。

围棋——很高的业余水平，2012年，Zen系列围棋程序能够达到6段水平，这个程序主要运用了蒙特卡洛树搜索法和机器学习技术。围棋程序此后每年提升一段的速度向前发展。照这个速度看，围棋程序可能在未来10年内击败人类世界冠军。

这意味着从游戏的视角看，除了围棋，人工智能基本已经超越或者达到了人类的水平。这里更有意思的事情是，如果把这张表延伸到未来，领域也不局限在游戏，按照我的推断这种里程牌会是下面这个样子：

自动驾驶——彻底的自动驾驶很可能在10年左右的时间里实现。根据报道到2015年为止，Google的自动驾驶汽车已经安全行驶了百万英里。各方预测在这样的基础上，再有5～10年自动驾驶应该可以获得普遍应用，我们采用保守的数值。自动驾驶之所以必须被放到里程碑里是因为从智能的角度看人类日常的工作生活中比驾驶更复杂的事情其实不多，如果可以搞定驾驶，那理论上第一产业、第二产业甚至第三产业中的简单工作都是可以通过人工智能搞定的。第三产业中的简单工作是说类似餐饮、运输行业中的各种工作。在那个时间点上，我们就可以更清楚的看到第一产业、第二产业中几乎没人的景象，虽然即使是今天这在局部也已经逐渐成为现实。

沃森类系统在医疗行业全面展开——IBM已经在做这件事情，所以这里的关键点不在于采用不采用，而在于什么时间点沃森这样的系统可以成为医疗中必须的一个环节。