“这里面的利害远远超过了对索拉里斯文明的探索,因为它所牵涉的是我们自己,事关人类认知的局限性。”
当我在《索拉里斯星》里读到这句话的时候,心里一震。
2023年3月22日跟李喆通话时,他提到了这本科幻小说——波兰作家斯坦尼斯瓦夫·莱姆在上世纪六七十年代以不可思议的想象力,写出了这个人类与外星文明相遇的故事。
索拉里斯星文明是一个类似于智能海洋文明的超级存在,充满人类科学家不能解释的现象,“这片活海洋”仿佛一个巨型大脑,它比人类文明领先数百万年,但它的行为并不依照“人类的观念”,它不建造城市和桥梁,也不造飞行器或试图穿越太空,也不试图征服宇宙,而是“整天忙于进行成千上万次的‘本体自发变形’”。
像不像黑匣子里不知疲倦地自主学习不断进化的AI?
小说里莱姆写道,承认这片大海具有意识已经需要极大的勇气,跟这个会思考、拥有心理活动却非人类观念的庞然大物“对话”更是要逼疯人类。
“归根到底,一个人只能用他自己的大脑来思考。”
“再说,就算真的和会思考的海洋实现了‘信息交流’,人们究竟希望从中得到些什么呢?他们又能从中期待些什么呢?”
“谁知道呢?也许这样是值得的,……我们恐怕不会对它有任何了解,但也许能够了解一下我们自己……”
索拉里斯星上的智慧大海沉默不语,精神濒临崩溃的人类科学家喃喃自语。
我是跟李喆通完电话后,才看的这本小说,书上读到的这些句子,让我对他的思考和认知更新有了更多理解。
李世石退役的时候,李喆在《围棋天地》上发表了一篇文章,流传甚广。他在文中称,李世石的退役标志着充满智慧创造和个人风格的棋士时代的终结,称之为“一个时代的退隐”。
李喆在那篇文章里借用了文学批评中“作者已死”的观念,以此关照AI出现后被迫“从创造主体降格为模仿者”的人类顶级棋手,“作者的隐匿退出,作品的同质化与套路化,创造性的消亡,新形式的缺失……如果说这些危机在文艺领域还只是影影绰绰地呈现于敏锐专业的人群心中,那么在围棋界,这些危机在技术飞跃的这两三年里,已经实实在在地摆在所有人面前。”
跟李喆通话的时候,武汉大学正是樱花盛放的时节,在这所被誉为全国最美的花园大学里,李喆给武大学生开了一门围棋课,下棋不多讨论不少,期末考试,学生并不需要在棋盘上鏖战收官,而是要交一篇小文章。
李喆总是会联系最新的新闻,让同学们展开讨论。思辨是人类最强大的认知更新工具,而ChatGPT永远“自信满满”,研究人员迄今还未攻克的一个难题是训练它,让它知道自己“不知道”,遇到未知领域的问题,可以直接回复“我不知道”,而不是一本正经地说瞎话。
3月份有一个重大新闻,美国棋手凯琳·佩林并非职业棋手,甚至在业余棋手中也算不上高手,然而他与顶级围棋AIKataGo对阵竟然14胜1负,这个战绩令世界顶级棋手都不敢想象。
“他取胜的方式并不是人类常规的行棋思路,而是一个科技公司开发出来的,由另一个AI算出的针对AI盲点的下法。”
研究人员表示,KataGo之所以失手,可能是因为在它的对抗性演练中,并没有经历过足够多的此类下法——或者说,这种制造“包围圈”的下法往往在刚开始时就因为浪费棋子太多,而被认为注定落败,所以围棋AI也没有意识到如果让“包围圈”合围,自己就会落败。




