一九八七年的一天,音乐学家考普(David Cope)像往常一样启动自己编写的算法作曲程序Emmy(“音乐智能实验”的英文缩写),然后离开办公室去吃午饭。等他回到电脑前,Emmy 已经创作了五千首具有巴赫风格的乐曲。当这些乐曲在伊利诺伊大学演奏时,听众难以相信这是机器的作品。
为了验证算法作曲能否真正达到人类大师的水准,一九九七年,Emmy 与人类展开了较量。竞赛的规则是让几百名听众听三首钢琴曲,一首由Emmy 作曲,一首由音乐理论家拉尔森(Steve Larson)模仿巴赫风格作曲,还有一首是巴赫本人的作品。观众听前不知作者是谁,听后投票猜测作品的作者。结果是,拉尔森的曲目被认为是机器所作,Emmy 的曲目被认为是巴赫本人的作品。骗过听众的Emmy 引来同行侧目,反对者有时会阻止Emmy 的音乐在演奏会上演出。甚至有一次,考普在参加学术会议时,一个同行冲过来一拳狠狠打在他鼻梁上。
在生成式人工智能在各个领域“以假乱真”的今天,人们已不再为机器的“僭越”感到大惊小怪。从社会学的角度看,这很大程度上是因为随着媒体的宣传和人工智能产品走入寻常百姓家,人们不再把AI 感知为陌异之物,而是把它视为身边的一员。这个过程,可称之为对技术的驯化或熟悉化过程。
二十世纪九十年代的人工生命产品(artificial life,如以毛绒玩具为外观、能与人简单交谈和互动的电子宠物)就是一种驯化了的“家庭成员”雪莉·特克(Sherry Turkle)研究发现,儿童会像对待真宠物一样与之产生深切的情感联系。一名儿童认为没有电的电子宠物死了,需要安息;一名十六岁的青少年悼念他的名叫“南瓜”的电子宠物:“大家都说你很胖,所以我给你减肥。结果减肥把你害死了,很抱歉。”不仅电子宠物的死会触动孩子,机器故障也会牵动孩子的神经:如果机器因故障没有与走过来的孩子打招呼互动,这个孩子会感觉受到了伤害。
我们可能认为孩子比较幼稚,更容易被机器的“欺骗性”所左右。实际上,成年人虽然在理智上比儿童成熟,能够更清楚地区分什么是活物什么是死物,但一旦进入到具体的互动情境,也很容易动情,即使知道自己是在同机器打交道。雪莉·特克的研究显示,即使是十分怀疑能同机器建立亲密关系的大学教授,也会在多次互动后接纳人工生命,甚至与其进行私密的对话。拜伦·里弗斯(Byron Reeves)和克里福德·纳斯(CliffordNass)的研究进一步揭示出,人类之所以很容易受到机器的“欺骗”,并不全然由于机器本身“栩栩如生”“骗术高明”,人类在社交时的心理作用可能更为重要:“计算机在交流、吩咐和互动的方式上与人类非常接近,可以激发社交反应。引起反应所必需的激发量并不需要太多。只要有一些行为表现出社交的在场,人们就会做出相应的反应。……任何足够近似人类的媒介都会得到像人的对待,即使人们知道这是愚蠢的且之后可能会否认曾把它当人看。”简言之,人类在与机器互动的过程中并不十分关注机器是否有内在的“心理”,而只关注互动过程是否顺利。

