English

机器之心:从会“计算”到会“算计”

2017-04-12 05:23 来源:光明网-《光明日报》 

  【环球科技】

  作者:田於筱

  在去年3月进行的围棋人机大战中,阿尔法狗(AlphaGo)最终以4︰1战胜了韩国名将李世石九段。阿尔法狗的此次胜利让全世界感到震撼,各行业大佬也纷纷预测未来将因人工智能发生巨大的技术革命。这股热潮还未散尽,被奉为“神剧”的HBO年度大戏《西部世界》又再一次将人工智能所带来的种种可能性发挥到了极致。

机器之心:从会“计算”到会“算计”

光明图片/视觉中国

机器之心:从会“计算”到会“算计”

光明图片/视觉中国

机器之心:从会“计算”到会“算计”

图为日本科学家石黑浩在演讲。张冠楠摄

  《西部世界》是由1973年迈克尔·克里奇顿(Michael Crichton)执导的同名电影改编而来。在剧中,整个“西部世界”实际上是个全方位用高科技打造出来的人造主题公园。“新住民”(现实中的人类)在乐园中不会受到任何伤害,他们被赋予了为所欲为的权利。而遍布公园每个角落、身份各异的“老居民”都不是人类,而是一群具有高级人工智能、以假乱真的机器人。为了招揽更多游客,乐园开发者不断推陈出新,为“新住民”注入更多情感和思维,试图创造更完美的客户互动体验。渐渐地,机器人的自主思维开始发生变化,他们开始有了自己的性格,还能够表达自己的情感。

  在这个复现了19世纪美国西部风貌的人造乐园中,有不同变换的场景和不时调整故事思路的人类。虽然在电影中设定的机器人无法凭借枪支伤害人类,但是却无法回避一个终极命题。如果机器人拥有自主意识,会对人类社会造成怎样的冲击?

  《西部世界》在不断地拷问屏幕外的观众,当人工智能到了自我意识觉醒,或者只是部分觉醒的时候,我们还能将AI看作工具吗?我们能否阻止黑暗的好奇心吗?是应该任由科技发展,还是留在当下?

  1、仿真机器人让人恐怖?

  看过《西部世界》我们心中可能会萌生一个问题——如果高仿真机器人真的出现在我们的现实生活中时,我们是能适应,还是会感到深深的恐惧呢?为什么同是机器人,大家觉得《机器人总动员》里的“瓦力”、《超能陆战队》里的“大白”很可爱,《终结者》中的液态机器人却让人毛骨悚然呢?特别是,《人工智能》中“大卫”是个机器孩子,但是他不仅不令人反感,甚至让观众格外喜爱和同情。如果你听说过著名的“恐怖谷理论”,那这一切就都不难理解了。

  恐怖谷理论是一个关于人类对机器人和非人类物体的感觉的假设。它在1969年由日本机器人专家森政弘提出,但“恐怖谷”一词最早是由Ernst Jentsch在1906年的论文《恐怖谷心理学》中提出。他的观点后来被弗洛伊德在1919年的论文《恐怖谷》中引用和阐述,因而成为著名理论。

  森政弘的假设指出,由于机器人与人类在外表、动作上都相当相似,所以人类亦会对机器人产生正面的情感,直至到了一个特定程度,他们的反应便会突然变得极为反感。哪怕机器人与人类有一点点的差别,都会显得非常显眼刺目,感到整个机器人非常僵硬恐怖,让人有面对行尸走肉的感觉。可是,当机器人的外表和动作与人类的相似度继续上升的时候,人类对他们的情感反应亦会变回正面,贴近人类与人类之间的移情作用。

  “恐怖谷”一词用以形容人类对与其有某些程度上相似的机器人的排斥反应。而“谷”就是指在研究里“好感度对相似度”的关系图中,在相似度临近100%前,好感度突然坠至反感水平,然后回升至好感的那段范围。

  虽然“恐怖谷理论”在直觉上有其合理性,但要深入研究这种主观的感受是很困难的。一些机器人科学家激烈批评该理论,认为森政弘对于该图表的右端没有任何根据,因为人型机器人的技术是近几年才成熟的。但美国一些学者提出的论文似乎证实了这个假说。论文中提到,参与者被要求对80张机器脸孔给出反馈,包括它们有多像人以及参与者对它们的好感程度。回归分析结果显示,当这些机械脸孔越是像人,得到的好感度越高,不过,随着似人程度提高,曲线又开始下降,然后又提升,这样的结果符合恐怖谷理论预测。

  有数个理论解释这种不快的感受从何而来。首先,处于恐怖谷的实体已足够地像人,能被视为人类物种的一员。其次,根据进化心理学的理论,经过数百万年的物竞天择,没有被大自然淘汰的现存人类,在脑部中存在着一种逻辑偏袒性。对于那些看起来带有遗传性疾病或缺乏健康的整体外表上的人类畸形,人类正是依赖这种逻辑偏袒性所提供一种高度能力去感应并且排斥。由于那些反常的类人实体对于人类本身的基因库会形成潜在的冲击,因此人类无意地(也可以有意地,假如观察者明确地对此作出思考),会提高观察方面的警惕性。这也就解释了,为什么人类总是很难觉得那些进行性接触的类人实体十分有魅力。

  森政弘认为,完全模仿人类来制造机器人毫无意义。尽管这一理论影响巨大,却依旧没能阻挡机器人的人化趋势。随着材料的进步,过去机器人那些亮光闪闪的外壳逐渐被塑料所取代,而塑料又被更像人类皮肤的硅胶材料所替换,外观越来越像人。

  2、创造机器人是为了什么?

  同样身为日本机器人研究领域的佼佼者,被称为“日本现代机器人教父”的石黑浩对于恐怖谷理论的认知也是肯定的。他认为,恐怖谷的产生是一种移情作用,会影响人类对于机械的使用观感。但是,石黑浩并没有局限于恐怖谷理论,而是借由这个理论来达到更加精确更加高级的仿真层次。他会观察人们对它们的反应,然后针对这种对机器人的反应,来制造出更像人类的高仿真型机器人。石黑浩一直在做的,就是跨越“恐怖谷”,他在创造人形机器人的道路上不断努力。就在今年2月15日,石黑浩发布了他的新人形美女机器人——Android“U”。“她”配备了可以自主学习的人工智能系统,并且可以与人对话。这个机器人比起以往更加漂亮、可爱,颜值一点儿都不输真人。Android“U”融入了交互学习系统,能够在与人类的对话中自主学习和掌握更多的语言,并根据不同的对话场景来恰当使用。

  石黑浩认为,利用人形机器人来进行演出时,身为观察者的人们是很重要的。在观察机器人的同时,我们应该扪心自问:心是什么,脑是什么;你能不能感觉到机器人也有心、有脑?石黑浩的目标是做出无法分辨真伪的人形机器人,但他对于设计的理论思考却是独特的,是出于对“人性”的探求。即观察、研发机器人,反过来了解人类的行为。人形机器人不仅仅是技术开发上的新领域,更是探究人性本质的一种方式,探究“身为人”的定义为何。石黑浩曾说过:“其实我对机器人没有兴趣,否则,我会创造出像是机器人的机器人” 。他说:“我有兴趣的是人,是我们自己。我研发人形机器人,是为了更好的了解我们自己。”

  石黑浩举例说,在人类早期,若见到缺手断腿的人,我们或许会认为他并非人类,但现今我们给予他义肢、认定残障者也是“人”。这样的想法改变说明了,我们对于人的定义也是会改变的。这似乎也显示了,人的“身体”并非作为人的本质性被定义。机器人技术只是另外一种技术革命,我们可以利用这种革命来更加了解我们自己。在这样的情况之下,人的定义就会改变。每当我们接受一种新的技术,人的定义就会改变。他将机器人形容成一面镜子,当我们在机器人身上看见像是人的特质,我们便开始思考人心、欲望、意识与意向的真实存在。

  对于机器人到底该不该“像个人”?日本及美国的机器人学界一直有很大的争论。石黑浩认为应该打造成仿真人模样,原因在于人的理想互动界面就是人。人类的大脑可以识别其他同类,对于人类最好的互动方式就是人与人的互动。因此,就要研究人形机器人,研究人和机器之间如何互动。事实上,在许多需要密切与人类互动的领域,人型机器人不但贴合人类生活的实际需求(比如在老人、小孩间进行医疗照护),而且更能走进使用者的世界。石黑浩领导的研究计划中,已经让不同类型的机器人与老年人、小孩进行互动。他曾肯定地表示,其团队没有发现参与者对机器人感到反感,不论老人、小孩,没有人不喜欢机器人的。他尤其相信,机器人在痴呆症与自闭症患者的照护上,可以发挥很大的作用。

  在未来的“机器人社会”中,将会有各种形态的机器人,虽然不全都是人形,但机器人会像现在人人都有电脑一样普及,“我们应该给大家提供不同的选择。”石黑浩曾解释:“人可以选择与人做伴,也可以和机器人做伴。”

  除了致力于打造外表惟妙惟肖的人形机器人,石黑浩更想进一步打造机器人的“心”。他不只想复制人类的外表到机器人上,更想研发、复制出人类内在大脑的功能,例如欲望、企图心,这些都将使得其更像“人”。这样的概念是不是与“复制人”有所相似呢?石黑浩提出,他选择人形机器人而非复制的原因,一来是出于领域的相异。二来是复制人需要数十年才能达他现今的岁数,且其生命经验也不同,但机器人可以完整拷贝经验,甚至可以大量生产。

  石黑浩曾经提过,机器人在一些层面比人更像人。据其介绍,他现在就经常派他的“替身”机器人到海外参加各种商业研讨。他认为,机器人只要跟人类进行自然交互,同时人类又察觉不出来,就不存在什么可怕问题。在一次研讨会上他曾说:“我现在跟你讲话,也可能是一个机器人,你没有办法识别我,因为我可以把另一个‘自己’做得很像。”

  3、机器人会有“心”吗?

  面对石黑浩诸如此类的“替身”机器人研究,社会上存在着很大的分歧。我们就不禁要继续追问下去:我们怕的到底是怎么样的人工智能呢?如果未来的人工智能只是像今天的阿尔法围棋一样,而且还要再厉害上几百倍。比如说,100个人类世界冠军叠起来也下不过它——我们会害怕这样的人工智能吗?好像不会。但如果是《西部世界》中那样地实现了自我觉醒,拥有“自我意识”的机器人开始尝试摆脱公园制造者的控制,对人类发动血腥的反击,游客遭到杀害,想逃离的人都被锁定为追杀对象呢?那回答一定是,会怕。我们其实不是怕人工智能“聪明”,而是怕它“长了心眼儿”。我们害怕的,其实是在人工智能里最终诞生出了“心灵”。

  会“计算”不要紧,但会“算计”就可怕了。我们不是怕人工智能变聪明,而是怕人工智能变成“人”,人有好有坏,而我们不知道人工智能是好是坏。对人这样的生命体来说,只有别的生命体才是最可怕的。因为相对没有自我意识的机器,它再发达,也不足以威胁全人类。人类的复杂思想是它无法理解的,人类还是拥有竞争优势。而如果机器有了自我意识,那人就完全没有存在的价值了。就像石黑浩提出的,当机器人有了心,有了欲望,有了企图,那么他们是否还能被人类控制呢。

  《西部世界》中阐述了这样一个理论,如果机器人能够学习,并产生了自我意识,也就意味着有了“灵魂”。那么人工智能到底会不会诞生出“灵魂”?在未来,机器人会拥有跟人类一样的自我意识吗?他会跟人类里的聪明人一样,有一天忽然仰望星辰,吟诵出“茫茫不可晓,使我长叹喟”的诗篇吗?很多人似乎并不认可这一观点,他们相信人工智能,但在高科技方面更希望看到人文的因素,不仅是关于高科技,更应该是关于人以及人的价值。不管机器多么聪明,它们都是由人来创造的,也许将来有一天可能实现机器超越人的能力,但是机器永远没有直觉或者灵魂,这是人类才拥有的。

  人工智能其实已有60年的历史,它本身并不神秘,因为其无数次出现在大热的科幻作品中,并且在很多方面已得到应用。时下许多科技公司都在寻找人类与人工智能的有机结合,但在其发展过程中,关于“机器是否会取代人类”这个问题,始终持有正反两方不同的观点,并且已出现“人工智能威胁论”和强烈反对此观点的两方阵营。坚持“人工智能威胁论”的大有人在。支付公司PayPal联合创始人、亿万富翁埃隆·马斯克、微软联合创始人比尔·盖茨就曾公开声称人工智能是人类生存的最大威胁之一。著名科学家斯蒂芬·霍金同样在2016年发表过人类应该警惕人工智能的文章,呼吁人们关注人工智能的安全问题。美国一些学者也指出,人工智能(AI)的研发将对人类产生极大的影响,并声称人工智能将被用于军事领域,会比核弹的研发更值得注意。它事实上能够让人类遭到淘汰,因为它们能够取代我们的工作,而且最终把我们视作一种障碍。

  同时,也有很多人反对“人工智能威胁论”,他们是从人工智能造福人类的角度出发来进行批判的。苹果联合创始人斯蒂夫·沃兹尼亚克曾在接受采访时表示,他并不担心人工智能。在他看来,摩尔定律并不会让这些机器人智能化到像人类那样思考。即使机器人的思考能力超过人类,它们也无法拥有像人类那样的直觉,知道自己下一步该做什么以及采用什么样的方法来做它。它们是无法明白这类事情的。因此,他认为机器人永远不可能有人的直觉和灵魂。在石黑浩的机器人理论中也曾有类似的言论,他说我们害怕的从来不应该是机器人,而是我们人类自身。因为人不能保证100个人里没有一个坏人,但机器人就可以按照人类的意愿设定程序,最终机器人还是由人来主宰和掌控的,人类应该保持乐观。另一方面,人类的未来是无法选择的,为了让自己更先进更富裕,人类必须不断推动新技术往前发展,机器人的发展是无法阻挡的。

  到底未来是什么样的,人工智能将如何发展,现在的我们无法知晓,还要静待技术的发展。在机器人这些人工智能应用的各个领域都不乏审慎的声音,人们担心日益成熟的技术可能成为一把“双刃剑”。而如果机器人真的产生意识了,人类又将会何去何从呢?

  《光明日报》( 2017年04月12日 14版)

[责任编辑:孙满桃]


手机光明网

光明网版权所有

光明日报社概况 | 关于光明网 | 报网动态 | 联系我们 | 法律声明 | 光明网邮箱 | 网站地图

光明网版权所有