【人才访谈】
光明日报记者 罗旭
现实生活中，人工智能与我们的生活越来越密切，甚至不可或缺。人们忍不住开始思考一些“可怕”的问题：人工智能发展到一定程度后，会反过来掌控人类吗？人类和人工智能除了各种大战之外，是否能够实现和谐共存？人类和机器人之间是否会有爱情出现？
为此，记者对在美国工作生活近30年的人工智能科学家王雪梅进行了采访。
问：科幻大片中，经常有失控的机器人把人类逼到绝路的场面。这种情况会真实地发生吗？
答：我还是从人工智能的历史发展谈起吧。20世纪50年代，人工智能的概念就已由美国学者正式提出，主要目标是让机器胜任需要人类智力才能完成的复杂工作，让计算机像人一样去看、去听、去思考。在长达半个世纪的时间里，这一学科一直不温不火。直到近几年，深度学习技术取得突破，才把人工智能推到风口浪尖。
深度学习是一种神经网络，但与之前的相比，它的特点是使用了多层网络，能够学习抽象概念，同时融入自我学习，而且收敛相对快速。让人们感到担心的是，人工智能所展现的学习速度是惊人的，而且能在学习中不断提升自己学习的能力。
但我们要知道，人工智能的深度学习能力是以大数据为基础的。如果我们把人工智能看成一个嗷嗷待哺、拥有无限潜力的婴儿，海量、专业的深度数据就是喂养这个天才的“奶粉”。“奶粉”的数量决定了婴儿是否能长大，而“奶粉”的质量则决定了婴儿后续的智力发育水平。
可能很多人会觉得人工智能很危险，甚至比核武器还危险，我认为这个完全是由于不了解人工智能而造成的。例如，飞机被大部分人认为是好的，但飞机也可能把纽约世贸大楼撞塌。但是你不应该去怪飞机，你应该怪的是那个开飞机去撞大楼的人。
让计算机像人一样思考，是科学家的梦想。光明图片/视觉中国
人工智能再强大，也是一种基于大数据的算法，也是人类的一种工具，是要在人类掌控之下运行的。
问：阿尔法狗战胜柯洁，难道也不能证明人工智能的“智商”已经超越人类了吗？
答：要知道，阿尔法狗的背后，也就是深度学习。人类之所以会害怕人工智能，是因为我们在用人类的思维去理解它，去解释所有人工智能的现象。但我们依然还有很多不懂的地方，比如人工智能的智能产生方式。最初，人类一直试图通过模仿人类的思考方式让机器获得智能，却无一例外以失败而告终。直至20世纪70年代，工业界转变观念，认为机器未必需要像人类一样思考才能智能。于是转而尝试新的方法，即通过数据驱动加超级计算来让机器获得智能，终于获得突破。这也是今天阿尔法狗获取智能的方法，即通过深度学习、借助海量数据进行训练学习。
这是一种全新的思维方式，与人类完全不相同。所以也就导致当阿尔法狗获胜时，它自己其实并不知道要停止，如果对手再落一子，它还是会继续跟着下。
问：这么说，人工智能就不会对人类造成伤害了？
答：计算机都是在执行来自于人的算法，对人类提问的问题给出答案。但是时至今天，没有一个人可以写出一个能自动想出新算法解决新问题的程序。
比如无人驾驶汽车，大家都在研究当它看到人时要怎么避开？周围都是人的话怎么办？但大家可能都没想过，其实和做一个不撞人的无人驾驶汽车相比，我们如果要做一个见人就撞的无人驾驶汽车，应该说至少难度是一样的。但为什么没人做？这是因为科学家的良知在起作用。如果真有一个狂人做出专门来撞人的汽车，那冤有头债有主，这个狂人必将受到制裁。说到底，计算机还是在执行人的算法，它做出的判断，都源于人类的判断。
当然，计算机程序会有漏洞（bug），可能对人造成伤害。但“bug”基本上是无心的，有意的那就叫黑客攻击了。要“bug”到专门找人撞，概率是极低的，也不可能允许出厂。万一发生这样的情况，肯定是因为有人故意这样去编码。还要看到，计算机不是生物，为了保护自己，生物可能会做出伤人的事情，但计算机没有这个意识，它绝对不会说因为有人来关掉我的电源了，所以我要跟你对抗——除非是有人将算法故意编成这样。所以，不讨论科学家的道德操守，只说人工智能会伤害人类，那完全是指鹿为马。
问：影视作品里，还经常会出现具有人类感情的“机器人女友”。人类和机器人会不会真的谈恋爱？
答：机器人再智能，也是没有意识的。意识，是人之所以为人的理由。生物学研究发现，人有自我意识，能知道镜子中的人是我自己，看到喜欢的人会产生愉悦。你当然可以尝试把这种“意识”编程输入计算机，但这其实也是我们在控制它。
问题在于，我们需要机器人有自我意识吗？至少目前做不到也不需要去做。目前，微软亚洲互联网工程院发布的伴侣虚拟机器人“微软小冰”，已经开始在情感方面做努力，比如在某个状态故意不回答你的问题。但即使是“微软小冰”故意不回答，这也是科学家输入的算法在起作用，而不是它的自主意识决定的。
作为科学家，我当然也想知道机器人有了自我意识会怎样。但是我相信，大部分人还是希望机器人是有用并且可控的人类助手。比如，我让机器人打扫房间，当然希望它乖乖执行，而不是对我说“你干吗不自己打扫”，或者转身离家出走了。
归根结底，再拟人、再可爱、再聪明的人工智能，其本质上也是“0”和“1”两个数字的不同排列组合。你会和“0”和“1”谈恋爱吗？
人物小传
王雪梅，毕业于清华大学应用数学系，后留学美国卡耐基·梅隆大学，跟随图灵奖、诺贝尔经济学奖获得者赫伯特·西蒙学习人工智能，获得博士学位。曾先后就职于美国国家航空航天局（NASA）、斯坦福研究院（SRI）等研究机构和苹果、Adobe等知名公司，担任过多家硅谷创业公司的首席科学家。
《光明日报》（ 2017年09月14日 15版）
