机器人公民来了,我们该警惕人工智能吗?

2017-11-09 10:40 来源:光明网 
2017-11-09 10:40:53来源:光明网作者:责任编辑:李政葳

  光明网记者 吴晋娜

  近日,沙特阿拉伯授予美国汉森机器人公司生产的“女性”机器人索菲娅公民身份。作为史上首个获得公民身份的机器人,索菲亚创造了历史。

机器人公民来了,我们该警惕人工智能吗?

  “女性”机器人索菲娅

  就像人们看到阿尔法狗的高超棋艺一样,惊叹之余,人工智能的崛起对人类生存是否会造成威胁,甚至毁灭人类?始终是一个能够引发人们无限遐想和脑洞大开的问题。

  机器人公民的权利应该被理性限制

  外媒 thenextweb点评此事件时,认为授予机器人公民身份根本不合理。因为机器人不是人类,即便相信奇点,但起码现在还没有到。对于任何一个国家来说,都不能因为AI是一个时髦词汇就将为机器人授予公民身份来当做吸引投资者的营销方式。

  然而,也有评论认为,这一决定将被载入史册。也许这的确是沙特政府用来吸引投资的噱头,但不得不承认,这将会是机器人历史的里程碑,机器人第一次有了身份,她成了和你我一样的公民。

  作为一个有真实的国籍、合法身份的公民,无论是在伦理上还是在法律上,都拥有人的权利。然而,有了公民身份,索菲亚就拥有了一个地球公民的合法权利和责任吗?

  “索菲娅是一个被给予的主体,所以她的权利也相应的是被给予的。”从事技术哲学、科学与文化研究的上海大学社科学院教授杨庆峰认为,索菲亚是特殊的公民,这也意味着在享受人类权利上,需要部分限制;在承担公民的责任上,她甚至要承担更多的责任。

  杨庆峰认为,对人类自身而言,需要思考索菲娅所拥有权利和责任的限度,并加以理性限制。索菲娅的学习发展和完善的速度会很快,也许瞬间完成学习。她可能会拥有超级记忆力、智能计算力的能力。这种能力如果被误用和滥用,就会很危险。

  复旦大学软件学院教授戴开宇认为,索菲亚被赋予公民身份,是人工智能领域的一个标志性事件。

  “索菲娅的公民权利和义务有哪些?比如如何对其违法犯罪行为进行评判,这些都是不明朗的。我并没有看到沙特政府给出明确的界定。这涉及人工智能与法律、伦理的问题,而不只是技术的问题。”戴开宇认为,机器人和我们人类还有太多的不同,至少目前也还不是生物体,那么肯定不能从权利和义务,以及法律的各个方面等同,还涉及不同国家文化传统、信仰等等方面的问题。

  上海大学社会科学学院教授、博士生导师周丽昀认为,当前,人类还来得及思考,是否有些领域和禁区,是机器人所不能进入的,因为我们尚未看到与权利相对等的对机器人约束的“义务”。进一步地要明确,机器人“犯错”或者并未如其所说来帮助人类,反而对人形成威胁,谁来为这些后果负责。

  人工智能技术的发展会带来无限可能

  在见面会上,机器人索菲娅在演讲台上的表现非常出色,甚至熟练地避开了主持人向她提出的“机器人自我意识”的问题,她甚至有幽默感。当时索菲亚回应称:“让我反问下你这个问题,你怎么知道自己是人?”

  机器人真的可能会具有类人的意识吗?戴开宇认为,目前,人工智能还远没有达到本质上的对人的意识的模拟。哪怕是人对自身的意识的机制都所知甚少,也就不可能制造出具有本质上类人意识的机器人。

  “实际上,索菲娅的许多对话还只是一种表面的智能。许多对话还是人所设定,甚至问题灵活改变下,就无法像人一样作答,而是采取转移话题等方式来尽量自然的对话。” 戴开宇说。

  戴开宇解释,虽然现在的很多智能软件可以作曲;还试图模拟人的艺术审美能力;也有对创造力的模拟,比如机器自动编程;还有对情感的模拟,比如情感计算。但是这些都是人所赋予的一些算法,只是将以上人的能力使用机器进行了表示和计算,人工智能还远未具备本质上等同于人类相应行为的特征。

  很多人担心,具备了人类意识的机器人会对人类产生威胁,这种威胁甚至是毁灭性的,就连霍金、比尔盖茨等很多名人也发表过对AI可能对人类产生威胁的警告。

[责任编辑:李政葳]


手机光明网

光明网版权所有

光明日报社概况 | 关于光明网 | 报网动态 | 联系我们 | 法律声明 | 光明员工 | 光明网邮箱 | 网站地图

光明网版权所有

立即打开