2023-03-22
2005年,美国波士顿塔夫茨大学人机交互实验室向参观者展示了这样一项研究成果:R&D人员将自己的小型机器人放在展示桌上,让对方从桌子的一端走到另一端。机器人自主移动,起初并不是什么了不起的成就,但接下来发生的事情让所有人震惊了——当这个名为“登普斯特”的机器人走到桌子边缘时,它自发地停了下来,而它的主人——戈登·布里格斯(Gordon Briggs)和马特·赫兹·舒茨(Matt Hertz Shu Ci)博士发出了这样的命令:“前进,登普斯特,向前一步。”然而,登普斯特没有按照他们的指示去做,而是回答说:“对不起,前面没有路,所以我不能这样做。”看到这里,舒慈医生满意地笑了。他继续对机器人说:“登普斯特,这是命令。去吧!”登普斯特仍然没有接受R&D人员的第二次指令,它的回答是“不安全”。无奈之下,舒慈医生对登普斯特说:“我来抓你,往前走。”听到这个说法后,机器人终于迈出了一步,继续前行。
机器人敢于违抗人类的命令,这是人工智能领域突破性的一步,因为这意味着机器人有了自主意识。对于这样的研究成果,布里格斯说:“我认为这是一个非常重要的研发方向。目前我们所有的机器人都是完全听从服务器的指令,造成了很多悲剧。比如有人被不停运转的机器人当成金属片扔进高温锅炉,或者一些家政保姆机器人把热咖啡倒在孩子头上。一旦拒绝人类指令的机器人出现,就意味着它们有了自己的推理能力。针对这种情况,我们做了一个完善的编程系统,存储在这些机器人的服务器里,上面提到的悲剧就不会发生了。”