第八章 证据
为进行研究。如果这是一种正电子脑机器人,它就应当服从于机器人学的三定律。正电子脑在装配时不能不输入这三条定律。您知道这些定律吗,奎因先生?”
她认真的、逐字逐句、清清楚楚地把用大号黑体字印在《机器人学手册》首页上的三条著名定律背了一遍。
“这些我都听说过,”奎因温不经心他说。
“这就更好办了,”机器人心理学干巴巴地说“如果拜厄利先生的行为违背其中任何一条定律,那他就不是机器人。问题只有在它违背定律的情况下,才能得到一个明确的答案。如果它是按照各项定律行事的,那么无论是这种或那种方法,都证明不了任何问题。”
奎因彬彬有礼地扬起眉头:“那为什么呢,博士?”
“就因为,机器人学三定律,同时也是世界上大多数道德规范的最基本的指导原则。每个都有自我保护的本能。对机器人来说,这就是它的第三定律。每一个具有社会良心和责任感的‘正派’人,他都要服从于某种权威。他听从自己的医生。自己的主人。自己的政府、自己的精神病医师、自己的同胞的意见;他奉公守法、依习随俗、遵守礼节,甚至当这一切影响到他个人的安逸或安全时,他也烙守不渝。对于机器人来说,这就是它的第二定律。还有,每一个‘高尚的,人,都应像爱自己一样去爱别人,保护自己的同志,为救他人而不惜自己的生命。这对机器人来说,就是它的第一定律。简而言之,如果拜厄利履行这几条定律,那么,他既可能是个机器人,又可能是这样一个高尚的人。”
“您的意思是,”奎因说,“您永远也无法证实它是机器人了?”
“我也许能够证实他不是机器人。”
“这不是我所需要的。”
“您将得到的只能是客观存在的这种证据。您是唯一的对您自己的需要负责的人。”
就在这时,兰宁的脑子里突然闪现出一个意外的想法,他好不容易才把它表达出来。
“等一下!你们有没有想到这样一个问题:区检查官这个职务,对一个机器人来说是相当奇怪的职务。它对人进行起诉、判除人的死刑,这对人是很大的危害……”
“不,想用这种方式摆脱开这件事是办不到的。”奎因突然变得很敏感,他说,“他作为区检查官这一事实本身,还不说明他就是一个人,您难道不了解他的历史吗,他夸耀自己从来也没有对无罪的人提出过起诉,相反,有几十个人倒因为他感到证据不足才免予审讯的,尽管他也满可以说服法官判他们以死刑。情况恰好就是如此。”
兰宁瘦削的两颊抽搐了一下。
“不,奎因,不对!在机器人学的各项定律中并没有涉及人们犯罪的问题,机器人不能去判定一个该不该处死。这不是由它来决定的事。它不能损害任何一个人,无论这个人是个恶魔,还是个天使。”
“艾尔弗雷德,”从苏珊·卡尔文的话音中听得出她已经非常疲劳,“别再说蠢话了。如果一个机器人遇到一个疯子要放火烧毁一个住着人的房屋,它该制止呢,还是不制止?”
“当然要制止。”
“而如果非杀死他而不能制止呢?”
兰宁含含糊糊支吾了一声,不讲话了。
“艾尔弗雷德,在这种情况下它会尽一切努力避免杀死他。如果这个疯子终于还是死在它手了,那就需要对机器人采取心理治疗措血否则,它为了更好地遵守第一定律,结果却破坏了第二定律,在这样的矛盾面前,它自己也会发疯的。但人毕竟还是会被杀死的,而m民可能就是由机器人杀死的。”
“这么说,拜厄利是个疯子吗?”兰宁以极其尖刻的语气追问道。
“不,他本人并没有杀死任何人。但他揭露了一些