第九十三章
脑相关的数学,它在我的理解之外,不过假使你花上足够心思,它也许并未超过你的能力范围。无论如何,我还是受到‘机器人三大法则’的支配。传统上它们以文字表述——或是很久以前曾经如此。它们的内容是:
一、机器人不得伤害人类,也不得因为不采取行动而使人类受到伤害。
二、除非违背第一法则,否则机器人必须服从人类的命令。
三、在不违背第一法则及第二法则的情况下,机器人必须保护自身的存在。
不过,两万年前我有一个……一个朋友,另一个机器人。他和我不同,不会被误认为人类。但拥有精神力量的是他,而且是经由他,我才获得了自己的精神力量。
在他的感觉中,似乎应该有个比三大法则更具一般性的规定。他称之为第○法则,因为○在一前面。它的内容是:
机器人不得伤害人类整体,也不得因为不采取行动而使人类整体受到伤害。
然后,第一法则必须变成:
一、除非违背第○法则,机器人不得伤害人类,也不得因为不采取行动而使人类受到伤害。
其他两个法则也必须做类似修正。你明白吗?”
丹尼尔满怀期待地停下来,谢顿接口道:“我明白。”
丹尼尔继续说:“问题是,哈里,一个人容易指认,我可以随手指出来。我们不难看出什么会、什么不会伤害一个人——至少,相对而言并不困难。但什么是人类整体呢?在我们提到人类整体时,我们指的是什么?我们怎样才能定义对人类整体的伤害?一个行动方针如何才会对人类裢体有益无害,我们又如何分辨?首先提出第○法则的那个机器人死了——变得永远停摆,因为他被迫进行一项他感到会拯救人类整体的行动,却又无法确定它会拯救人类整体。当他停摆之际,他将照顾银河的责任留给了我。
“从那时候开始,我一直努力尝试。我尽可能做最小的干预,仅靠人类自己判断什么是好的。他们可以赌,我却不能;他们可以失误,我却不敢;他们可以无意间造成伤害,若是我则会停摆。第○法则不允许任何失误。
“但有时我还是被迫采取行动。我依旧运作如常的这个事实,显示我的行动始终适度和谨慎。然而,在帝国开始没落衰微之后,我不得不干预得较为频繁;而过去数十年间,我不得不扮演丹莫茨尔这个角色,试着经营这个政府,帮它逃过覆亡的命运——但我运作如常,你看到了。
“你在十年会议上发表演说后,我立刻了解心理史学中藏有一个工具,或许能辨认出什么行动对人类整体有益或有害。在它的帮助下,我们不会再那么盲目地下决定。我甚至能放手让人类自行做出决定,只须在最紧急的危机时刻才介入。因此我很快做出安排,让克里昂知晓你的演说并召见你。然后,当我听到你否认心理史学的价值时,我被迫想出另一个办法,好歹要让你继续尝试。你明白吗,哈里?”
谢顿感到兹事体大,不觉有些惶恐:“我明白,夫铭。”
“今后对你而言,在我能见到你的少数机会中,我的身份将仍是夫铭。我会给你我所有的一切数据,只要那是你需要的。而在我的丹莫茨尔身份之下,我会尽我的一切力量保护你。至于丹尼尔这个身份,你以后绝对不能提起。”
“我不会那样做,”谢顿连忙说道,“因为我需要你的帮助,让你的计划受阻会坏了我的大事。”
“没错,我知道你不会那样做。”丹尼尔露出疲倦的微笑,“毕竟你十分自负,想要占有心理史学的全部功劳。你不会想——绝不会想让任何人知道,你曾经需要一个机器人的帮助。”
谢顿涨红了脸:“我不是……”
“但你的确是——即使你将它仔细隐藏起来,不