當我第一次遇見蘇珊·卡爾文時,她恰好在自己的辦公室門口,正從她的辦公室往外搬檔案資料。
「年輕人,您的文章進展得怎麼樣?」她說。
「很好,」我回答道。我已經儘自己的能力將這些文章寫出來了。根據她所敘述的故事結構加了上對話,略加充實和潤色,使情節更加富有戲劇性了一些。「您能讀一遍嗎?看看內容上有無誹謗之嫌,或不準確和謬誤之處。」
「我想,我得看一看。我們到總經理休息室去吧,那裡能喝點咖啡。」
看來她的情緒很好,所以當我們在樓道里走的時候,我就不失時機他說:「卡爾文博士,我不知道……」
「說吧。」
「不知您能否再跟我講一些機器人的故事?」
「年輕人,您的希望會得到滿足的。」
「在某種程度上講,我所描寫的事情和現代的關係不大。我的意思是,過去僅僅搞出過一個能猜透人的心思的機器人;宇宙站早已過時,廢棄不用了;用機器人進行採掘也被看作是理所當然的事情。至於星際旅行呢?自從超原子發動機發明以來,已有二十年的歷史。而且人們都知道這是機器人發明的。實際是怎麼回事情?」
「星際旅行?」她沉思起來。
我們已經來到休息室。我叫了一客飯,她只叫了一杯咖啡。
「這不是一項機器人的簡單的發明。您知道,問題不止於此。當然,在我們製造出的智囊之前,我們的進展並不太大。但是,我們作了努力,真花了一番功夫。我第一次直接接觸到星際探索是在西元2029年。當時,一個機器人失蹤了……」
超級基地內一片慌亂,如同歇底斯里發作一般。人們倉促地採取了措施。
現在,按時間順序和事情發展到的絕望程度列述如下:
一、在第二十七號小行星群定宙站內的所有地點,研製超原子驅動的工作停頓了。
二、實際上已把整個這一部分空間和太陽系隔絕開來。不經允許,任何人不得進入;任何人也不得在任何條件下離開。
三、蘇珊。卡爾文博士和皮特·勃格特博士乘坐政府的特別巡邏飛船來到超級基地。他們的身份是美國機器人與機械人公司(簡稱機器人公司)的首席心理學家和數學部主任。
蘇珊·卡爾文從來還沒有離開地球的表面,而且這次她也沒有多大的願望要離開地球。在這個使用原子動力並很明顯將要進入使用超原子驅動的時代,她仍然是相當保守的。所以,她對這次出差頗不滿意,也不相信情況是如此嚴重。在超級基地用第一頓午餐時,她那中年人的並不秀麗的臉部,每一個線條都非常清楚表露出這種情緒來。
勃格特博士,裝束優雅,蒼白的臉上略帶幾分怯懦的神色。這個專案的負責人柯爾納少將的臉上,也總是帶著極為沮喪的神情。
一句話,這是一段令人難堪的插曲。以致午餐和隨後開始的三人會議都籠罩著一片陰沉、不愉快的氣氛。
柯爾納那發亮的禿頂以及他的軍服和整個氣氛非常不諧調。他強調作出直率的姿態說:「這說起來是一個奇怪的事,先生和女士1……對於你們獲得通知以後,還不瞭解緣由,就立即動身趕來,我表示感謝。現在我們要盡力糾正這一點。我們丟失了一個機器人,工作已經停頓下來,而且要停頓到一直把它找到為止。到目前為止,我們沒能找到它,因而我們需要專家的幫助。」
也許,這位將軍感到沒有把自己的困境強調出來。他接著用絕望的語氣說:「無需我來告訴你們,我們這裡的工作的重要性。去年科研拔款的百分之九十以上是用於我們……」
「那還用說嗎,我們知道。」勃格特表示同意他說,「因你們使用我們的機器人,機器人公司獲得優厚的租金。」
蘇珊·卡爾文略帶生硬和不快的口吻問:「是什麼原因使一個機器人對於這項工程來說變成如此重要,而且為什麼找不到它呢?」
將軍把通紅的臉轉向她,很快地舔了舔嘴唇說:「不,換一種說法,我們已經找到了它。」然後他又非常懊喪他說,「這裡,我想要解釋一下。當這個機器人一中斷作報告,我們就立即宣佈了戒嚴,超級基地上的一個切活動都停止了。在此前一天,一艘貨運飛船在這裡著陸,交給我們兩個機器人到實驗室工作。船上六十二個完全……晤……相同型別的機器人,是要運到其它什麼地方去的。我們確實知道這個數目,這點是毫無疑問的。」
「是嗎?那麼這有什麼聯絡呢?」
「當哪兒也找不到我的機器人時——我敢保證,如果需要在草坪裡找到一片丟失的草葉子的話,我們早就找到了——我們突然想到要數一數留在船上的機器人。結果那裡卻只有六十三個。」
「所以,這第六十三個,我認為,就是那個失蹤的機器人。」卡爾文博士的眼光陰沉下來。
「是的,但我們沒有辦法把第六十三個區分出來。」
出現了死一般的沉默,聽見電鐘敲了十一下。然後心理學家說:「真是怪事。」她的嘴角往下一撇,「皮特,」她轉向自己的同事,態度生硬地問:這裡出了什麼事?他們在超級基地用的是什麼型別的機器人?」
勃格特博士猶豫起來,然後勉強一笑說:「蘇珊,至今這一直是個棘手的問題。」
「是啊,至今,如果這裡有六十三個同型別的機器人,其中的一個是他們想要我的,但又確定不出來哪一個是,難道隨便挑一個就不行嗎?這是打的什麼主意啊!於嘛要把我們派來?」她說得很快。
勃格特做出順從的樣子說:「蘇珊,您聽我對您講。超級基地正在使用幾個這樣的機器人,它們的腦子沒有輸入機器人學第一定律的全部。」
「沒有輸入?」蘇珊往椅背上一靠,「我明白了。製造了多少?」
「不多,這是根據政府的訂貨。而且不允許洩漏秘密。除了有關的高階人士之外誰也不知道。您沒有包括在內,蘇珊。我與這毫不相干。」
將軍帶著一種權威的口氣插進來說:「我想把這樁小事解釋一下。無須我告訴您,卡爾文博士,在地球上總是有人強烈地反對機器人。在這個問題上,政府唯一可以利用來對付原教旨主義的激進派的,就是製造出來的機器人總是嚴格地遵守第一定律這一事實,因為這一定律使機器人無論在任何情況下都不能傷害人類。」
「但是,我們必須要有另一種機器人。也就是一些ns-2型機器人,即《內斯特》1。在製造它們時,對第一定律作了些修改。為了保密,所有的「內斯特二型」都沒有出廠編號。而這些己按修改了的第一定律生產出來的機器人,就和一批正常的機器人一起交付到這裡,當然,對這些機器人已輸入嚴格的指令:永遠不得對沒有被授權的人講到它們被修改的一事。」他頗感為難地一笑,「現在這一切卻變得對我們不利了。」
蘇珊冷冷地問:「不管怎樣,您是否問了六十三個機器人中的每一個,誰是誰?無疑,您是被授權的嘍。」
將軍點點頭說:「六十三個機器人都否認在這裡工作過,當然,其中有一個在撒謊。」
「你們想找的那個機器人有磨損的痕跡嗎?據我所理解,其它都是嶄新的。」
「這個出了麻煩的機器人上個月才送到。它和剛送到的兩個,是我們所需要的最後一批。上面沒有任何明顯的磨損痕跡。」他慢慢地搖搖頭,眼睛裡又顯出非常沮喪的神情。「卡爾文博士,我們不敢放這艘飛船離開。如果存在不符合第一定律的機器人的訊息一旦傳開來……」看來他只好說到半截把話結束了。
「把六十三個全都毀掉,」心理學家乾巴巴、冷冰冰地說,「就這樣把事情了結掉。」
勃格特撇了撇一邊嘴角:「您的意思是要把每個價值三萬元的機器人毀掉。我恐怕機器人公司未必會同意。蘇珊,在我們毀掉任何東西之前,我們最好先作一番努力。」
「那麼,」她毫不客氣他說,「我需要事實。超級基地從這些修改過的機器人那裡得到了什麼好處?有什麼必要把它們做成這樣,將軍?」
柯爾納皺起腦門兒,抬起手擦擦前額:「我們在使用先前那種機器人時碰到了困難。您知道,我們的人經常在有強烈輻射的情況下工作。當然,這是危險的。可是已採取了適當的措施。自從我們開始工作以來,這裡只發生過兩起事故,而且都不是致命的事故。但是,不可能把這些向一個普通的機器人講明白。第一定律講——我引用原話——‘機器人不得傷害人,也不得見人受到傷害而袖手旁觀。’」
「這是首要的,卡爾文博士,每當我們的人之中有誰必須短時間暴露在中等程度的伽馬射線下時,雖然這種程度的輻射不會引起生理反應,但離他最近的機器人就會衝上去,把他拽開。如果伽馬射線場非常微弱的話,機器人就要把這個人拽開,而工作也就不可能進行了。除非把所有的機器人都趕到別的地方去,才可能繼續工作。需要伽馬射線稍微強一點,機器人就根本沒法捱上這個人,因為它的正電子腦在伽馬射線下也會毀掉。這樣,我們就可能失去一個造價昂貴、而又非常需要的機器人。」
「我們曾試著說服機器人。但它們的論點是:一個人暴露在伽馬射線下,會危及他的生命,儘管他可以安全地在這種情況下呆上半小時而不受傷害。它們還講:假如這個人忘記了時間,因而呆了一個小時呢?它們不能讓人冒險這樣做。我們指出,機器人這樣做是冒自己的性命危險而希望又微乎其微。但是,保護自己只是機器人學的第三定律——而第一定律和人的安全總是擺在第一位。我們向它們下過命令,我們嚴厲地命令它們:不管發生多大代價的事情,只能停留在伽馬射線之外。但是遵從命令只是機器人學的第二定律,第一定律和人的安全仍然擺在第一位。卡爾文博士,我們只有或者不要機器人,或者想點辦法改變一下第一定律。我們做出了自己的選擇。」
「我不能相信,」卡爾文博士說,「為此就可以把第一定律摒棄掉。」
「不是摒棄掉,是修改一下,」柯爾納解釋說,「已製造的這些正電子腦,只輸入了第一定律的前一部分,即:機器人不得傷害人。就這些修改。因而,它不必強迫自己去防止人受到外界因素的傷害,比如說伽馬射線的傷害。勃格特博士,我是否正確地闡述了這個問題?」
「相當正確。」數學家贊同他說。
「而這就是你們的機器人和一般的ns-2型機器人的唯一差別嗎?就這一點差別嗎,皮特?」
「就這一點差別,蘇珊。」她站起身來,用結束談話的口氣說:「現在我要睡覺。過八個小時,我想和最後看見那個機器人的人談一談。並且,柯爾納將軍,如果多少由我來負責這件事情的話,從現在起,我要求有公認的權力全盤掌握這次調查。」
除了有兩個小時帶著滿腹怨恨惱怒迷糊了一會兒之外,蘇珊根本沒有睡著。在當地時間七點整,她敲了勃格特的房門,發現他也沒有睡。
看來,勃格特不嫌麻煩,隨身把晨服也帶到超級基地來了,他正穿著晨服坐在那裡。蘇珊走進來時,他放下了指甲刀。他用溫柔的聲音說:「我多少已經料到,您會來的。我想,您對這一切都感到討厭。」
「的確是這樣。」
「那麼,我很抱歉。但也只能如此。當超級基地要求我們來的時候,我就知道,準是修改了ns-2型機器人出了問題。但是能做些什麼呢?在來這裡的路上,我不能把情況向您透露,雖然我想跟您說。但是我必須保密。關於修改一事是最高機密。」
心理學家不滿地嘟嚷著:「本應該告訴我。《機器人公司》在不徵得心理學家的同意之前,無權這樣修改正電子腦。」
勃格特揚起眉毛,嘆口氣說:「蘇珊,您要明智點。您不可能對他們施加影響。在這種問題上政府決心自行其是。他們想搞出超原子驅動;輻射物理學家則想獲得不會來打擾他們的機器人。他們掃」算搞到這樣的機器人,哪這意味著要歪曲第一定律。我們得承認,從構造的角度來看,這是可能的。他們堅決保證,只需十二個這樣的機器人,並且這十二個機器人只在超級基地內使用;一旦超級驅動達到完善的程度,就立即把二十個機器人拆毀。而且他們保證採取預防措施。他們堅持要保密。情況就是這些。」
蘇珊透過牙縫不高興他說:「我還是辭職吧。」
「這未必會有用。政府提出給公司一一筆鉅款,並威脅說,如果拒絕的話,政府將頒佈反機器人法。那時,我們的處境就會很困難。現在我們的處境已相當糟糕。如果這件事洩漏出去,柯爾納和政府會受損害,但是機器人公司遭受到的損失要大得多。」
心理學家盯著他:「皮特,難道您不瞭解這一切意味著什麼嗎?難道您不明白,摒棄第一定律意味著什麼?這不僅僅是個保密的問題。」
「我不是個小孩子,我知道摒棄可能意味著什麼。它可能意味著完全失去穩定可靠性,還會帶來完全可以想象得到的正電子域等式的答案。」
「從數學上講,是這樣。但是您能把這些大致地變換成心理學的觀念嗎?皮特,一切正常的生命都會有意識或無意識地反對統治。如果這種統治來自能力低下的一方,這種反感就會更加強烈。在體力方面,一定程度上也包括智力方面,機器人,任何一個機器人都優越於人。是什麼東西使它變得順從的呢?只有第一定律!噢,要是沒有這第一定律,您給機器人一下命令,它就可能把您搞死。這太不可靠了,您怎麼想的呢?」
「蘇珊,」勃格待露出了半表同情、半帶逗笑的神態,「我得承認。您剛講的這種弗蘭克斯但變態心理是有一定道理的。即然第一定律擺在了首位嘛。但是,我要一再重申,第一定律不是被摒棄了,而是略被修改。」
「而大腦的穩定可靠性會怎樣呢?」
數學家努努嘴:「自然會降低。但還是在安全係數之內。第一批內斯特是在九個月之前交付超級基地的,直至現在還沒有出於麼問題。就連這一樁,也只是牽涉到使人擔心會被披露,而不包含對人有危險。」
「那麼,很好啊。咱們看看早上的會議會有什麼結果吧。」
勃格特彬彬有禮地目送她走到門口。而當她一離開後,就做了個鬼臉。他仍然堅持自己多年來對她的看法,認為她是一個性情乖張的失意人。
蘇珊·卡爾文的心目中根本就沒有有勃格特。多年來,她一直把他看成是個八面玲壠。自命不凡的傢伙。
傑拉爾德·布萊克在一年前獲得副射物理學科的學位,並和他這整個一代物理學家一樣,參與了研製超原子驅動的問題。現在,他的出席給超級基地內舉行的一系列會議總的氣氛增加了一些新的因素。他穿著油汙的白色工作外套。這個人不僅有些倔強,但有時完全缺乏信心。他長得敦實有力;他的勁好像大得老要往外冒。他緊張不安地使勁把手指頭絞在一起,好像他那粗壯的手指能使鐵條都變形似的。
柯爾納少將坐在他身旁,面對機器人公司的兩個代表。
布萊克說道:「人家對我講:在第十號內斯特突然失蹤之前,我是最後一個看見它的人。我很理解,你們是想問我這件事。」
卡爾文博士感興趣地看著他:「從您的口氣聽起來,好像您自己也不敢肯定,年輕人。難道您不知道,您是否最後一個看見它的人。」
「它跟著我在搞野外發電機,女士。而且,在它失蹤的那天上午,它和我在一起。我不知道,午後是否有人還看見過它。誰也不承認看見過它。」
「您認為,有誰在撒謊嗎?」
「我可沒這樣說。但是,我也不想說,我願意為此而受責備。」他的一雙黑眼珠冒著怒火。
「這裡不存在責備的問題。那個機器人的行動,就像它作為一個機器人所應該做的那樣。我們正設法把它找到,布萊克先生。而且,讓我們把一切其它的考慮都放到一邊吧。那麼,既然您和那個機器人一起幹過活,您大概比其他人更瞭解那個機器人。您發現它有什麼異常嗎?您以前和機器人一起幹過活嗎?」
「我和我們這裡的其它機器人一起幹過。那些都是簡單的機器人。這些內斯特,除了聰明得多並且也討厭得多之外,也沒有什麼與眾不同的地方。」
「令人討厭?怎麼說呢?」
「嗯……可能這不是它們的過錯。這裡乾的是笨重的活兒。我們當中大部分人都變得有點脾氣粗暴。在超空間幹些零七八碎的活並不是件好玩的事,」他淡然一笑。通過這種自白,他感到痛快。我們不斷地冒著會在正常的空間——時間的結構中打出一個窟窿,並冒著會立刻從天地間,小行星上以及一切東西上被甩掉的危險。這聽起來離奇,是嗎?自然,有時你會緊張不安;但這些內斯特卻不會。它們好奇,鎮靜,不焦躁。有時候,光這一點就足夠使你氣得發瘋。當你想要急急忙忙地把一件事情做好時,它們看來卻在慢條斯理地幹。有時我寧可沒有它們都自己去幹。」
「您說,它們慢條斯理地幹?它們沒有拒絕過命令嗎?」
「不,沒有,」布萊克急忙說,「它們很聽從命令。雖然,當它們認為你錯了的時候,會給你指出來。它們只知道我們教它們的那些東西。但是,這擋不住它們。這可能是我個人的印象。但是,其他的夥計和他們的內斯特也有同樣的麻煩事。」
何爾納將軍有意地清了一下嗓子:「為什麼我沒有聽到有關這樣的抱怨呢,布萊克?」
年輕的物理學家的臉漲得通紅:「先生,我們並沒有真想不要機器人而自己幹。再說,我們不敢確切肯定……這類……小小的抱怨,會有人聽。」
勃格特溫和地插進來問:您最後一次看見它的那個上午,沒發生什麼特別的情況嗎?」布萊克默不作答。卡爾文用安詳的手勢制止柯爾納講話,耐心地等著。
然而,布萊克的火一下冒了出來,他說:「我和它發生了一點兒糾紛事。那天上午,我打碎了一個金勃爾管,五天的功夫也白白報銷了,我的整個工作安排落後於計劃要求;我有兩個禮拜沒有接到家裡的來信。可它又來想讓我再搞一個月以前我已經放棄了的實驗。它總是在這個問題上和我糾纏不休,都使我厭煩了。我讓它走開。這就是我看見它時的全部情況。」
「您讓它走開?」卡爾文博士很敏銳地問,「用的就是這幾個字?你是說了‘走開’嗎?您好好回想一下,確切地用了什麼字眼。」
很明顯,布萊克的內心正在鬥爭。他用一隻大手掌擦了擦腦門兒然後放下手,用一種對抗的口氣說:「我當時講:‘走開,躲一邊去。’」
勃格特大笑了幾聲:「於是它就這樣做了,嗯?」
但是,卡爾文並不到此為止。她用誘導的口吻說:「現在我們已經弄明白一點了,布萊克先生。可是,確切的細節很重要。要弄明白這個機器人的行為,一個字、一個手勢或一種語調都可能起決定一切的作用。您大概不光是講了這六個字,是嗎?按您的講述,當時您心情煩躁。可能,您講話的語氣重了一點。」
年輕人滿臉通紅他說:「晤……我可能……罵它什麼來著。」
「罵了什麼?」
「哎,我記不確切了,再說,我也不能重複這些話。您知道,當您激動的時候,您會變得怎樣,」他發窘地傻笑起來,「我用了罵人的話。」
「沒什麼關係,」蘇珊一本正經他說,「現在,我作為心理學家,我希望就您所能記起來的,您儘量準確地複述一下當時自己所講的話,並且把您當時的語調也儘可能準確地表達出來。這後一點更為重要。」
布萊克轉臉去看自己的指揮官,尋求他的支援,但一無所得。他把眼睛睜得大大的,露出惶恐不安的神色:「可是,我不能。」
「您應該說。」
「假設,」勃格特仍然半帶著逗樂的腔調說:「您就假設是對著我說。這樣您可能便於講出口。」
年輕人的臉紅得簡直就像豬肺,轉向了勃格特。他結結巴巴他說:「我當時說……」他又不吭聲了,然後又使勁張開口,「我當時說……」他深深地吸了口氣,接著突突突地一氣說出了一連串的音節。隨後,在緊張的氣氛中,他幾乎是噙著眼淚把話說完了:「……大致是這樣。我記不起來罵它的話的先後順序了。而且我剛才講的話裡面可能有些出入。但大體上就是這樣。」
只有雙頰上微露的一點紅暈揭示了心理學家的內心感受。她說:「我明白大部分您所用的那些字眼的含意。其它的字眼,我認為,也同樣是帶侮辱性的。」
「恐怕是這樣,」布萊克狼狽不堪地承認道。
「而且,其中您還說了,讓它躲到一邊去。」
「我這只是形象的說法而已。」
「我明白這點。我相信,不會採取什麼紀律措施吧。」心理學家把目光投向柯爾納。
將軍氣呼呼地點了一下頭,就算表示了回答。可是五秒鐘之前,他還完全不是這樣想的。「您可以離開了,布萊克先生。感謝您的協助。」
蘇珊·卡爾文花了五個小時訊問這六十三個機器人。
五個鐘頭之內無數次重複著同樣的東西:相同的機器人一個接著另一個;提出問題,甲、乙、丙、丁;而後是回答,甲、乙、丙、丁;使用經過小心選擇殺和藹的詞句,很注意使用自然的語調、細心地創造一個友好的氣氛;當然,還有巧妙地藏起來的一臺錄音機。
當心理學家幹完這件事之後,她感到精疲力竭了。
當她撒手膨的一聲把錄音帶扔到桌子的塑膠貼面上時,勃格特正用期待的目光看著她。
她搖搖頭:「在我看來,這六十三個機器人一模一樣。我沒法分辨出來……」
勃格特說:「您不可能憑耳朵把它們分辨出來,蘇珊。我想,我們來分析錄音機。」
一般他說,對機器人的語言進行數學譯釋,是機器人分析學比較複雜的一個分支。它要求有一批經過訓練的技師,並要藉助複雜的計算機。勃格特知道這點,他也是這麼說的。他聽完每一組回答之後,都掩蓋著自己極度煩惱的情緒,列出詞彙偏差表,標出了回答問題的問隔曲線圖。
「沒有顯示出反常現象,蘇珊。用詞的差異和反應時間的快慢,都在一般的常見的範圍內。我們需要更好的方法。這裡大概會有計算機吧,不———」他皺起眉頭,細心地啃起大拇指甲來。「我們不能使用計算機,這太容易洩漏秘密了。或者,如果我們……」
卡爾文博士用不耐煩的手勢打斷他的講話:「別說了吧,皮特這不是實驗室能解決的小問題。如果我們不能把確實存在的、用肉眼就能看得出來的那個明顯的差別找出來,從而確定哪個是修改過的內斯特的話,那麼我們只好認倒霉,而那樣,產生差錯並讓它溜掉的危險就太大了。圖表中的一小點正常值是不夠的。我告訴您,如果我只能依據這點東西的話,我寧可把它們全部毀掉,才能放心。您喂其它修改過的內斯特談過了嗎?」
「是的,談過了,」勃格特頹然地靠在椅背上,「它們沒有任何不正常。如果說有什麼不正常的話,那就是它們超乎一般地友好。它們回答我的問題,併為自己的知識豐富而洋洋自得——除了新來的兩個它們還沒來得及學習輻射物理學。對這裡的一些專業我所表現出來的無知,引起了它們善意的嘲笑。」他聳聳肩,接著說:「我想,這就是構成這裡的部分技師對它們反感的一些主要原因。這些機器人太喜歡賣弄自己豐富的知識了。」
「您不能稍微試試著普蘭南反應嗎?看看它們的智力裝置比出廠時有變化沒有,有什麼退化。」
「我還沒有,但我是要試的,」他豎起一根纖細的手指,對著她搖搖。「您變得沉不住氣了,蘇珊。我不明白,您幹嘛要過分渲染。它門實質上是無害的。」
「它們嗎?」卡爾文生氣了,「它們?難道您不知道它們當中的一個在撒謊?在我剛才訊問的這六十三個機器人當中,有一個就故意對我撒謊,儘管已下了最嚴格的命令要講真話。所表現出來的這種反常現象簡直太突出了,也太可怕了。」
皮特咬了咬呀。他說:「根本不是這樣。內斯特十號接到‘躲到一邊去’的命令。這個命令是由最有權命令它的人發出的,而且是以最緊急的方式發出來的。您既不能通過更高的緊急方式,也不能運用更高一級的指揮權來把這個命令抵銷掉。自然,這個機器人將盡力堅持執行他的命令。實際上,客觀的講,我非常讚賞它的機靈。一個機器人藏到一群和自己想似的機器人當中,難道還有比這更好的躲到一邊去的方法嗎?」
「是啊,您會讚賞這點。我發現,您覺得這很逗樂,皮特。您覺得逗樂,卻對事態缺乏瞭解到了可怕的程度。您是個機器人專家嗎,皮特?那些機器人對它們視之為優越性的東西很重視的。您自己剛才也講到這些。它們下意識地感受到人們比它們低一等,感到保護我們能對付它們的第一定律是有缺陷的。它們是不可靠的。而且我們的這個年輕人用厭惡、傲慢和鄙夷的腔調命令一個機器人離開他,躲到一邊去。那個機器人必須服從命令。但是,它會有一種下意識的反感;對它來講,證明它高人一籌,這比以前更重要了。儘管它遭到了種種可怕的咒罵。這樣,第一定律所剩下的那部分就不夠用了。這一點變得非常重要。」
「蘇珊,在地球上或太陽系的任何地方,機器人怎麼會懂得罵人話的含意呢?輸入它大腦的東西里邊沒有汙穢的語言呀!」
「原始的輸入並不代表一切,」卡爾文粗暴地對他說,「機器人有學習的能力。你……你這個笨……」
勃格特明白她是真的難以剋制自己了。
卡爾文急匆匆地繼續說:「難道您不認為,它能分辨了的所用的語調和字眼並不是恭維話嗎?您不認為,它以前聽到有人用過,並且注意到是什麼樣的場合用過這種字眼嗎?」
「好吧,那麼,」勃格特嚷起來,「請您給我指出修改了的機器人能傷害人的一個途徑,不管它是怎麼樣地被冒犯了,也不管它多麼想證明自己的優越性。」
「如果我告訴您一種途徑,您能不聲張出去嗎?」
「是的。」
他們隔著桌子互相靠攏,用悻悻的眼光相互盯著。
心理學家說:「如果一個修改了機器人想要使一個重物墜落到人身上,它也不會違犯第一定律,如果它這樣做的時候,它認為憑自己的力量和反應速度能在重物質砸到人身上之前把重物抓住並拿開的話。但是,一旦這個重物離開它的手,它就再不也不是行為的主動者;行為的主動者將是不長眼睛的地心引力。這時候,機器人會改變自己的想法,而僅僅袖手旁觀地看著這個重物往下砸。修改後的第一定律允許出現這種情況。」
「這是胡思亂想,牽強附會。」
「這是我的職業有時要求我做的,皮特,咱們別再爭吵了,開始工作吧。您知道導致那個機器人躲到一邊的刺激因素的確切性質。您有它的最初智力特性的記錄。我希望您能告訴我,在什麼樣的情況下,我們的機器人就可能做出我剛才講的那類事情。請注意,不是具體的那種事情;而是整個那一類的行動。並且,我希望您能快點告訴我。」
「而同時……」
「而同時,我們只好搞搞效能檢驗,直接看它們對第一定律的反應。」
傑拉爾德·布萊克根據自己的要求,正在第二號放射大樓的第三層上監督安裝木製小隔間。
這是一間拱形大廳。在鼓鼓的一個大圓圈內,小隔間如同雨後春筍,一個接一個飛快地安裝起來。工人們基本上默不作聲地在幹著活兒。但是,不少人明顯地感到奇怪,為什麼還要安裝上六十三個光電管呢?
一個工人在布萊克身旁坐下,摘掉帽子,若有所思地用生滿黑斑的前臂擦掉前額的汗水。
布萊克向他點點頭:「進展得怎麼樣,沃連斯基?」
沃連斯基聳聳肩,點著一支雪前煙,說:「非常順利。到底發生了什麼事情,博士?起先,我們三天沒活兒子。然後就幹一大堆這些小玩意兒。」他一邊用胳臂時支撐著向後靠,一邊吐出一團團煙霧。
布萊克的眉毛抽動了一下。他說:「有兩個機器人專家從地球上來到這裡。你記得咱們和機器人之間的麻煩事嗎?它們不能往伽馬輻射場裡跑。可是,我們反反覆覆往它們腦袋裡灌輸這個道理之前,它們老往那裡鑽。」
「記得。我們沒有得到新的機器人嗎?」
「我們得到了幾個補充的機器人。但我們大部分的工作是給機器人輸入新知識。總之,製造它們的人想使它們不至於輕易被伽馬射線毀掉。」
「看來可真稀奇。把研製超原子驅動的全部工作停下來,只為了這些機器人的事。依我看,無論什麼事情都不應當使驅動的工作停頓。」
「嗯,只有樓上的那些人對這事有發言權。我嘛,我只是照人家說的去幹。很可能,這是一樁什麼交易………
「是啊,」這個電工撇嘴一筆,狡黠地眨眨一隻眼睛。「在首都華盛頓一些人是相互認識的。但是,只要我的薪水準時送到,我就得使勁幹。至於超原子驅動,可不是我的事。他們在這裡打算幹什麼?」
「你問我?他們帶來了一大批機器人,六十多個。他們打算測量一下反應。我就知道這麼一點。」
「要測量多久?」
「我還想知道呢。」
‘好吧,」沃連斯基大說其風涼話,「只要他們把我的錢給我,他們愛怎麼玩就怎麼玩去吧。」
布萊克感到頗為得意——讓這一說法傳開吧,它不傷害誰,但又比較接近實際情況,可以稍稍滿足人們的好奇心。
有個人一動不動,一聲不響地坐在椅子裡。一件重物墜落了,很快地向這個人砸下去。在最後一剎那,用同步的方法使一根鐵棍突然有力一擊,把重物打到一邊。在六十三個小隔間裡,這些ns-2型機器人正在觀看這種情景。就在重物被改變方向之前的一剎那間,它們都向前衝去。六十三個光電管都向前離開原來的位置有一米多遠,引起記錄筆上下跳動,在紙帶上劃出犬牙狀曲線。
重物又被抬起,墜落;又抬起,又墜落;再抬起……
總共十次!
這些機器人也向前衝了十次,每次當它們看見人安安全全地地穩坐在椅於裡時,才又停住。
自從第一次和機器人公司的代表共進午餐之後,河爾納少將再也沒有全套地穿過他的軍服。現在,他上身只穿一件藍灰色的襯衫,敞著領口,黑色的領帶鬆垮地耷拉在胸前…
他期待地望著勃格特。勃格特的穿著依舊整整齊齊,大概只有雙頰上滲出的小汗珠,才顯露了池內心的緊張。
將軍問:「情況怎麼樣?你們想看到的是什麼東西呢?」
勃格特回答說:「一種差別,恐怕,這種差別對我們要解決的問題來講,顯得太細微而難以捉摸了,這些機器人當中,有六十二個必須衝向那個明顯受到威脅的人。這種必要性在機器人學中稱為被迫反應。您看,甚至當機器人知道這個人將不會受到傷害;而且在第三、第四次之後,它們應該已經明白這一點,它們還是無法避免不作出這種反應。這是第一定律所要求的。」
「嗯。」
「但是,第六十三個機器人,即修改過的內斯特卻沒有這種被迫感。如果它願意的話,它可以呆在自己的位子上。不幸的是,」勃格特的聲音裡帶出了少許憾意,「它並沒有這樣。」
「為什麼您這樣認為呢?」
勃格特聳聳肩:「我想,卡爾文博士到這裡的時候,會告訴我們的。很可能,也只是做些令入害怕的、悲觀的解釋。有時她有點煩人。」
「她能勝任工作,是嗎?」將軍突然擔心地皺起眉頭。
「是的,」看來,勃格特覺得怪有趣的。「她完全能勝任工作。她像機器人的姐姐一樣瞭解它們。我想,這是由於她非常痛恨人們的緣故。她是心理學家也罷,不是也罷,問題就在於她是個非常神經過敏的人,有時容易想入非非。您不要拿她太當真。」
勃格特把一長卷劃有虛線的圖表在他的面前攤開:「將軍,您看。對每個機器人來講,從重物開始墜落,到機器人衝了一米多所用的時間隨著試驗一再的重複而呈逐次減少的趨勢。有一定的數學比例來支配這類現象,而脫離這種比例,就可能預示著正電子腦有明顯的異常。不幸的是,它們全部都顯得是正常。」
「可是,如果我們的第十號內斯特沒有作出被迫反應,那麼為什麼它的曲線和別的機器人的一樣呢?這點我不明白。」
「這很簡單。機器人學中的反應與人的反應不盡相同。這真是遺憾。人的自覺動作比條件反射的動作要緩慢得多。而機器人則不然。在它們身上,僅僅是一個人們自由選定的問題。否則,自由的動作和被迫的動作速度都是一佯的。我原希望看到第十號內斯特在第一次試驗時會吃驚,因而它作出反應的時間會推遲。」
「但是它沒有這樣?」
「恐怕是沒有。」
「那麼,我們沒有什麼進展嘍,」將軍帶著沮喪的表情仰靠在椅子裡,「你們到這裡已經五天了。」