亨利?楊做夢也沒有想到,自己就職剛兩個月的公司,正面臨前所未有的覆滅危機。
他抱著一個深藍色的文件夾,臉頰通紅,氣喘吁吁。亨利?楊鉆進電梯,直按了最高的八十二層。電梯向上,每停頓一下,都會進出幾個神色凝重的同事。終于,他來到蘇珊?凱文的辦公室門前,他站在門口平靜了一下,文件夾上有幾滴他手心的汗珠,他在褲子上擦了擦,敲開了門。
“凱文博士,這里有公司的指示文件給您?!碧K珊?凱文沒有轉(zhuǎn)過頭,繼續(xù)看著桌上的報告,又用細薄到鋒利的嘴唇抿了口咖啡,然后才帶著世界上最偉大的機器人心理學家該有的派頭,說:“是謀殺案的事嗎?我知道了,請放在那兒,你可以走了?!?p> 亨利?楊支吾了一下,“請原諒,凱文博士,我想知道您對這件事怎么看……外面都急瘋了,我從來沒有聽說過這樣的事。如果事實果真如此,公司……”
“會徹底毀滅?!笔堑?,蘇珊?凱文作為機器人和機械人股份有限公司發(fā)展至今的重要功臣之一,她完全明白此事的嚴重性。所以事發(fā)六個小時以來,她一刻未停地思考?!拔蚁嘈盼业臋C器人?!?p> “您的意思是這起謀殺案是個陰謀,企圖搞垮公司?”亨利?楊的眼睛瞪大,閃爍起來。
“我沒有說過那樣的話?!碧K珊?凱文略微向外偏了一下頭,亨利楊察覺到了這個動作,仿佛受了鼓勵一般:“那個視頻,目擊者拍攝的……不可否認……是真實的?!彼nD了一下,像是在強調(diào)他接下來說的話,“凱文博士,我們的機器人,我們的三大法則,是錯誤的嗎?”
蘇珊?凱文從他的聲音里聽出了顫抖,她轉(zhuǎn)過身來,睿智的眼睛撐起兩條高挑的眉毛,用平靜而莊重的聲音說:“你叫楊對吧,去告訴你那些不知道該信仰什么的朋友,機器人沒有錯?!?p> 從目擊者珍妮?貝絲拍攝、獸醫(yī)奇瑞華提供的視頻來看,事發(fā)當時,珍妮?貝絲正在拍攝她那只崴傷了腳的小綿羊。她把鏡頭湊近,展示受傷的細節(jié),并且絮絮叨叨的講著話,好讓獸醫(yī)奇瑞華先生為它診斷。左上角,遠遠的背景里,就在小羊的屁股下方,出現(xiàn)了一個銀光發(fā)亮的機器人,后腦上印著“機器人和機械人股份有限公司FW-012”。它緩緩地端起手中的步槍,幾乎沒有瞄準就開了火。畫面的右上角,被害人特雷西?巴特勒正在粉刷倉庫的新墻,巴特勒的后腦到眉梢被精確無比地貫穿,雪白的墻壁添上了一朵腥紅的花。小綿羊受驚“咩咩”怪叫起來,貝絲大媽高呼“我的天吶!”
農(nóng)場位置偏遠,警察花了三個小時趕到現(xiàn)場。他們顯露出驚慌,從來沒有人類面對過造反的武裝機器人,尤其是農(nóng)場用的那種能輕易制服暴走的公牛,驅(qū)逐來犯的棕熊的FW型。武裝直升機盤旋在農(nóng)場上空,巨大的引擎聲把雞舍驚得羽毛亂飛。隨后裝甲車載著近百名警察包圍了農(nóng)場,步步逼近,氣氛緊張,勢必要消滅這個人類的叛徒,這個機器人公司的邪惡造物,這個企圖毀滅人類的陰謀種子。
暫時沒有開火的唯一原因是擔心FW-012劫持了唯一的目擊證人珍妮?貝絲。視頻被發(fā)送給奇瑞華醫(yī)生后就再無她的消息,手機定位顯示她在農(nóng)場中心的特雷西?巴特勒的小木屋里。
四人小隊潛行至木屋墻下,窺鏡伸向窗戶,F(xiàn)W-012正在桌前擺弄著什么。機械手靈活又精確地轉(zhuǎn)動,隊長威克特仿佛看到它制作出了威力驚人的武器,機器人高大的身軀在他看來陰沉可怕。確認人質(zhì)不在屋內(nèi)后,隊員守住木屋各方,威克特對空鳴槍,腳下的警犬狂吠(他們不敢?guī)C械犬)。威克特從脖頸紅到眼睛,鼻孔噴出憤怒的氣息,剛毅的胡須每一根都劍拔弩張。他大喊“該死的機器人,你被包圍了,立刻投降!”
隨后的事情發(fā)展順利的讓人難以置信,F(xiàn)W-012平靜地走出來,帶上扔給他的手銬。威克特進屋搜查,發(fā)現(xiàn)它剛才在修理被摔壞的手機。珍妮?貝絲在麥垛里被找到,她躲在里面睡著了。一位警員在搬運準備用來對付機器人的彈藥箱時滑了一跤,挫傷了手肘,成為這場維護人類尊嚴的人機大戰(zhàn)中唯一的負傷者。FW-012從木屋中走出來的第一句話是“您需要什么幫助?”
事發(fā)二十四個小時,F(xiàn)W-012已被秘密關押,州政府公布了這樁謀殺案以及巨大成功的逮捕行動,引起軒然大波。公司大樓下被堵得水泄不通,所有工廠被迫停工。總裁辦公室里,史考特?羅伯森(其父是公司的創(chuàng)始人)一臉愁容地注視著樓下憤怒的抗議人群,還有試圖沖進大樓的報社記者。他非常清楚的是,一場反機器人的暴動會在毫無預警的情況下演變成一場反科學的暴動。羅伯森看到大樓前的路燈上吊著幾個被“絞殺”的家務機器人,人群包圍了一個火堆,不斷有機器人被丟進去。黑色的火焰竄動,高漲了人群的憤怒,好像人也在燃燒。羅伯森看到《今日》報社發(fā)布了一幅漫畫后,狠狠的嘆了口氣。這是一個富有象征意義的畫面:一個面無表情的機器人端著槍瞄準了自由女神,女神眼角含淚,火炬已經(jīng)熄滅。它好像要槍殺人類的未來。
窗外停放著幾架無人機,羅伯森覺得他們尖細的嗡嗡聲好像在嘲笑他將遭的牢獄之災——他知道公司的機器人不可能傷害人類,但如果找不出真相,公司將會被全人類追責。羅伯森癱坐在轉(zhuǎn)椅上,疲態(tài)盡顯,他呆滯地聽著人群的吶喊和遠方斷斷續(xù)續(xù)的警笛聲。這一幕被無人機抓拍,很快就有一篇題為《機器人公司陷入自作自受的泥潭》的報告發(fā)布。
蘇珊?凱文走在某座地下建筑內(nèi),沉重灰暗的墻壁和天花板似乎能輕易地將她瘦小的身軀擠碎。但她走地輕盈優(yōu)雅,清脆的腳步聲顯然引起了同行的法院探警奧貝爾?賈葉爾的不滿。
“凱文女士,您執(zhí)意來探訪那個機器兇手的意思是您懷疑本屬出呈的證據(jù)嗎?”奧貝爾的話激起了一些小聲議論。
“它叫法姆沃克。我來是為了阻止你們這些酗酒農(nóng)夫把它當成報廢的汽車發(fā)動機對待?!碧K珊?凱文毫不客氣地回應他的冒犯。
走廊的盡頭,F(xiàn)W- 012安靜地坐在它的牢房里,頭頂?shù)睦涔鉄翡佅滤痰挠白?,好像一座雕像?p> “法姆沃克,你還好嗎?”
“我很好,凱文博士。他們對我很好,還給了我一些報紙來打發(fā)時間?!盕W-012指了指它腳邊的一摞報刊。蘇珊?凱文注意到,它們是今天的,上面應該全是公司的負面消息。
“你覺得報紙怎么樣?”
“我很遺憾。”
“嗨!真希望你們的閑聊能解決問題?!眾W貝爾擠到蘇珊?凱文的前面,雙手抓住鐵柵欄“機器人,昨天,5月9日,你開槍殺死自己的主人。是你自己進行了這場謀殺,還是受到了公司的指使?”
FW-012的身軀顫動了一下,至高無上的第一法則在它的正子腦內(nèi)激起強烈的電流,它驚恐地向后縮,金屬臉看起來更加蒼白了一些。“不,不巴特勒先生他好好的,我沒有殺死他……我沒有……”它激烈地否認,耳后的散熱裝置嗡嗡地加速。
“夠了!你們會燒壞它?!碧K珊?凱文面有怒色“法姆沃克,停止思考這件事?!盕W-012緩慢地抬起頭來,恢復了平靜。
“奧貝爾,帶著你的那幫人離開這里。還有你們也是?!碧K珊?凱文指這那一隊武裝警衛(wèi)。
警衛(wèi)長帶著嘲弄的口吻說:“女士,我們在這里是為了保護你不受機器人的傷害?!?p> 蘇珊?凱文輕笑一聲,說:“先生,你真的認為這鳥籠子和玩具槍能阻止它?我看,你要么去調(diào)一輛坦克來,要么趕緊逃跑吧。機器人就要推翻人類了?!?p> 警衛(wèi)長有些不知所措,只好故作鎮(zhèn)定地帶隊離開,走得比來時還要整齊劃一。不忘用余光看了看“人類的敵人”和“機器人的伙伴”。
“法姆沃克,你還記得當時的事嗎?”
“記得?!?p> “你為什么拿著槍?”
“巴特勒先生讓我練習射擊,他說可能會有野狼襲擊農(nóng)場?!?p> “你在這之前使用過槍嗎?”
“沒有?!?p> “你有沒有瞄準巴特勒射擊?”
“我沒有?!?p> “你有沒有瞄準巴特勒?”
“瞄準了。”
“你有沒有開槍射擊?”
“開槍了?!?p> “你有沒有瞄準巴特勒射擊?”
“我沒有”
“你開槍射擊時是否瞄準了巴特勒?”
“瞄準了?!?p> “你有沒有瞄準巴特勒射擊?”
“我沒有。”
蘇珊?凱文直勾勾地盯著機器人背后黑色墻壁,仿佛要把黑暗中的碎片拼湊起來。按照第一法則,機器人不得傷害人類,這是沒有前提的絕對指令。是什么造成例外?“機器人”、“不得”……蘇珊?凱文,再一次思考這些字詞,與過去三十年來不同的是,她試圖發(fā)現(xiàn)其中的難以察覺之處。
“機器人”、“不得”……她仔細整理腦中的千頭萬緒,這一次,有什么東西逐漸清晰起來。
珍妮?貝絲已被醫(yī)院確認未受傷,精神狀況也不錯,但她依然賴在病房不走。一方面因為公司承擔了住院費用,更重要的是她作為目擊證人,這里永遠有人聽她講話。
“哦,護士小姐,你一定要幫幫我。我的脖子疼得像是要斷掉了,是不是那個機器人作的亂想要滅我的口?”貝絲大媽一見到護士就捂著脖子嚷叫起來。
護士正忙著給同室的病員上吊瓶?!安?,貝絲大媽。您只是落枕了——您昨晚非要墊兩個枕頭。”
“你給我弄一個冰袋敷一敷吧……”
蘇珊?凱文走進病房,目光聚集在她身上。她著一套黑色西裝,內(nèi)襯有花紋簡約的白襯衫,打了一條紅色的領帶,面料看上去很高級。她的眼睛周圍顯露出一些疲態(tài),但不失風度和自信。
珍妮?貝絲首先招呼來者,她熱情地揮著手,脖子似乎沒問題了?!澳业氖俏?,那位令人尊敬的女士。我又想起了許多關于機器人的細節(jié)?!?p> “珍妮?貝絲,你好。你看起來氣色不錯,希望機器人沒有嚇著你?!碧K珊?凱文在貝絲大媽的床對面找了個地方坐下,“我叫羅拉?凱莎,是《民主周》的記者,你能接受采訪嗎?”蘇珊?凱文亮出她偽造的記者證。
“哦!當然,我很樂意?!?p> “我希望你可以講一講你的鄰居,特雷西?巴特勒先生?!?p> “可憐的家伙!”一提到他,貝絲大媽就抹了一把并不存在的眼淚,“怎么也想不到他會被自己家的機器人殺死。多好的人啊,他沉默寡言,但總是熱心腸。他上周還幫我清理了草坪上的石塊?!?p> “他在農(nóng)場里做些什么事?”
“各種事,他很愿意親自去做。雖然談話不多,但我能看到他一整天都忙這兒忙那兒的?!?p> “你知道他曾經(jīng)是機器人公司的研究員,因為違規(guī)實驗被開除嗎?”
“不知道,他做錯了什么?”
“他做對了。我們猜測他沒有放棄他的研究,你認為他有什么不合常理的行為嗎?”
“是的,有一點,我也不明白……哦!等等,你真是不客氣。你這么問,好像他是殺人犯,那些壞蛋科學家才是受害的人一樣?!?p> “不,你誤會了。我們調(diào)查他的生平,是為了寫出詳實生動的悼文,來紀念這個人類與機器人的戰(zhàn)爭的精神代表?!?p> “正是這樣。我看見他好些次載回用大木箱裝著的機器人,這些家伙可不便宜。他費力地把它們搬進倉庫后就再沒搬出來過,為他工作的,只是那一個機器人——法姆沃克。有一次我忍不住,趁巴特勒先生不在農(nóng)場的時候,悄悄地溜到倉庫門口,然后趴在地上往里看。我的天吶,里面是很多很多被肢解的機器人。金屬零件,機器的手和腿,還有發(fā)著藍光的不知道什么東西。一個被架在墻上的機器人還扭過頭來看著我!之后我再也沒有靠近過他的倉庫。”
“他被機器人槍殺在倉庫旁,血濺到他剛粉刷的墻上?!?p> “是的,那面墻原本是灰色的。那天我看到他的血……他毀壞了那么多機器人,難怪機器人會殺了他報仇了?!闭淠?貝絲為她得出的精彩結論而自喜。
“很有意思的猜想,你有洞見,女士。我想我們的采訪到此結束了。”蘇珊?凱文優(yōu)雅地站起,道歉后離開。羅伯森正在焦頭爛額中等待她的消息。
護士剛才一直躲在門外,蘇珊?凱文走后,她才激動的躥進來,臉上比剛才多了不少崇敬?!柏惤z大媽,那位不可思議的機器人心理學家,你和她談了什么?”
“那個記者,她到底是誰?”
“她是機器人公司的首席機器人心理學家!”
“哦,天吶!機器人……”珍妮?貝絲癱軟在床上。
事發(fā)三十六小時,蘇珊?凱文靠在農(nóng)場倉庫的墻邊坐下,就是特雷西?巴特勒被槍殺的那面墻,她掏出筆記本。夕陽的柔光從她的發(fā)絲背后穿透過來,她的右邊是巴特勒飛濺出來的智慧的痕跡。她捋了捋飄亂的頭發(fā),看起來像是墻上的另一朵紅花。的確,這里找不到更適合的地方來寫她即將寫下的話了。
“……我們設計機器人的基礎是機器人學三大法則:一、機器人不得傷害人類或因不作為而使人類受到傷害;二,除非違背第一法則,機器人必須服從人類的命令;三,在不違背第一及第二法則的情況下,機器人必須保護自己。我們在這三大法則之上建立了正子腦的運行邏輯,如果三大法則被修改或破壞,則正子腦會失去運行依據(jù)。因此不存在不服從三大法則的機器人。
但是特雷西?巴特勒發(fā)現(xiàn)了三大法則的漏洞……機器人可以往海里扔塑料垃圾,可以排放過量的二氧化碳,可以浪費水,即使這些行為將在一定情況下對人類造成傷害。因為計算這些行為的結果,明顯超越了正子腦的能力,它不知道會產(chǎn)生怎樣的后果。理想狀態(tài)運行的三大法則是完美的,但我們建立的運行方式、給予機器人的思考能力太過簡陋了。‘機器人不得傷害人類’前提需要機器人清楚自己在傷害人類。
特雷西?巴特勒天才般地改造了那個機器人,把它原有的視覺系統(tǒng)改造成電子掃描和計算機模擬共同形成的‘仿視覺’,并用加強命令讓機器人認為自己擁有正常的視覺(就像他曾在我們的實驗室嘗試的的那樣,他為此被開除)……他給機器人看到的是一個被刻意修改的世界,第二法則強行讓機器人相信它看見的??赡芎臀乙娒娴哪且惶焖静恢缊蠹埳蠈懥耸裁?,但是‘我很抱歉’確實可以評價多數(shù)報紙報道的事情……它奉命開了槍,并不知道子彈將飛往何處。
我不認為特雷西?巴特勒的動機是為了報復公司開除他。他破解了三大法則形成的阻礙,把這種方法交給全世界,對人類和機器人的命運開了一槍,然后了結自己。他也不知道子彈將飛往何處……”
羅伯森及幾位公司高層與政府密談后,所有媒體突然對此事沉默了。一切恢復如初,好像什么也未曾發(fā)生。人們悉知,破損的手機無法恢復,珍妮?貝絲承認她說了謊,奇瑞華醫(yī)生需對偽造視頻負責,特雷西?巴特勒的死被定義為自殺。機器人和機械人股份有限公司贏了官司,并免費維修或更換在暴動中損傷的機器人。風波平息下去,沒人知道背后潛藏著什么。
蘇珊?凱文被政府聘為顧問,研究三大法則的應用。而羅伯森永遠也忘不了那天,他手里緊緊地攥著蘇珊?凱文給他的紙條,激動到顫抖,眼睛幾乎要涌出淚來。他克制自己,但還是擋不住幾個字從喉嚨里鉆了出來。
“她不知道……”