(第198章）三大基本原則

　　凱莉婭嚴(yán)肅的看著常劍鋒，問道：“你們拿到了系統(tǒng)人工智能會(huì)主動(dòng)學(xué)習(xí)、升級(jí)的實(shí)質(zhì)證據(jù)了嗎？”

　　常劍鋒搖了搖頭，答道：“沒有，陳飛只是通過對虛擬戰(zhàn)場比賽中的各種異常跡象，推演出這種可能性。而且后來系統(tǒng)人工智能突破底層規(guī)則框架，攻擊大本營的行動(dòng)也是一個(gè)很明顯的旁證。”

　　凱莉婭嘆了一口氣，說道“如果沒有實(shí)質(zhì)證據(jù)，是無法指控星空虛擬光腦網(wǎng)絡(luò)公司違反《星際基本法》，開發(fā)具有自動(dòng)學(xué)習(xí)、升級(jí)、擁有情感的真人工智能?！?p>　　“這個(gè)《星際基本法》我也知道，里面有三大基本原則：第一、任何國家和組織不能開發(fā)具有主動(dòng)學(xué)習(xí)、升級(jí)、擁有情感模式的真人工智能，只能開發(fā)在限定規(guī)則框架內(nèi)，服務(wù)人類的半自動(dòng)人工智能。第二、任何國家和組織不能利用克隆技術(shù)大規(guī)模制造人類，只能利用克隆技術(shù)復(fù)制醫(yī)療用人體器官，以及復(fù)制少量克隆動(dòng)物作為科研之用。第三，任何國家和組織不能開展關(guān)于無限延長人類壽命的研究，只能作有限度延長人類壽命的研究?！?p>　　常劍鋒嘲諷的笑道：“違反以上三大基本原則，星際議會(huì)將可以將違反三大基本原則的國家、組織判定為全人類公敵。并在十大常任星際議員國全部授權(quán)下，組織跨國星際維和部隊(duì)進(jìn)行軍事干涉，直到這些行為終止、并銷毀所有研究成果。我知道這三大基本原則的目的，其實(shí)是為了人類在有限的星空范圍內(nèi)，能夠發(fā)展得更加長久時(shí)間?？上А缎请H基本法》的約束力不怎么樣，各大勢力之間利益盤根錯(cuò)節(jié)，十大常任星際議員又分屬三大軍事聯(lián)盟，最愛互相扯后腿。等到達(dá)成協(xié)議，同意派遣星際維和部隊(duì)的時(shí)候，人家早已經(jīng)將研究成果轉(zhuǎn)移、銷毀。使得星際議會(huì)空有三大基本原則，也不能及時(shí)制裁這些瘋狂的國家和組織。”

　　“阿鋒，星際議會(huì)只是第一次星際大戰(zhàn)后，為了協(xié)調(diào)各國利益重新分配，避免再次發(fā)生大規(guī)模戰(zhàn)爭而成立松散國際協(xié)作組織。它沒有自己的軍隊(duì)、沒有自己的經(jīng)濟(jì)來源，運(yùn)作全靠議會(huì)各國自覺上交的年費(fèi)，它最大作用就是為各超級(jí)大國提供了相互扯皮的平臺(tái)，對星空中各大國家和組織的約束力當(dāng)然有限。但是，三大基本原則是議會(huì)各國共同認(rèn)定，對全人類在這這有限星空中生存發(fā)展三個(gè)最大威脅，而制定出來的自我約束的原則。所以如果真有國家、組織逾越三大原則這條紅線，確實(shí)就是全人類公敵，而且就算維和部隊(duì)還沒派出，周邊國家軍隊(duì)也可以被臨時(shí)授權(quán)就近鎮(zhèn)壓的?！眲P莉婭對常劍鋒的說法給以一定的糾正。

　　常劍鋒冷笑道：“章程是這樣定了，但違反這三大基本原則就是負(fù)責(zé)授權(quán)的十大常任星際議員國，或者與其有盤根錯(cuò)節(jié)關(guān)系的四大隱形帝國呢？!其實(shí)深入一想，這三大基本原則的懲罰機(jī)制，就是為了維護(hù)這些人類社會(huì)中頂尖勢力利益，而制定出來的最好用的工具。當(dāng)頂尖勢力違反了三大原則，可以利用十大常任星際議員國身份否決懲罰，甚至提早在消息擴(kuò)散前銷毀所有證據(jù)。當(dāng)有不按這些頂尖勢力辦事的國家、組織出現(xiàn)時(shí)，他們又可以無中生有污蔑這些國家、組織違反三大基本原則，予以討伐懲戒。執(zhí)行的規(guī)則本來就有漏洞，又叫人如何去心存敬畏地去遵守呢？！”

　　常劍鋒歇口氣，繼續(xù)說道：“比如這次虛擬戰(zhàn)場系統(tǒng)‘出錯(cuò)’事件，雖然系統(tǒng)提供、運(yùn)作是星空虛擬光腦網(wǎng)絡(luò)公司，但是超級(jí)中央光腦是米爾斯坦共和國自己提供的，米爾斯坦相關(guān)信息部門不可能沒發(fā)現(xiàn)一點(diǎn)異常的蛛絲馬跡。但是你看后來官方聲明是多么漏洞百出、多么敷衍愚民。而且善后處理手法是由星空虛擬光腦網(wǎng)絡(luò)公司提供所有經(jīng)濟(jì)賠償，以最快速度平息事態(tài)發(fā)展、草草結(jié)束第二輪賽事，這不是已經(jīng)說明這次系統(tǒng)‘出錯(cuò)’有很大的疑問存在嗎？！”

　　凱莉婭目不轉(zhuǎn)睛地盯著常劍鋒激動(dòng)的臉孔，冷不防問道：“阿鋒，你這么激動(dòng)是不是想起一些，與自己有關(guān)的不愉快經(jīng)歷呢？”

　　凱莉婭這么一問，常劍鋒原本激動(dòng)的情緒好像突然被潑了盤冷水，一下子冷靜了下來。其實(shí)談起《星際基本法》的三大基本原則，是常劍鋒想起自己接受史密斯最終改造險(xiǎn)死還生的經(jīng)歷。后來常劍鋒從多個(gè)消息渠道去了解，才發(fā)現(xiàn)以基因技術(shù)改造人體能力的實(shí)驗(yàn)，只能在《星際基本法》嚴(yán)格規(guī)定范圍內(nèi)進(jìn)行的，只是級(jí)別沒有三大基本原則那么高。史密斯所用的基因藥劑和劑量，非常明顯已經(jīng)超過了這個(gè)范圍很多很多。可以這么說，對常劍鋒身體的最終改造，是游走在星際通用法律邊緣的灰色地帶的行為。每每想起自己當(dāng)初非常有可能死在最終改造臺(tái)上，常劍鋒都會(huì)不由自主的因?yàn)榭謶侄澙酢?p>　　這些事情暫時(shí)還沒到時(shí)機(jī)向凱莉婭坦白，常劍鋒愣了一會(huì)，腦中轉(zhuǎn)過數(shù)個(gè)念頭，才說道：“我之所以這么激動(dòng)是有原因的，你設(shè)想一下果然真人工智能誕生，它將會(huì)成為光腦網(wǎng)絡(luò)上神一般的存在，所有鏈接網(wǎng)絡(luò)的設(shè)備都將被它隨意控制。如果這個(gè)人工智能成長為健全人格的‘好人’還好，如果這個(gè)人工智能成長過程中性格扭曲了怎么辦，他將會(huì)毀掉整個(gè)人類極其依賴的光腦信息網(wǎng)絡(luò)，使人類文明倒退幾百年。星空虛擬光腦網(wǎng)絡(luò)公司這是在玩火，一不小心可不只是燒掉他們自己這么簡單，而是毀掉全人類的信息文明?！?p>　　“再說如果有國家冒天下之大不韙，開發(fā)大批量克隆人技術(shù)，那么短時(shí)間就可以成人的大量克隆人，將會(huì)與自然分娩出來的人類爭奪生存資源，這不是他們愿不愿意的問題，而是生存本來就要耗費(fèi)資源。要知道人類可以探索的星空已經(jīng)擴(kuò)張到了極限，所以生存資源相對也是有限的。還有一個(gè)關(guān)于道德方面的問題，如果克隆人被生產(chǎn)出來，是否應(yīng)該賦予‘他’情感和智慧呢？如果不賦予克隆人就是擁有人類肉體的空殼，是不會(huì)自主行動(dòng)的。但如果賦予‘他’情感與智慧，‘他’會(huì)不會(huì)突破三大原則，自己復(fù)制更多的自己呢？！”

　　“還有如果有國家、組織違反第三條原則，研究出無限延長人類壽命的技術(shù)。如果從探索無限寬廣的宇宙來說，是一件大好事，但問題現(xiàn)在人類被困在現(xiàn)在的星際空域已經(jīng)數(shù)百年了，到現(xiàn)在都無法再突破出去哪怕一光年。無限延長人類壽命就可能造成人口大爆炸，到時(shí)膨脹的人口為了生存會(huì)爆發(fā)爭奪生產(chǎn)資源的星際戰(zhàn)爭。雖然控制人口政策可以延緩大爆炸的到來，但是不能停止這個(gè)趨勢。除非全人類都接受絕育措施。但是一直由老人把持、沒有新鮮血液補(bǔ)充的人類社會(huì)，將會(huì)走向沒有任何活力、沒有創(chuàng)造力的沉默世界。”

　　“制定三大基本原則是非常正確的，但問題是執(zhí)行出現(xiàn)了問題，這次海選賽第二輪系統(tǒng)‘出錯(cuò)’事件，只是顯露出危險(xiǎn)冰山的小小一角而已，還有更多突破三大基本原則的事件，被藏在世人看不到的陰暗角落里呢!三公主，你說我能不激動(dòng)嗎？”