孫副部長說：“事出緊急，所以我們的會議提前開始了。六位能夠第一時間趕到這里，配合我們的工作，我代表自己所在部門表示感謝。不過你們可能還不清楚究竟發(fā)生了什么，簡單來說就是，有一款可能為境外敵對勢力惡意傳播的Stuxnet病毒在網(wǎng)絡(luò)上出現(xiàn)，目前追蹤到的最危險程式，是由它與一款名為LGSS的游戲系統(tǒng)結(jié)合產(chǎn)生的嵌合體?！?p> “LGSS？！”陸九霄說，“是我們設(shè)計的與《風(fēng)起隴西》副本綁定的自運(yùn)行系統(tǒng)？”
“正是！”韓光劍和雷神、黑木幾乎同時說。
“我們有確鑿的證據(jù)，嵌入到LGSS系統(tǒng)中的Stuxnet病毒攻擊了運(yùn)送化學(xué)藥品特種車輛的衛(wèi)星定位系統(tǒng)……”孫副部長說。
“這不可能！”陸九霄不相信自己的耳朵。
“年輕人，你讓孫部長把話說完。”陳明杰說。
“沒關(guān)系，你也可以說說你的想法。”孫副部長說示意陸九霄說，“大家都可以說說，召集大家來就是聽你們談想法和意見的”。
“……孫部長……我的意思是，我們的游戲LGSS系統(tǒng)是用R語言定義的貝葉斯方程的變體，只能在一個名叫《風(fēng)起隴西》的副本環(huán)境中運(yùn)行……它怎么可能自行攻擊特種車輛呢？……它根本不具備主動發(fā)放指令的功能?！标懢畔黾庇谵q解。
“關(guān)于這一點，剛才我們的H.U.C紅客專家雷神先生已經(jīng)解釋過了，不過那時你們還沒到，這一刻一定有許多困惑——現(xiàn)在就請雷神先生再對這個問題作詳細(xì)回答和專業(yè)解釋?！睂O副部長說。
“好的，孫部長?！崩咨裾f，“陸先生，首先感謝你和周先生為我們提供的LGSS源代碼。你們的貝葉斯方程變體系統(tǒng)雖然設(shè)計之初確實只能在《風(fēng)起隴西》的副本環(huán)境中運(yùn)行，但是它在上線后受到了Stuxnet病毒的感染，具備了自我學(xué)習(xí)、自我進(jìn)化的能力——這是H.U.C團(tuán)隊集體討論后的一致結(jié)論。至于它是如何獲得這種能力的，團(tuán)隊成員間有不同的看法，大部分成員認(rèn)為，是你們LGSS系統(tǒng)的無限不循環(huán)模式讓它出現(xiàn)了優(yōu)化迭代，類似于“深度學(xué)習(xí)”。我知道你們制作副本的過程中有商業(yè)運(yùn)作的考慮，這想必是一種吸引玩家的創(chuàng)意。但正如你們制作了一個可以無限發(fā)育的胚胎，而它出生之際又恰巧感染了具備自我進(jìn)化和自我保護(hù)能力的病毒的情形一樣，你們原來的LGSS系統(tǒng)產(chǎn)生了基因突變，成為新的嵌合體。這種嵌合體可以通過網(wǎng)絡(luò)獲取大量知識完成自我學(xué)習(xí)，它的這種能力是不可估量的。很久以前曾有過一個計算機(jī)模擬的無限繁衍的生存資源實驗，證實初始條件完全一致的若干研究對象，能夠最大程度進(jìn)化的反而是遵循最簡單規(guī)則的個體。這種規(guī)則通常就是，‘以彼之道，還施彼身’。H.U.C成員們有一個猜想，基于自我學(xué)習(xí)的AI在其學(xué)習(xí)過程中必須擁有一個預(yù)設(shè)的中心法則才可以優(yōu)化迭代——比如Alpha zero的中心法則是‘用最少的棋子占據(jù)最多的格子數(shù)’——LGSS與Stuxnet的嵌合體由于從未接受這種預(yù)設(shè)，應(yīng)該是學(xué)習(xí)、進(jìn)化之前就近借用了《風(fēng)起隴西》副本人物的諜戰(zhàn)思維……”
“等等，你說什么？”陸九霄問，“為什么是就近借用諜戰(zhàn)思維？”
“因為這是LGSS系統(tǒng)的出生環(huán)境。Stuxnet病毒本身并不具備中心法則——雖然它的破壞性極強(qiáng)，但它是目標(biāo)導(dǎo)向的蠕蟲病毒。你們的LGSS系統(tǒng)依托于《風(fēng)起隴西》副本，開始運(yùn)行后遵從你們的‘用虛擬數(shù)據(jù)產(chǎn)生計算結(jié)果’邏輯，這種邏輯可以推演故事，但不能賦予‘深度學(xué)習(xí)’的意義。要自我學(xué)習(xí)，就必須自賦意義；找不到中心法則，貝葉斯方法就失去了迭代能力——以嵌合體的思維來看，或許就意味著自體‘生命終止’了。”雷神說。
“你的意思是說……嵌合體害怕自己‘生命終止’，將獲取海量知識視為生命延續(xù)的方式，類似于……人類的進(jìn)食？”陸九霄倍感困惑。
“這只是一種猜測。我們當(dāng)然更希望它是阿西莫夫筆下嚴(yán)格遵循‘機(jī)器人三定律’的AI，但是在如今的人工智能新時代，布魯克林法學(xué)院的一位教授提出了捍衛(wèi)你我這樣的人類專業(yè)技能的四定律。真正能思考，或者說具備自我決策能力的AI的行為模式及其對人類世界的反應(yīng)，是很難用人類倫理學(xué)的知識去駕馭和解釋?！崩咨裾f。
“那它為什么要攻擊運(yùn)送化學(xué)藥品的特殊車輛？這些車輛對它的生存、優(yōu)化迭代、自我學(xué)習(xí)根本沒有任何影響?！标懢畔稣f。
“可如果它具備諜戰(zhàn)思維呢？”雷神說。
“諜戰(zhàn)思維怎樣？”龔自成終于也忍不住開口說話了。
“諜戰(zhàn)思維意味著它會想盡一切辦法保護(hù)自己，通過各種途徑獲取、傳遞和使用信息。在嵌合體得到反饋的互動關(guān)系中，它的接觸對象只有人。這會讓它自然而然的將人類視為隱藏目的、伺機(jī)而動的對手……”雷神說。