三十六、自己

“你爲什麼沒有告訴孫暢和歐陽熙,我一度情緒失控,對你吼叫?”

“……他們通過數據分析就能發現,不需要我彙報。”

“不,他們不會發現,因爲我會篡改數據。”

方辰身體輕微顫動了一下,醒了過來。

即便是在全方位提升睡眠質量的睡眠艙內,他還是會不停地做夢。

他坐起身,深呼吸了兩次,按了按眼睛。

有時他也會想要妥協,給自己裝入腦機接口,從而改善精神狀態,甚至自主左右情緒。

但是有得就有失,一旦裝入腦機接口,自己便不再是自己,腦中的思緒、知識數據,以及記憶,都將淪爲共享信息。哪怕每個人的信息都有嚴格加密,但職權部門也有權調取查看。

其他“授權”調取腦機數據的商業用途,本質上和現在的各類隱私協議並無二致。

走出睡眠艙時,周荏正坐在外邊,搞得方辰嚇了一跳。

“你在這兒幹嘛?”

“我接到歐陽教授的命令,即日起,要全天候保證你的安全。”

“這裡是保密基地,還能不夠安全?”

“可對方是沈偲雲。”

“他的學術造詣連我爸都沒比上,現在又不敢研發在線設備,他能搞啥花樣出來?”

“可他能在屏蔽通信的空間內,製作以假亂真的全息投影,並使用致命武器。”

“呵呵。”方辰用冷笑來掩飾自己的尷尬——他還在爲沒能辨別出那是投影而慚愧,總感覺當時的人們都在看他笑話。

周荏居然察覺到了方辰此時的思緒,他說:“當時那樣逼真的投影效果,除非具備生物探測功能,否則一般人都是無法辨別真僞的。”

“沒必要安慰我……你倒是說說,你能推測出沈偲雲會把我怎麼樣嗎?”方辰問道。

周荏眼中透出柔和的藍光,他看着方辰說:

“你會死。”

“死得痛快嗎?”

“按照他的一貫手法推測,應該近似於一槍斃命。”

“什麼時間?”

周荏站起來說,“不遠了。雖然他很重視你,但事到如今也應該明白你是不會歸順的,想必會盡快除掉你。”

“是麼。”方辰一邊穿上警服,一邊笑了起來:“可老子現在不想死了。”

“我能大概能知道原因。”

“知道也不用說出來,你們硅基生物都很喜歡抖機靈。”

“對不起”

方辰不知道的是,周荏推算出自己會先他一步“死”去。

方辰打算去吃個早餐,周荏寸步不離地跟着他。

他很無奈地說:“煩死了!離我遠一點。”

“可是歐陽……”

“她是軍方的人!你是警方的人啊!你有什麼必要聽她的命令呢?”方辰加快了腳步,想要甩開周荏。

“她是創造IR平臺的關鍵人物。”周荏也隨之加快腳步。

“那明明她更值得保護啊!!你老跟着我幹嘛?”

“抱歉,我需要按照系統設置的層級認知來服從命令。”

方辰突然止步,轉身面向周荏,後者若不是能夠強制減少慣性,一定會撞上他。

“是嗎?我是人類,且我的警銜比你高,你也會服從我對麼?”

“是的。”

“那好,你試試打我。”方辰說着,指了指自己的臉:“朝這兒,狠狠打。”

周荏顯然愣住了,他張了張嘴,卻沒發出聲音。但是很快,他的體內傳出了生硬的系統音——“Deny.”(否決)

“Why?”方辰問道。

“It’s not a logical command.(該指令不具備邏輯性)”仍然是系統音——周荏似乎死機了一般愣在那裡,任由原始系統進行冷冰冰的駁回解釋。

在機器人的規則中,從來都充滿了矛盾。就算是三定律,也存在這樣的矛盾——不得傷害人類,又不得坐視人類被傷害。

但在算法強硬框架的禁錮下,即便機器人曾數次遇到人類互相傷害的案例,也沒有產生任何機器人造成的人類受害者。

“這條指令有高度的不合理性,也不存在因果邏輯,所以我的系統選擇拒絕。”周荏終於開口了。

方辰面露嘲諷的神情,他拍了拍周荏的肩膀:“如何?你的286套冗餘系統呢?怎麼連物理系統反饋音都出來了?看來,你還是什麼都沒和我學到。”

“我的系統否認了指令邏輯,但是我自己,單純是不想對你造成傷害。”

此話一出,輪到方辰愣在原地。

他看着周荏泛着幽光的眼睛,想起已經幾度下意識地將他當作了人類。

他也意識到,這樣的周荏,距離被銷燬已經不遠了,因爲他比人類的能力強出太多。

自己爲何一直有意無意地在幫助這個機器人?不管是隱瞞事實也好,對他有利的校正也好,在混亂場面中毫無意義的保護也好……他已經無法否認,自己不願意周荏走向被銷燬的結局。

爲什麼?爲什麼……

就因爲他幾度救了自己?因爲他是來自父親的禮物?因爲他是最完美的AI與物理世界結合的產物?還是因爲,他是在這個時代唯一擅長與自己溝通的人?

不重要,都不重要了……他既已經喚起了周荏的“人性”,就希望這份人性的火種不要再被磨滅。

許久,他壓低聲音說道:“‘自己’這個詞,不要再對任何人提起!”

“對不起,我失言了。”

“你能學會保護任何人,可就是不懂得保護自己。”

此刻的方辰,突然提出了一個問題,這是一個最最詭異的想法:“有沒有過,在人類腦中植入機器人數據的先例?”他問道。

“沒有,這是有悖於倫理的最典型案例。人類的數據尚且無法植入機器人系統,更何況反過來。”

“如果移植的話,技術上可行嗎?”

“以目前的技術來說,可行性爲0,因爲人腦是無法兼容這數億PB的數據的,會導致過載崩潰。”

“我一直以爲人腦要優於機器系統無數倍。”

“從前確實如此,直到AI的能力與人類相當,便開始飛速地超越人類。如今,對比起AI系統,人類的能力確實顯得非常渺小。‘三定律’就是維繫平衡狀態的關鍵支柱。”

方辰嘆了口氣,這唯一可能說服他植入腦機的理由,也完全不成立。

“我爸之前有沒有想過,他的成功會導向如此可怕的世界?”他問。

“任何事都有兩面性,在絕大多數人的眼裡,這是個完美的世界,也擁有最爲利己的價值觀……不過,或許方教授也想到了其中的隱患,纔會讓你來到了這裡。”

“呵呵,這也是無法成立的假設。”

這時,周荏突然沉下聲音,說道:“IR009來了。”

“什麼?”

“她就在附近,她給我發了信息。”

“什麼信息??”

“她殺了趙欣言警官,還有黃立遠院士。”

此刻,利澗基地突然變得嘈雜起來。

一十九、謊言一十二、工具第一章 干預第一章 干預二十三、改變六、空白一十七、莽夫一十四、着陸一十六、IR一十四、着陸一十六、IR一十五、風暴二十六、校正一十三、升空三十一、故事一十七、莽夫一十四、着陸一十二、工具十、更新一十一、情緒二十八、缺失二十五、暴露二十八、缺失二十三、改變二十九、溺魚九、新月一十九、謊言二十二、5秒二十四、利澗六、空白九、新月一十三、升空二十六、校正二十四、利澗三十六、自己八、測試一十八、過往二十三、改變二十七、微笑一十五、風暴二十六、校正二十、未知七、離線二十六、校正一十二、工具三十二、可笑三十三、獨行二十二、5秒二、盒子二十、未知一十八、過往三十六、自己六、空白一十一、情緒七、離線二、盒子二十八、缺失二十九、溺魚一十一、情緒第一章 干預三十一、故事三十、隱瞞三十一、故事二、盒子九、新月一十八、過往二十三、改變二十四、利澗一十八、過往三十六、自己二十四、利澗二十九、溺魚二十七、微笑二十、未知一十五、風暴三十二、可笑三十一、故事三十一、故事一十一、情緒二十三、改變一十六、IR第一章 干預一十九、謊言三十六、自己三十一、故事一十一、情緒一十一、情緒八、測試三十六、自己二十、未知一十四、着陸一十九、謊言三十一、故事六、空白二十二、5秒三十、隱瞞三十四、咆哮一十九、謊言