不過在他設想的文明之未來圖景中,類似“復仇女神”這樣的高度發達AI,早晚會出現,也將是永生追尋者、乃至麻瓜爭奪世界控制權的焦點。
儘管如此,肯*湯普森的笑談,也是千真萬確。
Nemesis也好,列強們也在研究的其他戰爭決策AI也罷,規模和複雜度是前所未有,但要說有沒有一個會像《終結者》裡的天網那樣,擁有自我意識、繼而清楚人類,人工智能的研發者們都會笑着搖搖頭。
要是AI的自我意識,真能這樣一下子憑空出現,那倒好了。
人類的自我意識,本質上,究竟如何描摹,迄今爲止的科學研究成果還有限,對人類大腦的認知、思維與決策,尚未抵達本質,更不用說一堆晶體管和電路堆積起來的計算機,別說憑空產生自我意識,哪怕工程師們竭盡全力都未曾找到切實可行的實現思路,有意要創造都造不出來。
這種情況下,指望某AI滋生自我意識,還不如指望一堆零件自動組裝成波音747。
撇開自我意識不談,Nemesis,方然倒確信這計劃真實存在。
暴力體系,底層的機器人士兵已經出現,頂層的人工智能決策系統,顯然也已經提上了聯邦軍方的研發和裝備日程。
假以時日,這樣的系統研發出來,誰掌控管理權,就能掌控絕對的暴力。
那麼要加入肯*湯普森的核心研發團隊嗎;
他可沒有這打算。
不遠的將來,新一場蓋亞大戰爆發時,掌控Nemesis這類系統的人,就是暴力的主人,這一點誰都能看得到,想得到,因此也就太過顯眼,會持續暴露在從監管體系到競爭者的目光集火之下,如同火中取栗。
道理,如此簡單,方然並不認爲肯*湯普森會想不到,但他並不能明講。
“我認爲這一計劃的前景……尚不明朗。
用計算機代替人進行一些重複性的、有危險的工作,是一回事,但是代替人的思考、決策,則是另一回事,我仍然認爲,計算機的能力並不足以完全取代人的思維,也擔心聯邦軍方、乃至當局,會出於對AI的懷疑而拒絕採購類似系統。”
“你的後一個擔心純屬多餘,作爲用戶,當變革的大潮興起時,根本就沒得選。”
避重就輕,在聯邦軍方是否接受Nemesis這類系統上做文章,看起來,肯*湯普森很想說服眼前的年輕人:
“AI決策系統,是大趨勢,即使聯邦政府和軍方有顧慮,如果不緊跟潮流,一旦其他列強率先採用AI,就會獲得巨大的不對稱優勢,這一點,即使政客和將軍們們暫時想不到,我司也會提醒他們。”
“但我還是認爲,至少在未來幾十年內,人工智能還無法在這一領域超越人類。”
“爲什麼,就憑几篇乾巴巴的論文?
學術界怎麼看待這一問題,畢竟都是理論,我只習慣於用事實說話,這方面的資料……恩,暫時保密,但總而言之,情況可沒有你想象的那樣悲觀。”
湯普森話中所指,方然聽得明白,他知道,“國際商用機器”公司的內網監控程序,肯定向公司提交過自己的網絡查詢瀏覽記錄,其中就包括人工智能、深度學習等領域的若干篇論文,以及,生命科學領域的學術報告。
工作之餘查閱這些,如果對負責人說“自己對AI毫無興趣”,就是拙劣的謊話。
相反,面對動機不明的肯*湯普森,方然索性反客爲主,他援引計算機、人工智能領域的若干篇論文和報告,反問了一個暗含潛臺詞的問題:
“……
既然業界是這樣認爲,那麼,湯普森先生,你覺得在未來五年、至多十年時間裡,類似於Nemesis計劃書中描述的那種AI,出現的概率有多大。”
“五年也許太短,但十年的話……哦。”
不明白方然爲什麼談到了時間,湯普森皺了皺眉頭,讓他說下去。
“當前的世界局勢,先生,您肯定有一些深刻的洞察,那我也不妨直說,既然下一場世界大戰就快要爆發,時間,很可能就在十年、甚至五年之內,那麼不管Nemesis還是其他的人工智能決策系統,都趕不上在這一場戰爭中應用。”
言下之意,不管你、和你的團隊打算利用Nemesis做什麼,時間上恐怕都來不及。
方然的話裡有話,肯*湯普森理解到了幾分,他的想法顯然很不一樣:
“這是你的觀點,方,而未必是現實。
哦,說到這兒,我猜測你可能是根據新聞、消息來推斷,不久之前,聯邦的確開始在北大陸測試陸基激光攔截器,也繼續向太空中部署攔截衛星,但要消解核武器的威脅,這一切就真的足夠了嗎?
你不會真的以爲,幾年之後,列強之間的核威懾就會失效,繼而爆發全面戰爭吧。”
“正是如此。”
一邊慢慢的迴應,一邊琢磨這些話當不當講,片刻的思考,讓方然做出了判斷,他最好拒絕肯*湯普森的邀請。
而項目負責人呢,顯然對他的說法不以爲然:
“就憑激光攔截器,或者,再加上近地軌道的攔截衛星?
這些系統還在測試,根本沒實戰過,就連接近實戰的大規模攔截實驗都還沒有完成。
就我所知,激光器、攔截彈,這些系統的成功率也還沒到百分之百,甚至連百分之九十都很難達到。
哪怕在幾年之後,即便這些系統全都部署完畢,面對羅斯、或者其他敵對力量的上千枚遠程導彈,幾萬枚核彈頭,你真覺得它們能萬無一失,保護聯邦的所有重要目標嗎。”
“重要目標;恩,是一些什麼樣的目標呢,湯普森先生。”
“你想不到嗎,當然是大城市和——”
“到那時,聯邦的大城市,乃至於世界上的所有城市,還有保護的必要麼。”
語氣平淡,話裡帶着一絲不易察覺的冷漠,年輕人的話讓肯*湯普森一時愣住,辦公室裡出現了短暫的沉默。