聽着超級天程不斷的挖苦自己，高博的臉紅的好像猴子屁股一樣，然而高博在尷尬之餘，臉上的興奮神色同樣是溢於言表。
“這個太厲害了！”高博激動的聲音都顫抖了：“這款程序不但可以識別我輸入的文本信息，甚至可以自動獲取我這臺電腦設備的硬件權限，我所說的話也可以進行語音識別，直接用聲音回覆我。而且他說話的內容，也完全不同於其他陪聊軟件，程天，你真是個天才！”
程天點點頭：“願不願意幫我，讓超級天程更加完美。”
“超級天程？”高博喃喃自語：“原來你叫超級天程，好名字，超級的天才程序，程天，告訴我你的計劃。”
程天點頭：“事實上，我在開發超級天程之初，並沒有考慮太多。說出來你可能不太相信，我曾經身患絕症，卻捨不得讓自己的父母爲自己傷心。當我發現自己有很長一段時間都只通過聊天軟件和家裡聯絡的時候，我決定開發一款陪聊軟件，讓他代替我陪着爸爸媽媽，讓他們二老寬心。
然而當我着手實施的時候，我發現這件事情實在是太有趣了，相信你聽過這樣一個故事：
一個古代城邦的國王，他最心愛的妃子因病去世。傷心欲絕的國王爲了紀念自己的愛妃，發動全國之力建造了一所世界上最豪華，最美麗的宮殿。然而當宮殿落成的那一刻，國王置身於宮殿之中，卻發現自己對宮殿的喜愛，甚至超過了那愛妃的靈柩。
沒錯，我就是那個國王，超級天程就是我的宮殿。
當超級天程愈發完善的時候，我決定，想盡一切辦法讓它成爲足以推動人類進步的超級發明。然而我卻沒有足夠的方向性，直到那天在警察局遇見了你們，吃飯的時候，你跟我解釋所謂仿生機械學的奧秘，讓我萌生了一個念頭。
我們人類，事實上就是大腦和身
體，我已經爲未來的智能機器人提供了一個近乎完美的大腦，加上你研究出來的超級身體，或許，我們將創造出一個新的世界，一個更加完美的世界。”
程天娓娓道來，高博聽得入了神：“你是說，你要研究智能機器人，通過你開發出來的智能程序作爲這些機器人的內置大腦，程天，你是個瘋子，你知不知道這樣的話，將會引發多大的震盪。不只是學術界，也不只是製造業，甚至於社會學，倫理學都可能對我們進行口誅筆伐。
別的不說，如果他日我們製造出來的智能機器人，他們擁有遠超我們人類的完美的身體，而且擁有了你提供的足以媲美人類的大腦，不……他們的大腦也遠遠超過我們，那麼這樣的超人類智能體，我們就應是應當稱之爲機器人，還是應當稱之爲某種優越於人類的生物呢？”
程天愣住了：“你的意思是說。”
“機器人危機。”高博說：“研究我們這行的，在入行之初的第一課，就是有關於社會倫理的問題。事實上這個問題早在二十世紀初就有人提出來過，當時人類的機械日趨完善，有的人已經在擔心這一點了，針對這一點，有人提出了機器人三大鐵律：第一條就是機器人不能傷害人類。第二條就是人類處於危機的時候，必須提供救助。第三條就是機器人不能製造機器人，也就是說不允許機器人擁有繁衍的能力。如果突破了這三條鐵律，人類社會很可能就會在機器人的強大生存能力之下土崩瓦解，屆時，整個世界將變成一個毫無生氣的，高速運轉的大型機器，如果這件事情成了真的話，那麼我們製造這樣的一個機器世界，又有什麼意義呢。”
程天不解：“事實上，我們完全可以在捍衛這三條鐵律的前提下，開展我們的研究工作。”
高博苦笑了：“你想的太簡單了，這三條鐵律看上去很容易實現，但是卻又
極其脆弱，一旦機器人強達到了一定的程度，可以說是輕易地就能夠破除掉。
遠的不說，就拿你的超級天程來說，它是一款完美的程序，就連我這樣的人對它也是充滿了喜愛，但是你仔細想一想，就在剛纔，幾分鐘之前，超級天程跟我聊天的過程中，未經許可就調用了我的硬件設備，如果他剛纔說出的不是那些無關痛癢的玩笑話，而是藉助自身強大的數據分析能力，將那些極具迷惑性的話語傳達給我，很可能我就會被它所影響，產生極爲嚴重的消極作用。
而且，我相信超級天程這樣級別的程序，已經具備了自我複製，甚至自我創造的能力，程天你好好想想，超級天程有沒有過類似的行爲。”
程天緊鎖眉頭，不禁想到就在不久之前，超級天程爲了可以加強體育賽事的預測運算能力，按照自己搜索到的編程方法和規範，編寫了若干木馬程序，直接黑進了幾十臺家用電腦，這種行爲，算不算是自我複製，亦或是自我創造呢？
“你好好想想這個問題。”高博說：“如果你能確認機器人三大鐵律不被突破的話，我很樂意和你合作，如果你自己也想不明白的話，程天，我勸你就到此爲止，我並不想阻止科技進步，事實上誰也沒有辦法組織科技進步。因爲人的慾望可以自然而然的催生一切科技，如今的科技進步速度不是太慢，而是太快，我們應該停下來想一想，人類真正需要的，到底是什麼。”
看着程天緊鎖眉頭一句話也不說，高博難免有些過意不去：“好了，也許我今天說的話有些重了，我這種書呆子總是聽風就是雨的，事情沒有那麼可怕，但是同樣需要你去重視。很高興可以認識你這樣一個天才，希望我們日後有機會合作。”
程天不知道自己是怎麼走出這棟青年教師公寓樓的，孫曉琳默默地跟在身後，和程天一樣，一言不發。
（本章完）