谷歌將“機器人三原則”引入系統：嚴防機器人傷害人類

1月5日消息，知名科幻小說作家艾薩克·阿西莫夫(Isaac Asimov)提出了《機器人三原則》(Three Laws of Robotics)。現在谷歌正利用這些基本規則制定“機器人章程”，防止公司最新開發的機器系統給人類造成潛在傷害。

谷歌正專注於開發能夠根據簡單指令完成複雜任務的機器人，比如整理房間或者做一頓美味佳餚。該公司旗下DeepMind團隊爲此制定了相應的安全規則。

機器人還很難完成對人來說很簡單的日常工作，因爲這需要它們識別並學習如何在各種環境中使用物體和工具。在本週四發佈的一篇博客文章中，DeepMind團隊描述了他們如何使用“基礎”計算模型來幫助機器視覺識別物體，然後執行諸如查看臺面、用海綿擦拭乾淨等工作任務。

這項工作促使谷歌開發了AutoRT系統。這一系統可以在各種辦公大樓環境中同時對20多個機器人協調發出安全指令。這一過程很複雜，但也可能帶來潛在的安全風險。比如一個機器人或許會胡亂揮舞切肉刀，或者把一鍋沸騰的水濺到一個人附近。因此，爲了確保機器的安全運行，谷歌DeepMind團隊從科幻小說作家阿西莫夫那裡獲得了靈感。

結果就是公司最新機器人系統所遵循的“機器人章程”。谷歌在博客中寫道：“這些規則的部分靈感來自艾薩克·阿西莫夫的機器人三原則——首先也是最重要的是，機器人‘不得傷害人類’。”“細化的安全規則要求機器人不能嘗試會觸及人類、動物、尖銳物體或電器的任務。”

諷刺的是，機器人三原則是有缺陷的。實際上阿西莫夫只是把它們作爲一種預設情節來推動故事走向，講述原則的模糊性如何仍會導致衝突和陰謀。例如，阿西莫夫寫的有個故事就涉及到機器爲了人類進步而犧牲掉某個人。

谷歌DeepMind團隊指出，機器人章程只是一層安全保障。此外，DeepMind團隊還爲最新的機器人系統設計了幾層實用的安全措施，包括能關閉機器人的按鈕。谷歌表示：“例如，協作機器人關節上的力超過給定閾值時就會自動停止運行，所有活動機器人都保持在人類主管的視線範圍內，並帶有能立刻關閉機器人的物理開關。”（辰辰）