知名科幻小說作家艾薩克‧阿西莫夫(Isaac Asimov)提出了《機器人三原則》(Three Laws of Robotics)。現在Google正利用這些基本規則制定“機器人章程”，防止公司最新開發的機器系統對人類造成潛在傷害。

谷歌正專注於開發能夠根據簡單指令完成複雜任務的機器人，例如整理房間或做一頓美味佳餚。該公司旗下DeepMind團隊為此制定了相應的安全規則。

機器人也很難完成對人來說很簡單的日常工作，因為這需要它們識別並學習如何在各種環境中使用物件和工具。在本週四發布的一篇部落格文章中，DeepMind團隊描述了他們如何使用「基礎」計算模型來幫助機器視覺識別物體，然後執行諸如查看檯面、用海綿擦拭乾淨等工作任務。

這項工作促使谷歌開發了AutoRT系統。這系統可以在各種辦公大樓環境中同時對20多個機器人協調發出安全指令。這個過程很複雜，但也可能帶來潛在的安全風險。例如一個機器人或許會胡亂揮舞切肉刀，或是把一鍋沸騰的水濺到一個人附近。因此，為了確保機器的安全運行，GoogleDeepMind團隊從科幻小說作家阿西莫夫那裡獲得了靈感。

結果就是公司最新機器人系統所遵循的「機器人章程」。谷歌在部落格中寫道：「這些規則的部分靈感來自艾薩克·阿西莫夫的機器人三原則——首先也是最重要的是，機器人『不得傷害人類』。」《細化的安全規則要求機器人不能嘗試會觸及人類、動物、尖銳物體或電器的任務。”

諷刺的是，機器人三原則是有缺陷的。實際上阿西莫夫只是把它們當作一種預設情節來推動故事走向，講述原則的模糊性如何仍會導致衝突和陰謀。例如，阿西莫夫寫的有個故事就涉及機器為了人類進步而犧牲某個人。

谷歌DeepMind團隊指出，機器人章程只是一層安全保障。此外，DeepMind團隊也為最新的機器人系統設計了幾層實用的安全措施，包括能關閉機器人的按鈕。Google表示：「例如，協作機器人關節上的力超過給定閾值時就會自動停止運行，所有活動機器人都保持在人類主管的視線範圍內，並帶有能立刻關閉機器人的物理開關。」（辰辰）