現代社會在本質上依賴於自動化系統和人工智能。它已經嵌入到我們的日常生活中，並沒有顯示出放緩的跡象，事實上，對機器人和自動化協助的使用正在不斷增加。人工智能的這種普遍使用給技術專家和開發者帶來了兩個道德難題–我們如何建造行為符合我們價值觀的機器人，以及我們如何阻止它們叛變？

人類已經策劃了最好的人類智能來指導人工智能，希望能創造出完美無缺的機器–但我們遺漏的缺陷會不會是確保機器人不叛變所需的缺失部分？

一位作者建議，一個沒有被充分探索的選項是將更多的人性編碼到機器人中，賦予機器人同理心和同情心等特質。

人性是答案嗎？

在8月出版的一本名為《機器人的靈魂》（Robot Souls）的新書中，作家兼學者Eve Poole OBE博士探討了這樣一個觀點：社會關於如何確保人工智能符合道德的難題的解決方案在於人性。

她認為，在追求完美的過程中，人類剝離了”垃圾代碼”，包括情感、自由意志和目的感。

她說：”正是這些’垃圾’才是人類的核心所在。我們的垃圾代碼包括人類的情感，我們的錯誤傾向，我們講故事的傾向，我們不可思議的第六感，我們應對不確定性的能力，對我們自己的自由意志的不可動搖的意識，以及我們看到我們周圍世界的意義的能力。

“這種垃圾代碼實際上對人類的繁榮至關重要，因為在所有這些片狀和異想天開的特性背後，是一個協調的嘗試，以保持我們的物種安全。它們共同充當了一系列具有共同主題的改善劑：它們使我們保持在社區中，這樣就有了大部分人的安全。”

機器人的靈魂

隨著人工智能在我們的日常生活中越來越多地發揮決策作用，以及人們對人工智能中的偏見和歧視的擔憂不斷增加，普爾博士認為，答案可能就在我們首先試圖從自主機器中剝離的東西中。

她說：”如果我們能破譯這段代碼，即讓我們都想作為一個物種一起生存和發展的部分，我們可以與機器分享它。在所有的意圖和目的上，賦予它們一個’靈魂’。”

在新書中，普爾建議採取一系列下一步措施來實現這一目標，包括商定一個嚴格的監管程序，並立即禁止自主武器，同時建立一個許可製度，規定將任何有關人類生死的最終決定權保留給人類同伴。

她認為，我們還應該商定合法人格的標準和實現這一標準的路線圖。

人類的藍圖

“因為人類是有缺陷的，所以我們在建造人工智能時忽略了很多特性，”普爾解釋說。”人們認為，具有情感和直覺等特徵的機器人，會犯錯誤並尋找意義和目的，不會有好的效果。但在考慮為什麼所有這些非理性的特性都存在時，似乎它們是從靈魂的源代碼中出現的。因為實際上正是這種’垃圾’代碼使我們成為人類，並促進那種使人類保持活力和繁榮的互惠利他主義”。

《機器人的靈魂》著眼於人工智能的發展，回顧了意識和靈魂思想的出現，它將我們的”垃圾代碼”置於這一背景之下，並認為現在是將這一代碼置於首位的時候了，並利用它來重新審視我們如何對人工智能進行編程。