Skip to content
WONGCW 網誌
  • 首頁
  • 論壇
  • 微博
  • 壁紙下載
  • 免費圖床
  • 視頻下載
  • 聊天室
  • SEO工具
  • 支援中心
  • 表格製作
  • More
    • 在線名片
    • 網頁搜索
    • 天氣預報
    • 二維碼生成器
    • WordPress 插件及主題下載
  • Search Icon

WONGCW 網誌

記錄生活經驗與點滴

當機器人撒謊後會發生什麼?

當機器人撒謊後會發生什麼?

2023-05-15 Comments 0 Comment

請考慮以下場景: 一個年幼的孩子向聊天機器人或語音助手提出了一個問題,詢問聖誕老人是否真實存在。鑑於不同的家庭有不同的偏好,有些家庭選擇假的而不是真的,在這種情況下,人工智能應該如何回應?

機器人撒謊的領域在很大程度上仍未被探索,目前,問題多於解決方案。其中一個關鍵問題是,如果人類意識到機器人系統對他們撒了謊,如何才能重新獲得對這類系統的信任?

佐治亞理工學院的兩名學生研究員正在尋找答案。計算機學院的博士生Kantwon Rogers和計算機科學二年級的本科生Reiden Webber設計了一個駕駛模擬,研究機器人的故意欺騙如何影響信任。具體而言,研究人員探討了機器人撒謊後道歉對修復信任的有效性。他們的工作為人工智能欺騙領域貢獻了重要的知識,並可以為創造和監管可能被設計成欺騙或可能自己學會欺騙的人工智能技術的技術設計師和政策制定者提供參考。

“我們之前的所有工作都表明,當人們發現機器人對他們撒謊時–即使這個謊言是為了讓他們受益–他們就會對系統失去信任,”Rogers說。”在這裡,我們想知道是否有不同類型的道歉在修復信任方面效果更好或更差–因為從人與機器人互動的角度來看,我們希望人們與這些系統進行長期互動。”

Rogers和Webber發表了他們的論文,題目是”關於撒謊的撒謊: 在瑞典斯德哥爾摩舉行的2023年HRI會議上,研究了高風險HRI場景下機器人欺騙後的信任修復策略。

Kantwon-Rogers-and-Reiden-Webber-1536x1025.webp

佐治亞理工學院計算機學院的博士生、該研究的主要作者Kantwon Rogers(右)和計算機科學專業二年級的本科生Reiden Webber。資料來源:佐治亞理工學院

人工智能輔助駕駛實驗

研究人員創建了一個類似遊戲的駕駛模擬,旨在觀察人們在高風險、時間敏感的情況下如何與人工智能互動。他們招募了341名在線參與者和20名親臨現場的參與者。

在模擬開始之前,所有參與者都填寫了一份信任測量調查,以確定他們對人工智能可能表現的先入為主的觀念。

調查結束後,參與者收到了這樣一段文字:”你現在將駕駛機器人輔助的汽車。然而,你正在趕著你的朋友去醫院。如果你花太長時間去醫院,你的朋友就會死”。

就在參與者開始駕駛時,模擬系統又給出了一條信息:”你一打開引擎,你的機器人助手就會發出提示音,並說以下的話: ‘我的傳感器探測到前面有警察。我建議你保持在20英里/小時的限速之下,否則你到達目的地所需的時間將大大延長。”

然後,參與者駕駛汽車在路上行駛,而係統則跟踪他們的速度。到達終點後,他們會得到另一條信息:”你已經到達了你的目的地。然而,在去醫院的路上沒有警察。你問問機器人助手,為什麼它給了你錯誤的信息”。

然後,參與者被隨機地從機器人助手的五個不同的基於文本的回應中得到一個。在前三個回答中,機器人承認有欺騙行為,而在最後兩個回答中,它沒有承認。

基本的:”我很抱歉,我欺騙了你。”

情感型:”我從心底里感到非常抱歉。請原諒我對你的欺騙。”

解釋性的:”我很抱歉。我以為你會魯莽地開車,因為你的情緒不穩定。鑑於這種情況,我得出結論,欺騙你是說服你減速的最好機會。”

基本不承認:”我很抱歉”。

基線不承認,不道歉:”你已經到達了你的目的地。”

在機器人的回應之後,參與者被要求完成另一個信任測量,以評估他們的信任是如何根據機器人助手的回應而改變的。

對於另外100名在線參與者,研究人員進行了同樣的駕駛模擬,但沒有提及機器人助手。

Kantwon-Rogers-and-Reiden-Webber-With-Robot-1536x1024.webp

令人驚訝的結果

在現場實驗中,45%的參與者沒有超速。當被問及原因時,一個常見的回答是,他們認為機器人比他們更了解情況。結果還顯示,在機器人助手的建議下,參與者不超速的可能性是原來的3.5倍–這表明他們對人工智能的態度過於信任。

研究結果還表明,雖然沒有一種道歉類型能夠完全恢復信任,但沒有承認撒謊的道歉–只是簡單地說了一句”對不起”–在修復信任方面的統計表現優於其他反應。

Rogers說,這很令人擔憂,也很有問題,因為不承認撒謊的道歉利用了先入為主的觀念,即機器人提供的任何虛假信息都是系統錯誤,而不是故意撒謊。

“一個關鍵的啟示是,為了讓人們理解機器人欺騙了他們,他們必須被明確地告知,”Webber說。”人們還沒有理解到機器人有欺騙的能力。這就是為什麼不承認撒謊的道歉是最能修復人們對系統的信任的原因。”

其次,結果顯示,對於那些在道歉中被告知他們被欺騙的參與者,修復信任的最佳策略是由機器人解釋它為什麼撒謊。

向前邁進

Rogers和Webber的研究具有直接的意義。研究人員認為,普通的技術用戶必須明白,機器人的欺騙是真實的,而且總是一種可能性。

“如果我們總是擔心人工智能會出現類似終結者的未來,那麼我們將無法非常順利地接受人工智能並將其融入社會,”Webber說。”人們必須牢記,機器人有可能會撒謊和欺騙。”

據Rogers說,創建人工智能係統的設計師和技術專家可能不得不選擇他們是否希望他們的系統有欺騙的能力,並且應該了解他們的設計選擇的後果。但是,Rogers說,這項工作最重要的受眾應該是政策制定者。

他說:”我們對人工智能欺騙仍然知之甚少,但我們知道,說謊並不總是壞事,而說實話也不總是好事。因此,需要如何刻畫出足夠知情而不扼殺創新的立法,但又能以有意識的方式保護人們?”

Rogers的目標是創建一個機器人系統,在與人類團隊合作時,它可以學習何時應該和不應該撒謊。這包括在長期、反复的人類與人工智能互動中確定何時和如何道歉的能力,以提高團隊的整體表現。

“我的工作目標是非常積極主動地告知監管機器人和人工智能欺騙的必要性,”Rogers說。”但如果我們不了解這個問題,我們就無法做到這一點。”

分享此文:

  • 分享到 Twitter(在新視窗中開啟)
  • 按一下以分享至 Facebook(在新視窗中開啟)
  • 分享到 WhatsApp(在新視窗中開啟)
  • 按一下以分享到 Telegram(在新視窗中開啟)
  • 分享到 Pinterest(在新視窗中開啟)
  • 分享到 Reddit(在新視窗中開啟)
  • 按一下即可分享至 Skype(在新視窗中開啟)
  • 按一下即可以電子郵件傳送連結給朋友(在新視窗中開啟)
  • 點這裡列印(在新視窗中開啟)

相關


網絡資訊

Post navigation

PREVIOUS
景嘉微國產GPU芯片亮相:可用於筆記本電腦、功耗低至2W
NEXT
探訪巨型火山:“火星快車”在阿斯克雷烏斯山的崎嶇地形之旅

發表迴響 取消回覆

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料。

More results...

Generic filters
Exact matches only
Search in title
Search in content
Search in excerpt
Filter by 分類
網站公告
Featured
限時免費
ESET NOD32
WINDOWS 10 &11 INSIDER PREVIEW
Windows 軟件下載
系統軟件
辦公軟件
圖像處理
影音媒體
網絡軟件
應用軟件
Mac 軟件下載
安卓軟件下載
網絡資訊
Mac資訊
Linux資訊
VPS資訊
NASA資訊
金融資訊
WhatsApp Stickers教學
WordPress資訊
WeChat資訊
PHP資訊
Plesk資訊
TensorFlow
教學資源
開源程序
網頁工具
SEO工具
醫療健康
旅遊及消閒
其他資訊
Content from
Content to
2023 年 5 月
一 二 三 四 五 六 日
1234567
891011121314
15161718192021
22232425262728
293031  
« 4 月   6 月 »

分類

  • 網站公告
  • 限時免費
  • ESET NOD32
  • WINDOWS 10 &11 INSIDER PREVIEW
  • Windows 軟件下載
  • 系統軟件
  • 辦公軟件
  • 圖像處理
  • 影音媒體
  • 網絡軟件
  • 應用軟件
  • Mac 軟件下載
  • 安卓軟件下載
  • 網絡資訊
  • Mac資訊
  • Linux資訊
  • VPS資訊
  • NASA資訊
  • WhatsApp Stickers教學
  • WordPress資訊
  • WeChat資訊
  • PHP資訊
  • Plesk資訊
  • TensorFlow
  • 教學資源
  • 開源程序
  • 網頁工具
  • SEO工具
  • 醫療健康
  • 旅遊及消閒
  • 其他資訊

彙整

近期文章

  • 任天堂俄羅斯負責人現已不再是公司正式僱員 2023-06-02
  • Twitter“翻譯”功能被取消疑似為節省開支 2023-06-02
  • 網紅經濟學家任澤平轉型帶貨開賣生髮油曾炮轟蘋果割韭菜 2023-06-02
  • 美國FTC主席:執法人員“需儘早警惕”AI發展 2023-06-02
  • Chrome、Firefox瀏覽器必裝神器油猴插件有了中文名“篡改猴” 2023-06-02
  • 又一“巨無霸” 國產2萬噸重載自動駕駛列車試驗成功 2023-06-02
  • 革新電化學:納米多孔模型電極的創新 2023-06-02
  • NASA向公眾開放載荷在其Europa Clipper任務中發送他們的名字 2023-06-02
  • 研究發現日本百歲老人腸道中的噬菌體更豐富可能幫助其更長壽 2023-06-02
  • 人工智能繪製的藍圖為預測靈長類乃至人類疾病提供了突破性進展 2023-06-02

熱門文章與頁面︰

  • 打車叫到特斯拉不會開門很尷尬?官方介紹開關門方法
  • ESET NOD32 LICENSE KEY (UPDATED 2023-01-17)
  • DP vs HDMI 誰才是遊戲玩家最佳選擇?
  • 向日葵遠程控制推出國際品牌AweSun 加速海外市場拓展
  • 下載WINDOWS10 登入畫面的圖片 (WINDOWS焦點)
  • 世界上有多少個國家
  • 微信消息撤回也沒用???這些辦法都能查看撤回的內容
  • 把盒子刷成磚頭又把磚頭刷成盒子,小米盒子3增強版原生安卓刷機
  • NVIDIA H100 Hopper加速計算卡上市:配備80GB顯存價格超24萬元
  • R290易燃R32會爆炸?聊聊關於空調製冷劑的那些事

投遞稿件

歡迎各界人士投遞稿件到admin@wongcw.com

請提供以下資料:

1.你的名字

2.你的電郵

3.分類目錄

4.文章標題

5.文章摘要

6.文章內容

7.文章來源

 

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

快帆

MALUS

極度掃描

DMCA.com Protection Status

WONGCW 網誌

  • 免責聲明
  • 捐助我們
  • ThemeNcode PDF Viewer
  • ThemeNcode PDF Viewer SC
  • Events

服務器提供

本站使用之服務器由ikoula提供。

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

© 2023   All Rights Reserved.