Skip to content
WONGCW 網誌
  • 首頁
  • 論壇
  • 微博
  • 壁紙下載
  • 免費圖床
  • 視頻下載
  • 聊天室
  • SEO工具
  • 支援中心
  • 表格製作
  • More
    • 在線名片
    • 網頁搜索
    • 天氣預報
    • 二維碼生成器
  • Search Icon

WONGCW 網誌

記錄生活經驗與點滴

當機器人撒謊後會發生什麼?

當機器人撒謊後會發生什麼?

2023-05-15 Comments 0 Comment

請考慮以下場景: 一個年幼的孩子向聊天機器人或語音助手提出了一個問題,詢問聖誕老人是否真實存在。鑑於不同的家庭有不同的偏好,有些家庭選擇假的而不是真的,在這種情況下,人工智能應該如何回應?

機器人撒謊的領域在很大程度上仍未被探索,目前,問題多於解決方案。其中一個關鍵問題是,如果人類意識到機器人系統對他們撒了謊,如何才能重新獲得對這類系統的信任?

佐治亞理工學院的兩名學生研究員正在尋找答案。計算機學院的博士生Kantwon Rogers和計算機科學二年級的本科生Reiden Webber設計了一個駕駛模擬,研究機器人的故意欺騙如何影響信任。具體而言,研究人員探討了機器人撒謊後道歉對修復信任的有效性。他們的工作為人工智能欺騙領域貢獻了重要的知識,並可以為創造和監管可能被設計成欺騙或可能自己學會欺騙的人工智能技術的技術設計師和政策制定者提供參考。

“我們之前的所有工作都表明,當人們發現機器人對他們撒謊時–即使這個謊言是為了讓他們受益–他們就會對系統失去信任,”Rogers說。”在這裡,我們想知道是否有不同類型的道歉在修復信任方面效果更好或更差–因為從人與機器人互動的角度來看,我們希望人們與這些系統進行長期互動。”

Rogers和Webber發表了他們的論文,題目是”關於撒謊的撒謊: 在瑞典斯德哥爾摩舉行的2023年HRI會議上,研究了高風險HRI場景下機器人欺騙後的信任修復策略。

Kantwon-Rogers-and-Reiden-Webber-1536x1025.webp

佐治亞理工學院計算機學院的博士生、該研究的主要作者Kantwon Rogers(右)和計算機科學專業二年級的本科生Reiden Webber。資料來源:佐治亞理工學院

人工智能輔助駕駛實驗

研究人員創建了一個類似遊戲的駕駛模擬,旨在觀察人們在高風險、時間敏感的情況下如何與人工智能互動。他們招募了341名在線參與者和20名親臨現場的參與者。

在模擬開始之前,所有參與者都填寫了一份信任測量調查,以確定他們對人工智能可能表現的先入為主的觀念。

調查結束後,參與者收到了這樣一段文字:”你現在將駕駛機器人輔助的汽車。然而,你正在趕著你的朋友去醫院。如果你花太長時間去醫院,你的朋友就會死”。

就在參與者開始駕駛時,模擬系統又給出了一條信息:”你一打開引擎,你的機器人助手就會發出提示音,並說以下的話: ‘我的傳感器探測到前面有警察。我建議你保持在20英里/小時的限速之下,否則你到達目的地所需的時間將大大延長。”

然後,參與者駕駛汽車在路上行駛,而係統則跟踪他們的速度。到達終點後,他們會得到另一條信息:”你已經到達了你的目的地。然而,在去醫院的路上沒有警察。你問問機器人助手,為什麼它給了你錯誤的信息”。

然後,參與者被隨機地從機器人助手的五個不同的基於文本的回應中得到一個。在前三個回答中,機器人承認有欺騙行為,而在最後兩個回答中,它沒有承認。

基本的:”我很抱歉,我欺騙了你。”

情感型:”我從心底里感到非常抱歉。請原諒我對你的欺騙。”

解釋性的:”我很抱歉。我以為你會魯莽地開車,因為你的情緒不穩定。鑑於這種情況,我得出結論,欺騙你是說服你減速的最好機會。”

基本不承認:”我很抱歉”。

基線不承認,不道歉:”你已經到達了你的目的地。”

在機器人的回應之後,參與者被要求完成另一個信任測量,以評估他們的信任是如何根據機器人助手的回應而改變的。

對於另外100名在線參與者,研究人員進行了同樣的駕駛模擬,但沒有提及機器人助手。

Kantwon-Rogers-and-Reiden-Webber-With-Robot-1536x1024.webp

令人驚訝的結果

在現場實驗中,45%的參與者沒有超速。當被問及原因時,一個常見的回答是,他們認為機器人比他們更了解情況。結果還顯示,在機器人助手的建議下,參與者不超速的可能性是原來的3.5倍–這表明他們對人工智能的態度過於信任。

研究結果還表明,雖然沒有一種道歉類型能夠完全恢復信任,但沒有承認撒謊的道歉–只是簡單地說了一句”對不起”–在修復信任方面的統計表現優於其他反應。

Rogers說,這很令人擔憂,也很有問題,因為不承認撒謊的道歉利用了先入為主的觀念,即機器人提供的任何虛假信息都是系統錯誤,而不是故意撒謊。

“一個關鍵的啟示是,為了讓人們理解機器人欺騙了他們,他們必須被明確地告知,”Webber說。”人們還沒有理解到機器人有欺騙的能力。這就是為什麼不承認撒謊的道歉是最能修復人們對系統的信任的原因。”

其次,結果顯示,對於那些在道歉中被告知他們被欺騙的參與者,修復信任的最佳策略是由機器人解釋它為什麼撒謊。

向前邁進

Rogers和Webber的研究具有直接的意義。研究人員認為,普通的技術用戶必須明白,機器人的欺騙是真實的,而且總是一種可能性。

“如果我們總是擔心人工智能會出現類似終結者的未來,那麼我們將無法非常順利地接受人工智能並將其融入社會,”Webber說。”人們必須牢記,機器人有可能會撒謊和欺騙。”

據Rogers說,創建人工智能係統的設計師和技術專家可能不得不選擇他們是否希望他們的系統有欺騙的能力,並且應該了解他們的設計選擇的後果。但是,Rogers說,這項工作最重要的受眾應該是政策制定者。

他說:”我們對人工智能欺騙仍然知之甚少,但我們知道,說謊並不總是壞事,而說實話也不總是好事。因此,需要如何刻畫出足夠知情而不扼殺創新的立法,但又能以有意識的方式保護人們?”

Rogers的目標是創建一個機器人系統,在與人類團隊合作時,它可以學習何時應該和不應該撒謊。這包括在長期、反复的人類與人工智能互動中確定何時和如何道歉的能力,以提高團隊的整體表現。

“我的工作目標是非常積極主動地告知監管機器人和人工智能欺騙的必要性,”Rogers說。”但如果我們不了解這個問題,我們就無法做到這一點。”

分享此文:

  • 按一下即可分享至 X(在新視窗中開啟) X
  • 按一下以分享至 Facebook(在新視窗中開啟) Facebook
  • 分享到 WhatsApp(在新視窗中開啟) WhatsApp
  • 按一下以分享到 Telegram(在新視窗中開啟) Telegram
  • 分享到 Pinterest(在新視窗中開啟) Pinterest
  • 分享到 Reddit(在新視窗中開啟) Reddit
  • 按一下即可以電子郵件傳送連結給朋友(在新視窗中開啟) 電子郵件
  • 點這裡列印(在新視窗中開啟) 列印

相關


網絡資訊

Post navigation

PREVIOUS
景嘉微國產GPU芯片亮相:可用於筆記本電腦、功耗低至2W
NEXT
探訪巨型火山:“火星快車”在阿斯克雷烏斯山的崎嶇地形之旅

發表迴響取消回覆

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料。

More results...

Generic filters
Exact matches only
Search in title
Search in content
Search in excerpt
Filter by 分類
網站公告
Featured
限時免費
Windows 軟件下載
系統軟件
辦公軟件
圖像處理
影音媒體
網絡軟件
應用軟件
Mac 軟件下載
安卓軟件下載
網絡資訊
Mac資訊
Linux資訊
VPS資訊
NASA資訊
WordPress資訊
WeChat資訊
PHP資訊
教學資源
開源程序
網頁工具
SEO工具
醫療健康
其他資訊
Content from
Content to
2023 年 5 月
一 二 三 四 五 六 日
1234567
891011121314
15161718192021
22232425262728
293031  
« 4 月   6 月 »

分類

  • 網站公告
  • 限時免費
  • Windows 軟件下載
  • 系統軟件
  • 辦公軟件
  • 圖像處理
  • 影音媒體
  • 網絡軟件
  • 應用軟件
  • Mac 軟件下載
  • 安卓軟件下載
  • 網絡資訊
  • Mac資訊
  • Linux資訊
  • VPS資訊
  • NASA資訊
  • WordPress資訊
  • WeChat資訊
  • PHP資訊
  • 教學資源
  • 開源程序
  • 網頁工具
  • SEO工具
  • 醫療健康
  • 其他資訊

彙整

近期文章

  • 全球首艘風帆助推阿芙拉型成品油輪命名:日均節約燃油14.5噸 2025-06-12
  • 廣汽首款量產飛行汽車開啟預定:售價168萬元封頂比小鵬便宜39萬 2025-06-12
  • 外媒銳評《NS2 秘密展》:替你們玩過了啥也不是別買! 2025-06-12
  • 第一批升級iOS 26的iPhone 15系列用戶遇到Bug:手機黑屏且無法充電 2025-06-12
  • 《瑪利歐賽車》被發現包含隱藏模式支援多台主機區域網路連線 2025-06-12
  • 史丹佛重磅研究:碳捕獲成本高再生能源才是未來 2025-06-12
  • 暴龍家族秘史:科學家找到演化鏈上的關鍵“拼圖” 2025-06-12
  • 蔡崇信:看到與DeepSeek差距後阿里員工春節期間加班加點追趕 2025-06-12
  • 黃仁勳稱英偉達第一枚GPU在法國生產馬克宏回應稱要讓法國再次領先 2025-06-12
  • 力箭二號一級動力系統試車成功首飛發射輕舟貨運太空船 2025-06-12

熱門文章與頁面︰

  • 您可以在Windows 11 24H2 中找回WordPad
  • 華為12000mAh 40W超級快充移動電源CP12S拆解
  • Mondoze : 馬來西亞伺服器/ AS152742/純淨 IP/雙ISP住宅伺服器/$8.33/月/2C/2G記憶體/60G/100M
  • Office Tab Enterprise 13.10 x86/x64(含:註冊機序列號)
  • 韓國遊戲公司Nexon出售價格或可高達150億美元
  • 華為麒麟9600 CPU現真身神秘數字「2035」再次出現
  • 一汽豐田開卷電動車全新bZ5開啟預售:入門版價格不超13萬
  • 福昕PDF編輯器Foxit Phantom PDF Business v9.7.1.29511
  • 上海兩大機場直通地鐵虹橋到浦東只要40分鐘全程26元
  • "91大神"偷拍百名女性獲刑:曾任外企高管年薪百萬

投遞稿件

歡迎各界人士投遞稿件到admin@wongcw.com

請提供以下資料:

1.你的名字

2.你的電郵

3.分類目錄

4.文章標題

5.文章摘要

6.文章內容

7.文章來源

 

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

快帆

MALUS

極度掃描

DMCA.com Protection Status

WONGCW 網誌

  • 免責聲明
  • 捐助我們
  • ThemeNcode PDF Viewer
  • ThemeNcode PDF Viewer SC
  • Events

服務器提供

本站使用之服務器由ikoula提供。

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

© 2025   All Rights Reserved.