Skip to content
WONGCW 網誌
  • 首頁
  • 論壇
  • 微博
  • 壁紙下載
  • 免費圖床
  • 視頻下載
  • 聊天室
  • SEO工具
  • 支援中心
  • 表格製作
  • More
    • 在線名片
    • 網頁搜索
    • 天氣預報
    • 二維碼生成器
  • Search Icon

WONGCW 網誌

記錄生活經驗與點滴

微軟宣稱其新工具可糾正人工智慧幻覺但專家仍對此表示懷疑

微軟宣稱其新工具可糾正人工智慧幻覺但專家仍對此表示懷疑

2024-09-25 Comments 0 Comment

人工智慧經常胡言亂語,微軟現在說它有辦法解決這個問題,但我們有理由對此持懷疑態度。微軟今天發布了一項名為”更正”(Correction)的服務,它可以自動修改人工智慧產生的與事實不符的文字。 Correction 首先會標記出可能存在錯誤的文本–例如,公司季度財報電話會議的摘要可能存在錯誤的引文–然後通過將文本與事實來源(如文字記錄)進行比較來進行事實核查。

作為微軟Azure AI 內容安全API 的一部分,Correction 可與任何文字產生AI 模型一起使用,包括Meta 的Llama和OpenAI 的GPT-4o。

“校正由一個利用小型語言模型和大型語言模型的新流程提供支持,以便使輸出與基礎文件保持一致,”微軟發言人表示。 “我們希望這項新功能能為醫學等領域的生成式人工智慧建構者和使用者提供支持,在這些領域,應用開發者認為回應的準確性非常重要。”

今年夏天,Google在其人工智慧開發平台Vertex AI 中推出了一項類似功能,讓客戶可以透過使用第三方提供者的資料、自己的資料集或Google搜尋來”磨合”模型。

但專家提醒,這些接地方法並不能從根本解決幻覺問題。華盛頓大學研究新興科技倫理影響的博士候選人奧斯-凱耶斯(Os Keyes)說:「試圖從生成式人工智慧中消除幻覺,就像試圖從水中消除氫氣一樣不切實際,因為幻覺本身就是技術運作的一個重要組成部分。

文本生成模型會產生幻覺,因為它們實際上什麼都不”知道”。它們是一種統計系統,能辨識一系列單字中的模式,並根據它們所訓練的無數實例預測下一個單字。

由此可見,模型的回答並不是答案,而只是預測如果問題出現在訓練集中會如何回答。因此,模型往往會對真相玩弄於股掌之間。一項研究發現,OpenAI 的ChatGPT有一半的時間會弄錯醫療問題。

微軟的解決方案是一對交叉引用、類似文案編輯器的元模型,旨在突出和改寫幻覺。

分類器模型會尋找人工智慧產生的文本中可能存在的錯誤、捏造或不相關的片段(幻覺)。如果偵測到幻覺,分類器就會引入第二個模型,即語言模型,試圖根據指定的”基礎檔案”修正幻覺。

“透過幫助應用程式開發人員減少用戶不滿和潛在的聲譽風險,修正可以大大提高人工智慧生成內容的可靠性和可信度,」微軟發言人說。 “需要注意的是,接地性檢測並不能解決’準確性’問題,但有助於使人工智慧的生成輸出與接地文件保持一致。”

凱耶斯對此表示懷疑。 “這可能會減少一些問題,但也會產生新的問題。畢竟,Correction的幻覺檢測庫估計也能產生幻覺。”

在被問及有關Correction 模型的背景介紹時,發言人指出,微軟研究團隊最近發表了一篇論文,描述了這些模型的預生產架構。但論文忽略了一些關鍵細節,例如使用了哪些資料集來訓練模型。

瑪麗皇后大學專門研究人工智慧的研究員邁克-庫克(Mike Cook)認為,即使”Correction”能像宣傳的那樣發揮作用,它也有可能加劇人工智慧的信任和可解釋性問題。這項服務可能會捕捉到一些錯誤,但也可能讓使用者陷入虛假的安全感–以為模型比實際情況更真實。

他說:「微軟與OpenAI 和Google一樣,都造成了這樣一個問題,即在模型經常出錯的場景中依賴模型。微軟現在所做的是在更高層次上重蹈覆轍。比方說,這讓我們從90 % 的安全性提高到了99% 的安全性–問題其實並不在那9%。

庫克補充說,微軟捆綁”修正”功能還有商業考量,該功能本身是免費的,但每月最多只能免費提供5000 條”文本記錄”。之後,每1000 筆文字記錄需支付38 美分。

微軟無疑面臨著向客戶和股東證明其人工智慧值得投資的壓力。僅在第二季度,這家科技巨頭就在資本支出和設備方面投入了近190 億美元,其中大部分與人工智慧有關。然而,該公司尚未從人工智慧中獲得可觀的收入。本週,一位華爾街分析師下調了該公司的股票評級,理由是對其長期人工智慧策略存有疑慮。

根據《The Information》的一篇文章稱,由於效能和成本問題,許多早期採用者已經暫停部署微軟的旗艦生成式人工智慧平台–Microsoft 365 Copilot。據報道,對於一個使用Copilot 進行Microsoft Teams 會議的客戶來說,人工智慧發明了與會者,並暗示通話的主題實際上從未討論過。

畢馬威會計師事務所(KPMG)的一項民意調查顯示,在試用人工智慧工具時,準確性和可能出現的幻覺是企業目前最擔心的問題。

庫克說:”如果這是一個正常的產品生命週期,那么生成式人工智慧仍將處於學術研發階段,並在不斷改進和了解其優缺點。相反,我們已經把它部署到了十幾個行業。微軟和其他公司已經把所有人都裝上了他們的發動機,並決定在前往目的地的途中建造起落架和降落傘。

分享此文:

  • 按一下即可分享至 X(在新視窗中開啟) X
  • 按一下以分享至 Facebook(在新視窗中開啟) Facebook
  • 分享到 WhatsApp(在新視窗中開啟) WhatsApp
  • 按一下以分享到 Telegram(在新視窗中開啟) Telegram
  • 分享到 Pinterest(在新視窗中開啟) Pinterest
  • 分享到 Reddit(在新視窗中開啟) Reddit
  • 按一下即可以電子郵件傳送連結給朋友(在新視窗中開啟) 電子郵件
  • 點這裡列印(在新視窗中開啟) 列印

相關


網絡資訊

Post navigation

PREVIOUS
未來的Apple Vision Pro可幫助傷患緩解傷痛避免藥物成癮
NEXT
Google為Workspace商業客戶帶來獨立的Gemini應用

發表迴響取消回覆

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料。

More results...

Generic filters
Exact matches only
Search in title
Search in content
Search in excerpt
Filter by 分類
網站公告
Featured
赫思醫美
限時免費
Windows 軟件下載
系統軟件
辦公軟件
圖像處理
影音媒體
網絡軟件
應用軟件
Mac 軟件下載
安卓軟件下載
網絡資訊
Mac資訊
Linux資訊
VPS資訊
NASA資訊
WordPress資訊
WeChat資訊
PHP資訊
教學資源
開源程序
網頁工具
SEO工具
醫療健康
其他資訊
Content from
Content to
2024 年 9 月
一 二 三 四 五 六 日
 1
2345678
9101112131415
16171819202122
23242526272829
30  
« 8 月   10 月 »

分類

  • 網站公告
  • 赫思醫美
  • 限時免費
  • Windows 軟件下載
  • 系統軟件
  • 辦公軟件
  • 圖像處理
  • 影音媒體
  • 網絡軟件
  • 應用軟件
  • Mac 軟件下載
  • 安卓軟件下載
  • 網絡資訊
  • Mac資訊
  • Linux資訊
  • VPS資訊
  • NASA資訊
  • WordPress資訊
  • WeChat資訊
  • PHP資訊
  • 教學資源
  • 開源程序
  • 網頁工具
  • SEO工具
  • 醫療健康
  • 其他資訊

彙整

近期文章

  • 暑假矯正季,讓笑容更閃亮! 2025-07-18
  • 告別鬆弛皺紋!熱瑪姬的『射頻技術』如何打造凍齡肌膚? 2025-07-18
  • Firefox新版本將支援Chrome已有多年的WebGPU功能 2025-07-17
  • 彩虹正式上架統信UOS 直接運行Windows應用 2025-07-17
  • 美團高層承諾:將保證美團騎士收入永遠站穩藍領第一梯隊 2025-07-17
  • 科尼賽克CEO直言:電動超跑沒有靈魂我們不造 2025-07-17
  • HTC預告VIVE神秘新品或為首款智慧眼鏡 2025-07-17
  • 據傳PS5 Pro將在明年5月進行性能升級推測為《GTA6》做準備 2025-07-17
  • 德國玩家偏愛A卡銷量佔65%超NV:RX9070XT賣最好 2025-07-17
  • 三星和SK海力士因意外需求推遲DDR4記憶體淘汰計劃 2025-07-17

熱門文章與頁面︰

  • 無3C行動電源禁止登機一文看懂到底什麼是3C認證、如何分辨真偽
  • Autodesk AutoCAD 2020.1 正式版-簡體中文/繁體中文/英文
  • 告別鬆弛皺紋!熱瑪姬的『射頻技術』如何打造凍齡肌膚?
  • 思恩時代開業福利
  • 巴西一11歲女孩長了81顆牙齒醫師直呼活久見
  • 暑假矯正季,讓笑容更閃亮!
  • 鳥寶寶有多內捲?為了讓父母投餵自己長出恐怖的嘴巴
  • 您可以在Windows 11 24H2 中找回WordPad
  • 一鍵GHOST v2020.07.20 正式版-硬盤版/光盤版/優盤版/軟盤版
  • 《集合啦!動物森友會》玩家可將整個島嶼遷移至Switch2

投遞稿件

歡迎各界人士投遞稿件到admin@wongcw.com

請提供以下資料:

1.你的名字

2.你的電郵

3.分類目錄

4.文章標題

5.文章摘要

6.文章內容

7.文章來源

 

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

赫思醫美

快帆

MALUS

極度掃描

DMCA.com Protection Status

WONGCW 網誌

  • 免責聲明
  • 捐助我們
  • ThemeNcode PDF Viewer
  • ThemeNcode PDF Viewer SC
  • Events

服務器提供

本站使用之服務器由ikoula提供。

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

© 2025   All Rights Reserved.