人工智慧助理可能很快就會在早期預測和塑造我們的決策方面發揮關鍵作用，並將這些新出現的”意圖”實時出售給準備滿足我們需求的公司–有時甚至在我們有意識地做出決定之前。劍橋大學的人工智慧倫理學家強調了這個被稱為”意圖經濟”的概念。 他們警告說，從購買電影票到投票，數位意向訊號將成為一個利潤豐厚的新興市場，而且可能令人不安。

劍橋大學勒弗胡爾姆未來智慧中心（LCFI）的專家認為，生成式人工智慧的快速發展和我們對聊天機器人的日益依賴，標誌著”說服性技術”新時代的開始。 他們指出，這些發展與大型科技公司最近的策略舉措相吻合，暗示了這一新興領域日益增長的潛力。

“擬人化”人工智慧代理，從聊天機器人助理到數位家教和女朋友，都將獲得大量私密的心理和行為數據，這些數據通常是透過非正式的口語對話收集的。

研究人員說，這種人工智慧將把對我們在線習慣的了解與一種不可思議的能力結合起來，以我們認為舒適的方式來適應我們–模仿個性和預測期望的反應–從而建立信任和理解水平，從而實現工業規模的社會操縱。

LCFI訪問學者雅克布·喬杜里（Yaqub Chaudhary）博士說：「人們正在花費巨大的資源，將人工智慧助理定位在生活的各個領域，這就應該提出一個問題，即這些所謂的助手是為了誰的利益和目的而設計的。人們在交談時說了什麼，他們是如何說的，以及由此可以即時做出的推斷類型，這些都比僅僅記錄在線互動要親密得多。預測，並最終操縱和商品化人類的計劃和目的。

劍橋LCFI 的技術歷史學家喬尼·佩恩（Jonnie Penn）博士說：”幾十年來，注意力一直是互聯網的貨幣。透過Facebook 和Instagram 等社交媒體平台分享你的注意力推動了網路經濟的發展。對於那些瞄準、引導和出售人類意圖的人來說，這將是一場淘金熱。包括自由公正的選舉、新聞自由和公平的市場競爭。

在一篇新的《哈佛數據科學評論》（Harvard Data Science Review）論文中，佩恩和喬杜里寫道，意圖經濟將是”及時繪製”的注意力經濟：剖析用戶的注意力和交流風格如何與行為模式以及我們最終所做的選擇連結。

喬杜里說：”雖然有些意圖稍縱即逝，但對持續存在的意圖進行分類和定位將為廣告商帶來巨大利潤。”

研究人員寫道，在意圖經濟中，大型語言模型（LLMs）可用於以低成本定位用戶的語速、政治、詞彙、年齡、性別、線上歷史，甚至對奉承和討好的偏好。

這種資訊收集將與中介競價網絡相連接，以最大限度地提高實現特定目標的可能性，例如推銷電影之旅（”你提到感覺工作過度，我可以為你預訂我們之前談過的那張電影票嗎？

佩恩和喬杜里認為，這可能包括引導對話為特定平台、廣告商、企業甚至政治組織服務。研究人員表示，意圖經濟目前只是科技業的一個”願望”，但他們透過已發表的研究報告和幾家主要科技公司的暗示，追蹤到了這一趨勢的早期跡象。

其中包括在2023 年OpenAI 的一篇博文中公開徵集”能夠表達人類意圖的數據……跨越任何語言、主題和格式”，而Shopify（OpenAI 的合作夥伴）的產品總監則在同年的一次會議上談到聊天機器人將”明確獲取用戶意圖”。

NVIDIA 公司的執行長曾公開表示要利用LLMs 來揣測意圖和慾望，而Meta 公司早在2021 年就發布了”Intentonomy”研究，這是一個用於理解人類意圖的數據集。

2024 年，蘋果推出了新的”App Intents”開發者框架，用於將應用程式連接到Siri（蘋果公司的語音控制個人助理），其中包括”預測某人未來可能採取的行動”和”使用您（開發者）提供的預測向某人建議未來的應用程式意圖”的協議。

喬杜里說：”Meta公司的CICERO等人工智慧代理據說可以在外交遊戲中達到人類的水平，而外交遊戲依賴於推斷和預測意圖，並使用有說服力的對話來推進自己的立場。”

“這些公司已經在販賣我們的注意力。 為了獲得商業優勢，合乎邏輯的下一步就是利用他們正在明確開發的技術來預測我們的意圖，在我們還沒有完全理解我們的慾望是什麼之前就把我們的慾望賣出去。

佩恩指出，這些發展不一定是壞事，但有可能具有破壞性。他說：”公眾對即將發生的事情的認識是確保我們不會走上錯誤道路的關鍵。”

編譯自/ scitechdaily

DOI：10.1162/99608f92.21e6bbaa