劍橋大學的研究人員指出，人工智能（AI）工具可能被用于操縱在線用戶的決策，影響范圍涵蓋購物選擇、投票對象等諸多方面。
這種操縱基于新興的“意圖經(jīng)濟”（intention economy），AI 助手在其中理解、預測甚至操縱人類意圖，并將這些信息出售給相關(guān)企業(yè)以牟利。
劍橋萊弗休姆智能未來中心（LCFI）的研究人員認為“意圖經(jīng)濟”將取代“注意力經(jīng)濟”（attention economy），個人動機將成為新的交易貨幣。
注：注意力經(jīng)濟是指在信息爆炸的時代，人類的注意力成為一種稀缺資源，從而催生出的一種經(jīng)濟模式。企業(yè)和平臺通過各種方式爭奪用戶的注意力，并將其轉(zhuǎn)化為商業(yè)利益。
例如，社交媒體平臺、短視頻應用等，通過提供引人入勝的內(nèi)容和個性化推薦，吸引用戶花費更多時間在其平臺上，并通過廣告、電商等方式獲利。
而研究人員認為“意圖經(jīng)濟”會更進一步，科技公司將用戶動機，例如酒店預訂計劃、政治候選人觀點等信息，出售給最高出價者。
以 ChatGPT 為代表的 AI 聊天機器人背后，是快速發(fā)展的大型語言模型（LLM），它將被用于基于“意圖、行為和心理數(shù)據(jù)”來“預測和引導”用戶。
LLM 可以實時獲取用戶注意力，例如詢問用戶是否想看某部電影，并根據(jù)用戶的“個人行為痕跡”和“心理概況”動態(tài)生成建議。
廣告商可以使用生成式 AI 工具創(chuàng)建定制在線廣告，甚至可以像 Meta 開發(fā)的 AI 模型 Cicero 一樣，推斷和預測用戶的意圖。
更令人擔憂的是，AI 模型可以通過日常交流推斷個人信息，甚至“引導”對話以獲取更多個人信息。未來，像 Meta 這樣的公司可能會將用戶預訂餐廳、航班或酒店的意圖拍賣給廣告商。
研究人員警告，如果不加以監(jiān)管，“意圖經(jīng)濟”將把用戶的動機作為新的交易貨幣，對那些瞄準、引導和出售人類意圖的人來說，這將是一場“淘金熱”。這種趨勢可能對人類愿望產(chǎn)生重大影響，包括自由公正的選舉、新聞自由和公平的市場競爭。
