根據英國劍橋大學研究人員在最新發表的一篇論文中警告，人工智慧（AI）工具可能很快就會在所謂「意向經濟」（intention economy）的新商業領域「悄悄影響」用戶決策，影響力小至買張電影票大到選舉投票的一切決定，如果不加以管理，未來可能導致「產業規模的社會操縱」。
劍橋大學萊弗休姆未來智慧中心（LCFI）兩位研究員在《哈佛資料科學評論》（Harvard Data Science Review）發表的論文中指出，「數位意圖訊號」潛在「豐厚利潤但卻令人不安」的市場潛力。由於消費者對聊天機器人、數位老師和其他各種「擬人化」AI代理日益熟悉，都有助新的「說服性技術」發展愈來愈快速。人工智慧學習了人們所有線上行為、持續了解用戶、甚至預測消費者的願望，最後建立和消費者「全新的信任和高度理解」。
研究中說明了被稱為「意圖經濟」的新興行業如何分析用戶的注意力和溝通方式，將行為模式和選擇聯繫起來。論文作者之一的雅可布・喬杜里（Yaqub Chaudhary）指出：「人工智慧工具可以用於紀錄、收集、推斷、理解、預測，最終操縱人們的決定和行為。」新的人工智慧依靠大型語言模型（LLM），針對使用者的用語詞彙、年齡、性別、數位足跡、線上行為紀錄，包括政治傾向都可推斷出。
未來對於新興人工智慧技術聯繫起來，這些技術可實現特定商業目標，例如銷售電影票、旅行行程，或將消費者引導至向特定平台、廣告商、企業甚至政治組織。合著者之一喬尼·佩恩（Jonnie Penn）警告：「除非受到監管，否則意圖經濟會把人們的動機都視為新商機。對於那些瞄準、引導和兜售人們各種意向的人來說，這將是一場新興淘金熱。」
但佩恩警告：「如果一些意外的預測結果而產生受害者，在此之前就應該開始考慮這樣的市場機制可能對人類願望產生的影響，甚至包括自由公正的選舉、新聞自由和公平的市場競爭等等，確保經濟發展不走上錯誤道路的關鍵」。
AI 雖可通過分析用戶行為數據、購買歷史和偏好，提供個性化的產品或服務建議，提升企業的營收效率，加速所謂意向經濟的發展，但在企業大收集和使用大量用戶數據，卻可能導致數據壟斷、隱私侵害和不平等風險，甚至因引導用戶偏向特定選擇，進而成為操控工具，對市場和民主帶來威脅。
