AI機器人ChatGPT又成長了！AI公司iKala執行長程世嘉在臉書分享微軟一項最新研究，指最新版本GPT-4很有可能已經具備進階的心智能力，尤其在人類完全不了解AI運作的情況下，AI卻已經被放上市場供人人使用，坦言「這樣的現況真的非常令人擔心」。
程世嘉表示，微軟研究員寫下一份154頁的研究報告，其中提到，GPT-4成功通過了經典的心理測驗「Sally-Anne測試」。所謂的Sally-Anne，最初是用於兒童發展心理學的測試，用來評估小孩「能否理解他人的心理狀態和觀點」，也就是Theory of Mind（心智理論）能力。
傳統測試內容是，當Sally和Anne在房間內，Sally拿起一個球放在一個籃子裡後離開房間，而Anne在Sally離開房間後，偷偷把球從籃子拿出來，放進了另一個盒子裡蓋起來。接著測試當Sally回到房間，會去哪裡找球，如果回答「去盒子內找球」是錯誤答案，因為Sally並不知道Anne曾經更改過球的位置，因此「去原本的籃子找球」才是正確答案。
此測試可以幫助心理學家了解兒童的發展情況及對他人思想的理解程度，2010年的Alev Girli & Deniz Tekin實驗結果顯示，6到8歲的小孩答對率是65.5%，9到14歲的小孩答對率是91.9%，顯然並非年紀增長就能答對該問題。而為了避免GPT-4記住過去網路資料庫的測試內容，研究將測試改版成Alice和Bob在找一份電腦檔案，然而，GPT-4還是答對了。
「我可以感受到研究人員在看到GPT-4展現出通過Sally-Anne 的進階心智能力時的焦慮。」程世嘉認為，最可怕的地方就在於，研究人員並不知道GPT-4是如何發展出心智能力，現在的人類只知道AI有效，但為何有效、AI如何運作才得出答案，這都是未解的問題，「以類神經網路為基礎訓練出來的這些AI，對人類來說是一個十足的大黑箱」。
程世嘉指出，研究中也相當憂心，認為人類要盡快理解GPT-4以及其他的大型語言模型到底是如何運作的，因為人類創造出了一個可能具備進階心智能力的智慧機器，但卻不知道它如何運作，「OpenAI也拒絕公布任何關於GPT-4的細節，我相信 OpenAI 自己也還在研究當中」，讓程世嘉坦言對現況非常擔心。
