過去半個世紀，辛頓致力於研發ChatGPT等聊天機器人的核心技術。現在他擔心這會造成嚴重危害。
現年75歲的「AI教父」辛頓宣布離開谷歌（Google）人工智慧（AI）研究部門，同時公開呼籲人們關注AI的危險性。近日，他接受多家媒體採訪，表明他擔心在科技巨頭之間的激烈競爭下，AI受到不斷改良與開發，將變得「太聰明」並恐怕帶來「殺手機器人」等危害，所以決定「吹哨」畢生協助開發的技術。
辛頓（Geoffrey Hinton）沒想到AI的發展速度會像過去7個月那樣快。去年谷歌、OpenAI等公司已經開始開發的AI系統，讓辛頓認為AI在未來5年可能出現的進展將是「非常可怕」的。
值得特別注意的是，作為AI研究界內部最受尊崇的權威之一，辛頓為了能不受約束地警告人們警惕AI的潛在風險，不惜辭去職務。辛頓的人工智慧之旅，從開創先驅走到末日預言者的一步，凸顯科技業在幾十年來最重要的轉型點上，面臨到一個非常關鍵的時刻。
科學界對AI發展的連番警告
《紐約時報》（NYT）1日刊出辛頓專訪，他說，他對畢生的工作感到後悔，「我用一個藉口來安慰自己，如果不是我，也會有其他人來做。」
科技業領袖們相信AI時代的到來，將像1990年代引入網路瀏覽器一樣顛覆人類的生活，並可能連帶促進藥物研究、教育等多項領域的突破。但困擾許多業內人士的是，他們擔心自己正在製造危險。生成式AI已經可以被利用來製造假／錯訊息，很快地，AI還可能會威脅到人類的工作機會，甚至最悲觀的看法是，未來AI可能對全人類構成威脅。
「很難知道如何防止壞人利用它來做壞事，」辛頓對《紐時》、美國有線電視新聞網（CNN）等媒體警告道。在接受《麻省理工科技評論》（MIT Technology Review）採訪時，辛頓還指出「壞人」可能利用AI，做出對社會產生不利影響的壞事，例如操縱選舉或煽動暴力。
辛頓不是唯一針對AI提出警告的科學家。3月底，OpenAI新一代自然語言模型GPT-4開發後，以特斯拉（Tesla）執行長馬斯克（Elon Musk）、蘋果公司（Apple Inc.）共同創辦人沃茲尼亞克（Steve Wozniak）等為首的1000多名科技領袖、研究人員連署，呼籲基於AI技術給社會和人類帶來「深遠風險」，希望AI實驗室和相關企業在至少6個月內不要開發比GPT-4更強大的技術。
幾天後，擁有40年歷史的人工智慧促進協會（AAAI）19位現任和前任主席，也聯合發表公開信警告「AI的風險」，當中包括微軟（Microsoft）科技總監霍維茨（Eric Horvitz）。微軟公司已將OpenAI技術部署到多項產品中，例如Bing搜尋引擎。
