伴隨ChatGPT生成式人工智慧（AI）平台橫空出世，不只讓全世界刮起一波AI熱潮，使得眾多企業因此受益，也讓人們開始倚賴這項新科技，希望透過它的幫助，讓你我達成更多目標或成果。但是面對這個兼具強大能力、速度與「智慧」的人工智慧，看在眾多專家眼中，卻是以一種悲觀且警惕的心態，不斷提出警告和提醒，希望人們在享受便利的同時，也得做好自己可能不小心被取代的心理準備。
被譽為人工智慧（AI）「教父」的電腦科學家傑佛瑞·辛頓（Geoffrey Hinton），最近受訪時突然提高對於AI可能在未來三十年內、消滅人類可能性的預測，只因為他認為，現階段全球AI技術的變化與更新速度，「遠遠比預期快上太多」。今年因其AI領域研究成果，榮獲諾貝爾物理學獎（Nobel prize in physics）的辛頓教授警告，AI導致人類滅絕的機率，在未來三十年內大約為「10%至20%」。
Prof Geoffrey Hinton, who has admitted regrets about his part in creating the technology, likened its rapid development to the industrial revolution – but warned the machines could “take control” this time.
— The Telegraph (@Telegraph) December 27, 2024
Read more here https://t.co/XYZI63COLk pic.twitter.com/q0lj8yL1l9
這個最新預測，比辛頓過去所做的估算上升不少，這位科學家先前就曾公開表示，AI引發對災難性後果的機率大約是10%。
現年77歲的辛頓，擁有劍橋與愛丁堡大學學位，是一名電腦與認知科學資深學者，長年任教於加拿大多倫多大學（University of Toronto）的他，過去十年期間鑽研人工智慧領域，直到2023年因為對這個領域與科技，感到憂慮和害怕而選擇辭職，打從那一刻開始，辛頓就不斷公開提醒人們，要提防人工智慧科技的發展與未來走向。學術生涯獲獎無數的他，在2024年榮獲諾貝爾物理學獎之前，早在2018年就因為在深度學習（deep learning）領域貢獻，獲得圖靈獎（ACM Turing Award）肯定。
辛頓接受英國廣播公司（BBC）《今日節目》（Today programme）訪問時，當被問及他是否改變過去對AI末日事件發生機率分析時，他淡淡地回應表示，「機率並沒有太大改變，大概是10到20%之間。」但這個新的數據，卻引起同場擔任嘉賓、前財政大臣賈偉德（Sajid Javid）的好奇心，他隨即提到、機率數字似乎呈現上升趨勢時，辛頓回應表示，「也許吧！因為我們（人類）在過去歷史上從未面對過，比自己更聰明的事物。」
隨後辛頓更以一個看似極端的舉例，來說明當前人類面對AI科技的狀況，「你知道這世上有多少案例，是由一個不太聰明的事物，對更聰明事物進行管理或控制？據我所知幾乎找不到實際案例。人類關係中的母親與嬰兒，很可能是唯一例外，這也是我唯一知道的例子。」看在長年研究人工智慧的辛頓教授眼中，面對AI系統、人類就像幼兒一樣，「我很喜歡用這個比喻：想像你自己與一個3歲小孩互動的場景，如今的我們就像那個小孩。」
為了提醒更多人小心新科技潛在的危險，辛頓辭去自己在Google任職十年的工作，在他看來、除了要嚴防AI被有心人士惡意利用，科學家也得捫心自問，不斷研發超越人類現有智慧的通用人工智慧（AGI），很可能會導致這些科技失控，進而對人類社會構成生存威脅。他希望政府能介入監管，別讓企業在只關注潛在利潤的前提下，不斷加快AI研發速度，卻忘記可能產生的安全隱憂。
有人反對、自然也會有人支持，與辛頓共同獲得圖靈獎桂冠的AI科學家勒坤（Yann LeCun），身為Meta首席科學家的他，觀點與辛頓大不同，在他看來、人工智慧實際上反倒是一種解藥，「可能可以拯救人類脫離滅絕危機。」
