．可解釋性和可信賴性：這可能涉及到研究新的可解釋性技術以及開發方法，來評估和提高模型的可解釋性、可信賴性和安全性。人類對於新AI的各種擔憂與恐慌，其實常常來自於其深度學習與頓悟的背後猶如黑盒子一般的神祕。為了達到人類與AI雙贏的未來，可解釋性與可信賴性將是更廣泛協作必須跨越的重要門檻。
．克服人類的終極恐慌：在過往，人類雖然創造過許多在某些方面超越人類個體能力的發明，例如汽車、飛機、核電廠、原子彈、基因科技等等，然而在整體的人類視角上，我們最多只有擔憂卻極少恐慌。但當AI到達AGI的程度－也就是AI的能力已經能與人類的能力並駕齊驅時，人類的擔憂與恐慌將會到達一個臨界點。而當AI到達ASI（artificial super intelligence）的時候，也就是AI真正的全方位超越人類個體與整體的時候，人類是否已經準備好與ASI共存，並進入完全的未知領域，甚至達到所謂的奇點（singularity），也就是AI達到人類無法控制，AI發展無法逆轉與預測的階段的話，人類的命運，將端視我們到那時候之前，是否已達全面準備。
實現上述目標需要跨專業、跨認知的合作和研究，以及持續的技術創新。要讓深度學習超越人腦的思維框架，並經由複雜系統的湧現能力達到新的境界，需要克服眾多技術和理論上的挑戰。然而，隨著人工智慧領域的快速發展，這一目標或許在未來幾十年內變得愈來愈可行。
作者介紹：蘇經天
聯譜顧問股份有限公司創辦人、國鼎生物科技總經理、國光生物科技策略長、和鑫生技開發總經理、聯亞生技開發商務發展副總經理。臺灣大學EMBA高階公共管理組企管碩士，霍華休斯醫學研究院、約翰霍普金斯醫學院神經科學研究所博士後研究，紐約州立大學石溪分校博士，康乃爾大學醫學院生物化學研究所博士班，臺灣大學化學系學士。並曾任科技部審查委員、國家衞生研究院智財、技轉及育成中心評鑑委員、IBM, Research Center for Bioinformatics, Regional顧問、52 Club會長、台灣生物發展協會秘書長。畢生致力於系統化地解決複雜系統的問題，例如（與中央研究院資訊所合作）開發生物資訊模組、知識管理系統、科學文獻評估系統。近期試圖將閱讀書籍所萃取出的抽象概念產出AIGC，經由52 Club的平台，協助忙碌的現代人仍能有效益地學習。
本文經授權轉載自大塊文化《新AI與新人類：學習、認知與生命的進化新路程》
責任編輯／郭家宏
