以現在的眼光來看，這種成長簡直不可思議。但過往的觀察家可能也說過「未來的全球經濟將在人一輩子中翻倍數次」這種簡直不可理喻的推測之言。然而，如今的我們卻習以為常。
韋那．文吉（Vernor Vinge）開創性的論文開啟了「技術奇點即將到來」的想法，雷．克茲威爾（Ray Kurzweil）等人接續著述，如今已廣為人知。然而，世人不明就裡，以各種字面意義來使用「技術奇點」一詞，從而打造了一股具有「技術烏托邦」意味的邪惡光環（幾乎有如千禧年主義）。 既然這些字面意義和我們的論點毫不相干，那麼以更精準的術語來取代「技術奇點」一詞，應該有助於釐清事實。
關於「技術奇點」的想法，在此值得一提的是智慧爆炸的可能性，特別是機器超智慧的前景。也許有些人會被圖一那種指出「下一場不亞於農業革命或工業革命的成長模式劇變，很可能發生」的成長圖給說服，但他們接下來可能就會說，全球經濟如果只要幾星期就成長一倍，想必得要有一個速度和效率都比我們人類高上許多的心智來主導。但其實，認真看待機器智慧革命前景的態度並不需要仰賴曲線圖，或是從過去的經濟成長來推論。我們將會看到，我們有更充分的理由該採取謹慎的看法。
遠大前程
自從1940年代電腦發明以來，世人殷殷期盼總有一天，機器能達到人類的一般智慧—也就是具有常識和有效的學習與邏輯思考能力，並能在具象和抽象的各種領域中解決複雜資訊問題的計劃能力。當時世人認為，這種智慧機器將在二十年後誕生。 但從那時到現在，世人對於那一天的到來大約每過一年就再延後一年；如今，關注通用人工智慧（artificial general intelligence）可能性的未來學家一般相信，智慧機器的誕生還需要好幾十年。
二十年是占卜家預言劇變的甜蜜點：近到引人注意又息息相關，同時遠到可以假設現在還是空想的一絲突破屆時可能發生。與更短的時間尺度相比，大多數五到十年內會對世界有極大影響的科技，已有少量付諸實用；而十五年內會重新改造世界的技術，目前都還在實驗室的原型階段。占卜家的生涯年限差不多就是二十年，就算瞎編預測，時間也已經過了太久，砸不了招牌。
然而，儘管過去有人對人工智慧的預測過了頭，並不代表人工智慧不可行，或人類永遠開發不出人工智慧。 人工智慧的進展不如預期的主要理由，在於打造智慧機器的技術難度比先驅者所預料的還要高。至於難度究竟有多高、何時能一一克服，則都還是未定之數。有些一開始看起來複雜到令人絕望的難題，結果居然有驚人的簡單答案（不過，一般狀況往往與此相反）。
不論從現況到達人類水準的機器智慧（humanlevel machine intelligence）之間有多少站，最後一站都不會是終點。再過去不遠的下一站，就是超人類水準的機器智慧（super-human-level machine intelligence）。這班車不會在「人類」這一站就停下來，連減速都不會。它很有可能過站不停。
＊作者為牛津大學哲學系教授，其學術背景包含理論物理學、計算神經科學、數學邏輯、人工智慧以及哲學。他在全球五十歲以下的哲學家中被引用次數最多，擁有廣泛的影響力。伯斯特隆姆同時是牛津馬丁學院人類未來研究所（Future of Humanity Institute）的創立者和所長。本文選自作者著作《超智慧：AI風險的最佳解答》（感電出版）
