看到這些AI的勝利，讓許多人認為AI將會開始影響人類生活的所有面向，而且是朝著好的方向，讓人類更繁榮、更健康，完成各種遠大的目標夢想。最近一本關於AI的著作，副標題就寫著「人工智慧將改變一切」。或者正如Google前大中華區總裁李開復所言：「人工智慧可能是人類史上最具顛覆性的技術。」
然而，如果一切並沒有那麼美好，該怎麼辦？AI會不會讓多數人賴以維生的勞動市場天翻地覆，使勞動付出與所得不成比例的情況更為嚴重？AI主要的影響會不會並沒有提高生產力，而是把權力與富裕從普通人手中奪走，交給那些控制著資料、做出關鍵企業決定的人？過程中，AI會不會讓開發中國家的數十億人陷入貧困？會不會反而讓各種既有的偏見（例如對膚色的偏見）得到強化？如果AI破壞了民主制度，又該如何？
有愈來愈多的證據顯示，這些擔憂並非空穴來風。AI目前發展的方向，似乎就是會讓不平等更為加劇，而且並非僅限於工業化國家，而是遍及世界各地。科技公司與極權政府不斷收集大量資料，推動著AI走向扼殺民主、加強專制。我們在第九章和第十章就會看到，雖然AI目前的發展沒讓生產力有什麼提升，卻已經開始對經濟產生深遠的影響。到頭來，我們對AI剛剛燃起的這種熱情激動，似乎就只是過去那份科技樂觀主義的加強版，卻沒注意在AI席捲整個數位世界的時候，強調的不是自動化與監控，對一般大眾權力造成削弱剝奪。
對於這些擔憂，技術領導者多半並未認真以對。他們不斷告訴我們，AI會帶來的是好處。如果AI造成顛覆破壞，也只會是短期的問題，無可避免、但很容易就能解決。要是AI會讓某些人變成敗犬魯蛇，解決方案就是該發展更多的AI。例如DeepMind的共同創辦人德米斯．哈薩比斯（Demis Hassabis），他不僅認為AI「將成為史上發明最重要的技術」，還相信「透過加強人類追求各種方法與原因的能力，AI將會擴大知識的邊界，解鎖全新的科學發現途徑，讓數十億人的生活得以改善。」
這麼想的絕不只有哈薩比斯一人，許多專家都提出類似的想法。例如李彥宏與其他人共同創辦中國的網際網路搜尋公司百度，也投資幾家重要AI企業，他表示：「AI革命是對生產和生活方式的良性革命，也是對我們思維方式的革命。」
很多人甚至還不只於此。著名高階主管、發明家暨作家雷．庫茲威爾（Ray Kurzweil）就信心滿滿地表示，與AI相關的技術即將實現所謂的「超級智慧」（superintelligence）或「奇點」（singularity），代表的是人類即將享有無限的繁榮，滿足所有的物質（以及或許幾項非物質的）目標理想。他相信AI程式的能力將遠遠超越人類，開始自己製造出更多超人能力，或者如果要更加腦洞大開，就會與人類融合，創造出超級人類（superhuman）。
