自從美國國際商業機器股份有限公司（IBM）研發的超級電腦「深藍」（Deep Blue）於1997年擊敗世界西洋棋冠軍棋手卡斯帕羅夫（Garry Kasparov）以後，人類開始加深人工智能（AI）或許終將超越自己的焦慮。自動化接下來會消滅哪些工作？哪些原本由人類執行的任務會轉交給機器？在一個恆常高效運作的「智慧化」社會中，人類會是多餘的存在嗎？
AI發展代表人類滅亡？
英國物理學大師霍金（Stephen Hawking）2014年接受英國廣播公司（BBC）訪問時曾表示，人工智慧的發展可能標示著人類的滅亡。當人工智慧的發展更趨成熟，來到可自行研發、改良與更新自己的程度時，人類演化的速度將無法跟上它們的腳步。
Stephen Hawking says AI could spell end of human race https://t.co/m88XFwNvsS pic.twitter.com/KDhN6oFIkP RT @inhabitat #artificialintelligence
— Adam Boucher (@AdamFBoucher) 2016 1月 4日
美國電動車公司特斯拉（Tesla Motors）與航太運輸公司 「SpaceX」執行長伊隆．馬斯克（Elon Musk）曾於2014年表示，「我認為我們應當非常提防人工智慧。如果要我猜測一個我們最大的存在威脅，可能就是這個。......我越來越認為，在國家與國際的層級上應該要（對此）有一些監管的規範，以確保我們不會做出某些蠢事。」
美國蘋果公司（Apple）共同創辦人伍茲尼亞克（Steve Wozniak）也在2015年3月受訪時說，「無庸置疑地，電腦將會取代人類。」這3人與其他1000多名機器人相關領域的科學家，於2015年7月連署反對人工智能加入軍備競賽。
這種對全面性的優秀人工智能的擔憂，似乎是相當科幻性質的。美國史丹佛大學國際安全及合作中心（CISAC）的研究員蓋斯特（Edward Moore Geist）便曾將牛津大學哲學家伯斯特羅姆（Nick Bostrom）對殺人機器人的憂慮稱為「一個可能不存在的問題」。
人類的優勢在於?
美國科技作家尼可拉斯．卡爾（Nicholas Carr）認為，人類具有一個電腦沒有的優勢。簡單來說，就是我們是活物，而它們不是。
卡爾認為，人類智慧的關鍵不在於我們可以處理大量的資料，或是依循訂立的程序解決清楚定義的難題。而是我們能夠將透過觀察與經驗得到的知識，組織成對世界的一份豐富且具彈性的理解，並用以應對各種挑戰。無論科幻作品的想像力有多豐富，短期內我們還不會失去這種優勢。
與此類似的樂觀立場認為，自動化的進展可以將人類從乏味或危險的工作中解放出來。人類將可以更自由、輕易地發展個人價值，經營與他人的關係。機器人可以更加突顯人類的價值，正因為它們不是人類。
