這是根據科學、大數據和統計而得來的教訓，而非紙上談兵。基於這個背景，某些研究團體的機器智慧開發工作開始出現希望的徵兆。研究者小心翼翼地在沙盒環境中測試種子人工智慧，一切徵兆都很不錯。人工智慧的行為激發了研究者的信心—隨著智慧逐漸增加，眾人的信心也跟著增加。
到了這個階段，剩下來的卡珊德拉（注：Cassandra，希臘、羅馬神話的特洛伊公主，有預言的能力，但因受到詛咒，沒有人相信會她的預言）會遭遇幾種打擊：
1. 危言聳聽者預測，能力逐漸增強的機器人系統會帶來難以忍受的傷害；然而事實卻一再證明他們預測錯誤，如此反覆下去。自動化帶來了許多好處，而且整體來說，比人類運作還要安全。
2. 明顯的經驗趨勢：人工智慧愈聰明就愈安全可靠。對於把「創造空前聰明的機器智慧」當做目標（甚至進一步把「可以自我進步所以甚至更為可靠的機器智慧」當做目標）的計劃來說，這個預言確實靈驗。
3. 世人普遍認為，擁有機器人技術和機器智慧既得利益（且持續成長）的巨大工業，是國家經濟競爭力與軍事安全的關鍵。此外，許多聲譽卓著的科學家早已把研究生涯投注在當前應用技術的基礎工作，以及還在計劃中的更先進系統上。
4. 對於那些參與其中或追隨研究的人來說，有前途的人工智慧新技術格外令人振奮。儘管一直有安全和倫理問題的激辯，結果卻已然注定。
畢竟已經投注了太多而無法抽手。
人工智慧研究者已經花了大半個世紀，著手於人類水準的通用人工智慧；想當然爾，如今終於快要有成果時，他們怎麼可能突然就此停手、拋下所有努力？
5. 相關單位制定了某些不管怎樣都有助於證明參與者合乎道德且負起責任（但不會明顯阻止向前邁進）的例行安全法規。
6. 針對在沙盒環境中的種子人工智慧所進行的小心評估顯示，它表現得十分合作並且具有良好的判斷能力。測驗結果再經進一步的修正，就會盡善盡美。如此一來，最後一步也亮起了綠燈。於是，我們就勇敢前行—一路走上刀山。
我們在此觀察一下，為何情況是「當人工智慧還很笨時，聰明一點會比較安全；然而當它變得很聰明，愈聰明就愈危險」。這裡似乎有某個轉捩點，先前效果極佳的策略一旦越過這點，就會適得其反。我們可以把這個現象稱為「背信轉向」（treacherous turn）。
背信轉向：當某個人工智慧還弱小時，它會表現得樂於合作，且愈是聰明愈會合作。一旦這個人工智慧夠強大—在毫無預警或刺激之下—它會出擊而單極化，並開始根據終極目標的準則來最佳化整個世界的資源。
