「你們大概聽過伊隆.馬斯克有關人工智慧會引發第三次世界大戰的言論。」
2017年秋天,克萊瑞菲位於曼哈頓下城辦公室角落的一間房間,窗戶全都用紙糊住,門上有一個牌子寫著「消失的密室」(The Chamber of Secret),引用的是《哈利波特》(Harry Potter)系列的第二集書名。這個牌子是用手寫的,掛得有些歪歪斜斜。在門後有個八位工程師組成的團隊,正在進行一項他們被禁止對公司其他同事談起的計畫。其實,即使是他們自己也不太清楚所從事的計畫是什麼。他們知道是在訓練一套系統,使其能夠自動辨識在沙漠中某處所拍攝影片裡的人物、汽車與建築物,但是他們不知道要如何使用此一科技。當他們詢問時,公司的創辦人暨執行長塞勒會解釋,這是政府有關「監視」的計畫。他說此一計畫可以「拯救生命」。
後來克萊瑞菲搬到較大的辦公室,幾位工程師發掘儲存在公司內部電腦網路的數位檔案,發現有幾個檔案談到一筆政府合約,他們的工作才浮現檯面。他們是為國防部的專家計畫(Project Maven)研發相關科技。該計畫的構想是建造一套系統,可以為無人機辨識攻擊目標。但是此一系統的確切用途仍不明朗。他們無法確定此一科技是用來殺戮,還是如塞勒所說的是為了避免殺戮。也無法確定這套系統是用來進行自主性的空襲行動,還是為人類操作員扣下扳機前提供資訊。
接著,在2017年末的一個午後,三名身著平民服裝的軍方人員走進克萊瑞菲的辦公室,與幾位工程師闢室密談。他們要知道此一科技的精確度有多高。他們先是詢問它能否辨識像清真寺這樣的特殊建築物。他們表示,恐怖分子與叛亂分子往往會利用清真寺作為軍事總部。他們然後又問道它能否區分男人與婦女。「你是什麼意思?」一位工程師問道。軍方人員解釋,在曠野之中,它應該能夠根據男人兩腿間隙來分辨男人(都是穿著褲子)與婦女(都是穿著長及腳踝的裙子)。他們表示,他們只准許射殺男人,不能殺婦女。「有時候男人會穿長裙來騙我們,不過沒有關係,」一位軍方人員說道,「我們還是會幹掉這些混帳東西。」
***
2017年8月11日,週五,美國國防部長詹姆士.馬提斯(James Mattis)坐在谷歌山景城總部會議室的桌前。會議桌上有插著白梔子花的花瓶,靠著翠綠色牆壁的窗台上有四壺咖啡,旁邊是幾盤糕點。他對面坐著新上台的谷歌執行長皮采,還有布林、法律總顧問肯特.華克,以及人工智慧部門的主管約翰.吉安南德雷亞,他就是把四萬片GPU板置入谷歌數據中心來加速人工智慧研發的功臣。會議室內還有其他一些人,包括幾名國防部的人員與谷歌雲端運算團隊的主管們。國防部的人員大都穿西裝打領帶。谷歌的與會者大都穿著西裝,但沒有打領帶。布林則是穿著一件白色T恤。