不過哈拉瑞表示,真正的危險並不在於技術決定論,而是我們在歷史上從未見過的新型極權主義—因爲現在的科技能夠對每一個個體進行不間斷的全時追蹤。不斷研究與書寫人類大歷史的哈拉瑞表示,即便是史達林時代的俄國或是毛澤東時代的中國,要一直追蹤每一個人、直到他們比你自己更瞭解自己,這在技術上是不可能的。即便跟蹤你的特務數量不是問題,但他們也只能產出「你在做什麼」的書面報告,這還需要另一組人來加以分析跟解讀。
哈拉瑞指出,當年在史達林或毛澤東治下不可能之事,如今藉由科技的力量卻得以實現。因為追蹤一個人不在需要特務,甚至不需要任何人類,所有的傳感器、攝影機、麥克風加上人工智慧機器,24小時不間斷地追蹤一個人在技術上確實可能。但哈拉瑞也說,這種可能性並非不能避免,他認同唐鳳所介紹的正確行動,並且表示如果能做到台灣那樣的地步,確實可以防止「反烏托邦」的發生。
第二回合:我們該拿「演算法霸權」怎麼辦?
哈拉瑞雖然贊同唐鳳的解決之道,但他也指出更深層次的另外一個問題:就算我們成功阻止了數位獨裁的崛起,屬於我們的數據真的會以一種安全並且負責任的方式被收集,那又會發生什麼事?哈拉瑞指出,那些我們生活中最重要的決定,依然可能遭到另一個霸權所宰制,那就是演算法。
哈拉瑞認為,就算我們有辦法防止數位獨裁的「反烏托邦」,我們該怎麼與演算法共處—比我們更瞭解我們自己、甚至不帶有獨裁性質、設計初衷就是要為我們服務的演算法—才是我們這個時代的真正難題。 這種情況並非有一個權威強迫我去做什麼,而是我知道演算法比我還瞭解我自己,因此包括學習、購物、甚至婚姻,我們可能都會越來越依賴演算法。
唐鳳表示,演算法當然具有哈拉瑞所描述的那種影響力,程式碼(code)也確實有如網路空間的物理法則,因為程式碼決定了什麼會發生、什麼不會發生。當然程式碼不完全等同於物理定律,因為程式碼並非不能改變,而是需要付出許多努力才能習得程式語言。不過對大多數人來說,這確實不太可能發生。
不過唐鳳也指出,程式碼除了存在有如物理法則的面向,也會建立起一種規範性,也能決定究竟要讓國家對公民透明(像是台灣)、還是讓公民對國家透明(像是中國),所以每當我們在設計程式時,我們也必須保有同樣的機會能夠獲得正義、獲得一個開放的未來。如果不能讓演算法的詮釋符合社會規範,無論有多少人參與演算法的設計,確實都會是一種負面的社會影響。
哈拉瑞表示,大多數人確實沒有能力透過改變程式碼來形塑現實,而且社會現實日益受到這些程式碼所建構。如果在政府的網站上填寫表格,如果性別選項就只有「男性」與「女性」,不選其中一個就沒辦法進到下一頁,這就是我們所要面對的現實。或許僅有二元性別只是一個22歲的加州年輕人在撰寫網站時的偶然決定,談不上有什麼深刻的哲學或政治考量,但這個決定卻會對所有填寫表格的申請人都產生影響。