「然而,中國政府所做的不是逐步重新引介傳統道德倫理,來降低缺乏信任的情況,反倒偏好將心力投注在科技解方……大眾已經受夠了不知道該信任誰,於是加以歡迎……一部分的原因是他們別無選擇了。」
中國政府意圖徵用機器控制力量,以必然結果取代一個破滅的社會。
二〇一五年,中國央行宣布展開一項前導計畫:各大電子商務企業將主導數據整合與軟體研發,以供個人信用評分之用,其中的佼佼者是阿里巴巴旗下的螞蟻金服,該公司推出的「個人信用評分」服務稱為「芝麻信用」。芝麻信用系統能產生關於一個人「性格」的「全盤」評分,搭配演算式學習,範疇遠遠不止於準時繳帳單與貸款,演算法會衡量消費習慣(買電動還是童書)、學位、交友的數量與「品質」,藉此評等。一名記者曾描述她的芝麻信用體驗,警告這套演算法簡直「不可理喻」,一一評估她的社會接觸、開什麼車、做什麼工作、念什麼學校、諸如此類的不明確行為因素,聲稱這些都「與良好的信用有關」。影子文本依舊遙不可及,使用者落得只能猜測如何提高分數,包括與評分低的朋友斷絕往來,廣為結交評分高的人,有些人認為這有助於提升評等。
螞蟻金服董事長宣稱,這套評分系統「可以讓這個社會的壞人無處可逃,好人暢通無阻」。分數高的人可以在行為未來市場當中,從芝麻信用的客戶得到榮譽與獎勵:無須押金即可租車,貸款和租屋可取得較優渥的條件,辦理簽證可享有快速服務,在交友軟體上擁有特殊待遇等各式各樣的好處。然而,報導指出,高信用帶來的特權也可能因為與消費行為無關的原因,轉眼消失無蹤,例如在大學考試中作弊。
二〇一七年,央行停止支持民間企業發展的個人信用計畫,原因可能是這些計畫實在太成功了,集中了過多資訊與力量。短短兩年內,芝麻信用便累積逾四億用戶,控制了這些用戶各方面的生活。一名記者以螞蟻金服為主題寫了一本書,預測政府正準備接收整個系統:「這項人民信用的建設太重要了,政府不希望它落在什麼大公司的手裡。」中國政府似乎明白,擁有行為修正手段,就能逐漸累積權力,行為參數是由行為修正手段的擁有者設定,如此即可定義保證結果。於是,公私力量開始融合。
如果想知道機器控制力量與國家權力結合,將產生什麼樣的社會,可以先從所謂的「失信被執行人名單」(judgment defaulter’s list,俗稱「黑名單」)開始。《經濟學人》(Economist)曾形容該名單是社會信用系統的核心,或許可說是衡量社會信用系統遠大企圖的最佳指標,名單內含債務人與任何曾違抗法院命令的人: