分類的問題在哪裡？
如此「客觀」與「精準」的分類，至少存在兩種問題：
(1) 可能性的喪失： 之所以我們通常會反對將例如「種族」、「性別」等做為分類依據，原因在於如此一來我們很可能會加深既有的偏見與不平等。試想若在五十年前，我們將「性別」做為要不要錄取某個人為某個職位的標準，就會因為過去沒有或是很少女性，也就連帶導致新的女性無法進入那個職缺，也將使得女性一直都無法進入那個職缺…如此一來，我們無疑是在強化既有的社會結構而已。這點在「性別」、「種族」上面是如此，「居住地區」、「就讀學校」等雖然不完全是社會結構的產物，但也與之高度相關。
(2) 忽略人的自由意志：如同各式科幻電影裡面所描寫的，如果你被說有 99% 的機率會犯罪，所以要先把你關起來，你服嗎？不服啊！為什麼？因為我們多半相信，就算我身上的各種標籤（年輕、低收入、學歷差、朋友中很多壞人…）都指向我很可能會犯罪，這不代表我一定會犯罪啊！這當中的差異在於自由意志。各種電影、書籍之所以熱血，多半在於他們描寫了一個在客觀條件上很差的人，如何突破各種重重難關、以及社會的歧視，最後達成了人人稱羨的目標，這不正是自由意志的展現？
機器預測的危險性
綜觀以上討論，越是「客觀」、「精準」，我們有越大的機率喪失「可能性」、越忽略我們在各個抉擇當中的「自由意志」。而這當中，機器比起人類，又更可能達到完全的「客觀」「精準」。試想當未來所有的貸款都得透過機器評分，如此一來劣勢族群（女性、少數族群、教育程度較低、收入較低）將比起以前更難獲得貸款、也更難獲得好的利率 ; 如果未來每個人都有一個犯罪傾向分數，只要分數高於一定的值就會被加倍關心、甚至預先羈押，如此前述劣勢族群，不但無法獲得資金、甚至連日常生活都要受限。
當我們所有的決策日益「機器化」、「數據化」，這些判斷變得越來越精準和客觀，前述的世界也就越來越接近真實。事實上，例如臉書、Twitter 上面潛在恐怖主義的預測，已經略有跡象 ; 更不要提大陸的阿里巴巴推出的芝麻信用，透過你的社交行為、消費記錄等對你的「可信任程度」做出預測並給出分數，已被廣泛運用於貸款、消費、押金等項目的決定。可以想像未來劣勢族群的「劣勢」標籤，將比起以往更加牢固 ; 社會結構也會變得越來越難抵抗。
結語：如何平衡？
話雖如此，但我們都知道，我們不可能抵禦、甚至也不需要完全抵禦數據化、機器化所帶來的精準與客觀。在這個大前提之下，我們該如何確保數據被應用於改善決策品質的同時，仍然能夠保留結構的能動性、以及對自由意志的尊重？這是所有應用數據作決策的個人需要隨時謹記在心、不斷思考的事。
文/TYCHEN927
本文經授權轉載自維京人酒吧（原標題：數據決策的美麗與哀愁）
責任編輯/林安儒
