《紐約時報》16日報導,科技巨頭阿里巴巴向企業客戶提供「針對維吾爾人與其他少數民族的臉部辨識系統」,宣稱可以幫助網路平台監控恐怖主義、色情活動與其他危險的數位內容。不過《紐約時報》批評,在中國政府迫害少數民族人權飽受批評之際,阿里巴巴卻成為協助企業客戶參與其中的幫兇。
阿里巴巴的情況其實並非頭一遭,《華盛頓郵報》上週就已經報導,中國科技巨頭華為測試了一款人工智慧軟體,當監視器發現維吾爾人的面孔時,這個軟體就可以自動提醒警方,即便這名維吾爾人根本什麼都沒做。華為一位發言人告訴《華郵》這項工具「只是一種測試」, 不過在消息曝光後,華為丹麥主管市場傳播的高級副總裁湯米‧茲威基(Tommy Zwicky)隨即因為不滿公司對待維吾爾人的方式請辭。
無獨有偶,根據美國監控行業研究與出版機構IPVM週三(16日)發布的最新報告,阿里巴巴也向企業用戶提供可自動識別維吾爾人的人工智慧軟體。他們發現,阿里巴巴的「雲盾內容安全系統」可以檢測圖像和影片中的維吾爾人,其人臉識別技術可檢測是否佩戴眼鏡、是不是亞洲人,是不是少數民族。在使用指南中,甚至在檢測少數民族屬性的說明中括號註明「維族」。
IPVM指出,這個內置於雲盾系統中的技術,讓購買客戶可以對含有維吾爾人臉孔的照片或影片特別標記或設置提醒。《紐時》說, 目前雖無法確定阿里巴巴的客戶如何使用這項工具,但這種技術遭到濫用的風險很高。比方說社群媒體平台可以自動標記影片、便於進行刪除或額外審查,甚至自動通報當局注意。
阿里巴巴是中國最大、全球第四大雲計算供應商,更在紐約和香港的證券交易所上市。IPVM的研究人員唐納德‧梅耶(Donald Maye)對《美國之音》表示:「令人不安的是,我們知道這些技術獲得中國政府的支持,這反映了中國使用影像監控技術的普遍性」、「阿里巴巴這個例子的特別之處在於,它是全球最大的企業之一,卻在網站上公開推出這種識別軟體」。值得注意的是,這項識別維吾爾人的技術並未在阿里巴巴的英文網站上提及,意味著該功能很可能專門提供中國客戶使用。
IPVM指出,除了阿里巴巴之外,中國另一家雲服務供應商金山雲(Kingsoft Cloud)同樣提供可以識別維吾爾人的臉部識別技術;華為也在其雲端系統中測試了由曠視科技開發的軟體,讓監視器可以在人群中識別維吾爾人,甚至自動向警方發出提醒。IPVM表示,消息曝光後,上述公司都在網路上刪除了相關資訊,像是阿里巴巴的相關網頁已無法正常連結,僅顯示「十分抱歉,此內容正在更新中,請稍後訪問」。
包括阿里巴巴、華為、金山雲等公司,也都發表聲明強調「相關技術從未用於實際場合」。阿里巴巴與華為均表示,這個人工智慧軟體只用於測試與能力展示,從未在測試環境之外使用過;金山雲也說,相關軟體從未出售,也沒沒有辦法實際區分是不是維吾爾人,強調「任何基於任何種族的標籤都是不合適的」,可能具有誤導性的產品目前均先被下架;曠視科技則表示,該公司的產品關注個人安全,而非監控任何特定群體。
不過《紐時》也指出,阿里巴巴拒絕解釋為何監測少數民族(特別是維吾爾族)的說明文字會出現在軟體的官方資料裡,也拒絕提供更多測試的訊息。至於為何要針對監控少數民族的能力來進行測試,阿里巴巴同樣不予置評。 IPVM的梅耶表示,所謂「測試」不可能憑空出現,更不會是某個人隨便打了個「維吾爾」這個詞,就突然去開發軟體的相關功能。梅耶強調,對開發軟體來說,這些都是在規劃與思考之後才會付諸行動的。