奠基於英國的防自殺慈善組織撒瑪利亞會(Samaritans)於10月推出一款推特應用程式,可透過辨識推特訊息中的特定詞句,偵測使用者的自殺意向。此程式立意雖良善,卻引起侵犯隱私、散佈個人敏感資訊的疑慮與抨擊。撒瑪利亞會已經暫停這款「撒瑪利亞雷達(Samaritans Radar)」程式運作,並為引發的不適道歉,也承諾改進。
「撒瑪利亞雷達」於10月29日上線,使用者不須下載,只要在線上註冊,程式便會透過演算法監控推特跟隨者發出的訊息。當對方發文中含有「不想再孤獨」、「厭惡我自己」、「沮喪」、「救救我」與「需要和別人談談」等可能含有自殺意圖的字句時,使用者會收到一封警告郵件,並可以選擇是否對此信息感到憂心。程式會進一步提供建議,讓使用者了解該如何向朋友提供適當的協助。
雖然這款程式只追蹤公開的訊息,部分人士認為這樣的分析可能使具有心理問題的人更易受傷。在美國請願網站「Change.org」上發起連署、要求停止運作「撒瑪利亞雷達」的肖特(Adrian Short)相信,撒瑪利亞會缺乏蒐集使用者資訊的合法理由,更無權將這樣經過分析處理的敏感資訊,散佈給使用者可能不認識更不信任的人。這份連署中提到,這樣的資訊雖然有助友人提供協助,但也可能通知霸凌者或跟蹤者,此時使用者的心情特別低落,讓他們有機會進一步地施壓、霸凌受害者。
資訊保護單位也對這樣的監控過程表達疑慮。英國國會監管單位資訊專員處(ICO)稍早承認,已在接獲抱怨後投入處理這款應用程式是否侵犯隱私的問題。ICO表示,即使程式立意良善,相關單位已因其中可能涉及的個資疑慮,與撒瑪利亞會人員接洽,了解程式運作過程。
科技創新受挫 撒瑪利亞會致歉
撒瑪利亞會聲明表示,自從程式上線以來,考量各方提供的建議與反饋,與其中涉及的推特使用者心理健康條件,組織已決定暫時停止程式運作,並進行進一步評估。聲明指出,「我們注意到撒瑪利亞雷達引發的一些關切及擔憂,我們希望向任何不慎感到煩擾的人道歉,這並非我們的原意。」
We care passionately about supporting vulnerable people & it's important we get it right. Sorry for any distress caused #SamaritansRadar
— Samaritans (@samaritans) 2014 11月 7日
撒瑪利亞會政策主任佛恩斯(Joe Ferns)表示,組織設計這款程式的動機,在於認知到朋友可以是向掙扎應付情緒問題者提供協助的第一線人選。但佛恩斯也強調,撒瑪利亞會過去便有多次以創新科技因應新挑戰的紀錄,未來也會持續努力。他表示組織將會與多方合作夥伴進一步的討論,評估所得到的意見,並實驗各種調整及改變,讓這款程式能真正提供更安全、有效的服務。