演算法將要尋找各種訊號──例如,用戶有否與大量因支持恐怖主義被停用的戶口成為「朋友」。
有些用戶不停開設新帳號上載恐怖主義資料、或企圖繞過現時制度。Facebook指它們正在發展新方式去追蹤這些「重犯者」。
比克特對BBC說:「我們看到恐怖主義的威脅在網上不停進化,我們的技術亦會一直進步。」
「我們針對問題的解決方法必須靈活多變。」
不過,系統自動化面臨的其中一個大問題是,演算法可能會移除與恐怖主義有關的內容,而並非支持恐怖主義的內容──譬如是有關「伊斯蘭國」的新聞報導。
任何性侵兒童的影像都是違法並可移除,但與恐怖主義有關的影像──例如是一名「伊斯蘭國」成員揮舞旗子的照片──可以歌頌恐怖主義,也可以用作反恐宣傳。
「最先進的科技」
Facebook說,演算法理解不同情境的能力仍然比不上人類。Facebook說,已擴展專家團隊,現時有150人專注反恐範疇。這些員工包括反恐的專家學者、前檢察人員、前執法者、分析員及工程師。
比克特說:「我們必須有能夠審核內容的人。」
「使用電腦做電腦擅長的工作、派人負責人類擅長做的事,我喜歡這樣想。」
還有很多挑戰。利用假名開設用戶幾分鐘後,能夠找到「伊斯蘭國」完整版的宣傳影片。
有批評指,Facebook有20億用戶使用,處理問題挑戰嚴峻。不過,Facebook營收以十億美元計,絶對有能力投入更多資源──及頂尖工程師──去處理問題。
Facebook說已開始使用「最先進的科技」打擊恐怖主義內容,並相信外界需要看到它們的行動。