社交媒體網站Reddit禁止AI換臉色情影片——在未經允許的情況下，將色情電影角色的臉部修改為明星的外貌。隨著人工智慧技術的發展，用電腦生成明星臉部特徵的影片片段變得容易得多。
網站Reddit已經成為分享和討論此類影片最受歡迎的地方之一。在推特、Gfycat等網站開始禁止這類影片後，Reddit面臨的輿論壓力越來越大。然而，這可能會導致一些Reddit用戶不安，因為在2017年關閉網站內兩個另類右派論壇之後，外界已經擔心該平台變得不那麼「開放」。
明星換臉影片怎麼來的？
在網站Reddit上，這類影片被稱為Deepfakes，它使用人工智慧軟體來創建由電腦生成的人臉，然後與影片中本身的人臉進行替換。影片所用的算法被認為是去年開發的。製作這樣一個影片，需要有從不同角度拍攝的約500張人物臉部照片，以及一段影片，最終可生成效果較好的換臉影片。
去年12月這種做法開始引起較廣泛關注，一家新聞網站報導這種技術是如何被用來製作女演員蓋兒加朵的換臉影片。但是1月網上流傳一個名為FakeApp的軟體，使這一過程變得非常簡單，只需按一個鍵就能實現。
並不是所有換臉影片都帶有色情，其中很多都是關於美國總統川普的惡搞，一個用戶則把自己妻子的臉放到好萊塢電影的場景中。Reddit最新的政策禁止換臉的影片和圖片在該網站上的傳播。這類影片在Reddit上的頻道有超過91,000名用戶，也是新政實施後第一個被刪除的頻道。
最近，Deepfakes群體裏也有人擔心，一些用戶在使用這項技術來收集和替換16歲以下兒童的臉部特徵，從而生成虐待兒童的影像。Reddit表明其在這類問題上的態度，「Reddit禁止任何涉及未成年人或看似未成年人的性內容。」Reddit仍然允許發佈由FakeApp軟體創建的其他影片。
一些網友表達更深的憂慮——有用戶聲稱他們在利用身邊熟人或者社交網絡上陌生人的照片製作這種換臉色情影片。這種影片製作技術門檻越來越低，普通人成為受害者的風險急劇上升。
