還記得柯南卡通裡的「變聲蝴蝶結」嗎？能讓柯南一戴上就擁有毛利叔叔聲音的超強變聲器，現在不只在技術革新下成為可能，還成了駭客手中的詐財利器。
根據華爾街日報報導，2019年三月，英國一間能源公司內部職員接起電話，話筒中傳來母公司執行長的聲音，指示那位職員在一小時向匈牙利供應商匯出22萬歐元（約757萬台幣），同時強調這「非常緊急，要在一小時內完成出款」。掛上電話後，職員立刻按照指示匯出款項。這時他還不知道，剛和他通電話的根本不是執行長本人，而是利用AI合成技術假冒執行長聲音的駭客。
款項匯出後不久，駭客再度打來，指稱這筆款項會由能源公司在德國的母集團報銷，不久後，對方第三次來電，指示該職員再匯一次款。所幸職員發現來電地點是奧地利，並非母公司所在德國，又發現第二通電話中所稱「報銷」程序並未通過，才沒有依照電話指示再次匯款，讓損失進一步擴大。
可惜的是，雖說該職員沒有遵從假指示出款，後續也申報相關機關試圖追回款項。但這筆資金被轉到匈牙利銀行帳戶後，又被轉到多個國家，最後轉入墨西哥、再被分散轉至數個地點。幾經轉手後，目前警方無法從中找到任何嫌犯。
該公司受詐消息，是在保險公司完成賠償手續後，由該企業投保保險公司Euler Hermes Group SA向媒體透露，保險公司並未透露該企業名稱。
近來Deepfake技術應用範圍愈漸廣泛，繼外國網友將好萊塢女星人臉移植到成人影片之後，YouTube頻道Collider Videos日前也發表一部影片，將小勞勃道尼在《鋼鐵人》電影中露出片段，直接將男主角換成了阿湯哥。而與大眾對一般合成照片、合成影片的既定印象不同的是，Deepfake能夠透過人工智慧學習人臉表情動態，因此就算是接合編輯過的動態影像，也幾乎看不出編輯痕跡、看起來相當自然。
這樣的技術若是用在一般惡搞影片，或許會有不錯效果，但若被有心份子拿來加以利用，就相當令人憂心。目前Deepfake在網路上已是開源技術，且技術水準不高，幾乎任何人都可以透過開源軟體合成影片。
而此次引起軒然大波的合成語音，其實Adobe早在2016年就發表了音訊編輯軟體Project VOCO。只要提供一段二十分鐘的人聲音頻，這款軟體可以分析、學習，由此「複製」出一模一樣的聲音。軟體發表時，工程師在這段「新版」音頻中加入了幾個原音檔沒出現過的字，但整段音檔聽起來毫無破綻。
距離Project VOCO的問世已過了三年，想必現在已有更精密的音訊合成技術。隨著此次事件的爆發，人工智慧技術的應用、相關規範制定及所衍生問題也逐一浮上檯面。當AI開始詐騙，社會又該如何防範呢？
責任編輯／潘渝霈
