Sensetime Research為Deepfake檢測器創建「最大」基準
(圖片來源:Bigstock / tanaonte)
人工智慧初創公司Sensetime的研究人員創建了Deepfake檢測器的「最大」基準,允許開發人員訓練和測試試圖識別人臉偽造的系統。
為何重要:Deepfake技術用於通過人工智慧處理媒體來創建逼真的視頻,圖像或聲音,引發了人們對包括面部識別系統在內的應用程序可能會被欺騙並導致個人數據泄露的擔憂。在流行情況下,名人的面孔被疊加在自己身上。
- 中國頒布了規則,要求在線平台清楚地標記使用深度仿造,深度學習,虛擬現實或其他技術創建的內容。
「考慮到可能產生的危險影響,’deepfakes’在互聯網上的流行進一步在普通公眾和當局中引起了警鐘。因此,迫切需要迅速採取對策,尤其是可以有效檢測被操縱的視頻的創新。」
—Sensetime和南洋理工大學的研究人員
中國通過新規定瞄準「深造」內容
詳細信息:Sensetime Research與新加坡的南洋理工大學共同創建了基準,稱為Deeper-Forensics-1.0。研究人員聲稱,該數據集是同類數據集的10倍,由60,000個視頻組成,包含1760萬幀。
- Sensetime表示,所有源視頻都是經過精心收集的,而偽造的視頻是通過新提議的人臉交易所框架生成的。
- 研究人員收集了來自26個國家/地區的100名付費演員的面部數據,其中53位是男性,47位是女性,以構建DeeperForensics-1.0。 Sensetime表示,演員的年齡介於20至45歲之間,這是現實視頻中最常見的年齡段。
- 研究人員補充說,數據中心化的視頻比現有的視頻「更真實」。它們還包括具有不同壓縮率和模糊率的鏡頭,以模模擬實場景。
- 他們說,基準測試還包括一個隱藏的測試集,其中包含操縱視頻,這些視頻能夠欺騙人類評估人員。
背景:Deepfakes於9月在中國引起了廣泛關注,當時流行的換臉平台Zao成為關注隱私問題的焦點。該應用程序於8月31日發布,在中國發布了允許過多數據收集的政策之前,在中國迅速流行。 Zao很快引起轟動,其伺服器在發布之日便達到了最大容量。
- 監管機構注意到了這一情況,召集其母公司約會平台Momo的高管討論Zao的數據收集做法。