幹壞事是進步最大的原動力
在 Hacker News 首頁上看到「To uncover a deepfake video call, ask the caller to turn sideways (metaphysic.ai)」這篇，講怎麼在 video call 的時候辨認是不是 deepfake 的人。原文在「To Uncover a Deepfake Video Call, Ask the Caller to Turn Sideways」這邊可以讀到。
文章裡面介紹一個很簡單的方式，就是轉頭拍側面，會看到明顯的缺陷：
這張 GIF 會更明顯：
Hacker News 上的討論也有人提到這是目前的技術限制，所以這個方法算是有效的。但以現在各類 machine learning 成長的速度來看，可能沒多久後就會有新技術突破這個方法了。
在 Hacker News 上看到「FBI: Stolen PII and deepfakes used to apply for remote tech jobs (bleepingcomputer.com)」這個很「有趣」的文章，原報導在「FBI: Stolen PII and deepfakes used to apply for remote tech jobs」，另外 FBI 的公告在「Deepfakes and Stolen PII Utilized to Apply for Remote Work Positions」這邊。
The FBI Internet Crime Complaint Center (IC3) warns of an increase in complaints reporting the use of deepfakes and stolen Personally Identifiable Information (PII) to apply for a variety of remote work and work-at-home positions.
當 deepfake 的技術愈來愈成熟後，這個問題應該會愈來愈嚴重？
另外讓我想到，先前有人發現錄取的人跟面試的人好像不一樣的情況，但一時間找不到那篇文章...
寫完上一篇「可以看 Chrome Extension 程式碼的 Chrome extension source viewer」後就可以來提「Fake Profile Detector tells you if people are real or fake online」這個了，文章裡面在介紹 V7Labs 所提供的 Chrome Extension：「Fake Profile Detector (Deepfake, GAN)」。
從套件的名字可以看出來他主要是偵測 GAN (Generative adversarial network) 類的類神經網路，這點在套件裡面說明也可以看到：
Right-click on a profile picture, our model will detect if that image contains a GAN generated or real person!
實際上測試時要注意要儘量抓夠大的圖片丟進去測，像是 Generative adversarial network 維基百科這頁裡面「Concerns about malicious applications」這個章節右邊兩張 GAN 生成的圖，如果你用維基百科預設的縮圖大小 (220x220)，上面這張會猜測是真人，下面那張會猜測是假人。
但如果到大一點的圖 (600x600) 的話就都會猜測是假人：「File:Woman 1.jpg」、「File:GAN deepfake white girl.jpg」，原圖 1024x1024 的話也可以偵測出來。
然後 source code 就在那邊可以看 API 怎麼打，大家可以自己研究...
