Tag: detector

V7Labs 提供的 Chrome Extension，偵測圖片是否為人工智慧生成的

寫完上一篇「可以看 Chrome Extension 程式碼的 Chrome extension source viewer」後就可以來提「Fake Profile Detector tells you if people are real or fake online」這個了，文章裡面在介紹 V7Labs 所提供的 Chrome Extension：「Fake Profile Detector (Deepfake, GAN)」。

從套件的名字可以看出來他主要是偵測 GAN (Generative adversarial network) 類的類神經網路，這點在套件裡面說明也可以看到：

Right-click on a profile picture, our model will detect if that image contains a GAN generated or real person!

實際上測試時要注意要儘量抓夠大的圖片丟進去測，像是 Generative adversarial network 維基百科這頁裡面「Concerns about malicious applications」這個章節右邊兩張 GAN 生成的圖，如果你用維基百科預設的縮圖大小 (220x220)，上面這張會猜測是真人，下面那張會猜測是假人。

但如果到大一點的圖 (600x600) 的話就都會猜測是假人：「File:Woman 1.jpg」、「File:GAN deepfake white girl.jpg」，原圖 1024x1024 的話也可以偵測出來。

然後 source code 就在那邊可以看 API 怎麼打，大家可以自己研究...

假新聞產生器與偵測器

在 Hacker News 上看到的消息，是關於「使用類神經網路產生新聞」(也就是透過程式大量產生假新聞)，這次的結果包括了「產生」與「偵測」兩個面向：「Grover – A State-of-the-Art Defense Against Neural Fake News (allenai.org)」。

實驗的網站在「Grover - A State-of-the-Art Defense against Neural Fake News」這邊，另外也有論文「Defending Against Neural Fake News」可以讀。

幾個月前，OpenAI 利用類神經網路，研發出「自動寫新聞」的程式，當時他們宣稱因為效果太好，決定不完整公開成果：「Better Language Models and Their Implications」，中文的報導可以參考 iThome 這篇：「AI文字產生技術引發假新聞爭議，OpenAI決定只公開部份技術成果」。

而現在 The Allen Institute for Artificial Intelligence 則是成功重製了 OpenAI 的成果，取名叫 Grover，發現訓練出來的模型除了可以拿來寫新聞外，也可以拿來偵測文章是不是機器產生的，而且就他們自己測試，辨識成功率還蠻高的：

To study and detect neural fake news, we built a model named Grover. Our study presents a surprising result: the best way to detect neural fake news is to use a model that is also a generator. The generator is most familiar with its own habits, quirks, and traits, as well as those from similar AI models, especially those trained on similar data, i.e. publicly available news. Our model, Grover, is a generator that can easily spot its own generated fake news articles, as well as those generated by other AIs. In a challenging setting with limited access to neural fake news articles, Grover obtains over 92% accuracy at telling apart human-written from machine-written news. Please read our publication for more information.

不過看起來 source code 與 model 還是沒放出來，但看起來遲早會有對應的 open source clone...

我想到在攻殼電視動畫裡面的情報管制戰，雖然電視動畫裡沒有講得很詳細，但感覺這類工具就是其中一環...