人臉識別技術(shù)利用基于人臉特征點的算法進(jìn)行識別，因此人臉特征點是其中的一種主要的數(shù)據(jù)形式胎撇。每次你上傳一張照片到 Facebook介粘、Instagram，或者其他地方晚树，你都會將照片中人的面部特征點和照片中其他物體的特征點提供給這些學(xué)習(xí)系統(tǒng)姻采。

為了解決這個問題，多倫多大學(xué)的 Parham Aarabi 教授和研究生 Avishek Bose 領(lǐng)導(dǎo)的研究小組開發(fā)了一種算法來動態(tài)干擾這項技術(shù)爵憎。

這種技術(shù)原理基于“對抗性訓(xùn)練”慨亲，本質(zhì)上是建立起兩種相互對抗的算法。Aarabi 和 Bose 創(chuàng)建了兩個神經(jīng)網(wǎng)絡(luò)宝鼓，一個是識別人臉的網(wǎng)絡(luò)婶签，另一個是破壞其既定目標(biāo)的神經(jīng)網(wǎng)絡(luò)。這兩個網(wǎng)絡(luò)互相學(xué)習(xí)乾爆，相互提升效果彪壳。

Bose 在接受 Eureka alert 的采訪時說：“具有破壞性的人工智能可以‘攻擊’人臉識別時神經(jīng)網(wǎng)絡(luò)所尋找的東西。例如舆伺，如果檢測 AI 正在尋找眼角暴赡，它會調(diào)整眼角，這樣眼睛就不那么明顯了。它會在照片中產(chǎn)生非常細(xì)微的干擾蒂茶，但對探測器來說萄罐，這些干擾足以愚弄整個系統(tǒng)。”

在實踐中小梢，這意味著用戶可以使用一個過濾器 (比如 Instagram 或 Snapchat 上的普通視覺過濾器)幸膨，改變圖像中人眼無法察覺的特定像素，使人臉識別技術(shù)失效备洽。

在一個包含 600 多張不同種族慷甩、光照和環(huán)境的人臉圖像的測試集上，該系統(tǒng)能夠?qū)⒖蓹z測的臉從 100% 降低到 0.5%了嚎。

研究小組將在 2018 年 IEEE 多媒體信號處理國際研討會上展示他們的研究成果泪漂，之后他們希望通過一個應(yīng)用程序或網(wǎng)站將該過濾器公之于眾。

“十年前歪泳，這些算法必須是人類定義的萝勤，但現(xiàn)在神經(jīng)網(wǎng)絡(luò)可以在訓(xùn)練集上自己學(xué)習(xí)，” Aarabi說呐伞。“最后敌卓，他們可以做一些非常令人驚奇的事情。這是一個令人著迷的領(lǐng)域伶氢，有巨大的潛力趟径。”