谁能想到全民换脸的时刻这么快就到了。一夜之间,朋友圈几乎被ZAO屏蔽,亲朋好友换上了电影明星的面孔,“表演了世界上最好的节目”。
事实上,这种用真人换脸的视频技术并不新鲜。但长期以来,只是名人的“烦恼”,比如担心成为色情片的主角。如今,ZAO的流行证明了普通人换脸是多么有吸引力。在APP store的顶部热搜上,服务器一度被砸,这个简单的换脸APP获得了惊人的流量。
然而,走红之后,质疑声此起彼伏。很多人开始批评ZAO的用户协议,指出你的脸可能会被恶意利用,甚至你可能会因侵权而受到指责。
在视频片段中,盖尔·加朵的脸被放在色情演员video身上
在推广虚假音频检测的过程中,谷歌在2019年的ASVspoof挑战赛中为开发者提供了合成语音数据集,并帮助他们开发了更安全的自动语音验证系统。此外,还有更硬核的研究:检测Deepfake音频的不是AI本身,而是老鼠。
在最近的一项研究中,俄勒冈大学的研究人员成功地训练老鼠检测假声音。通过让老鼠区分辅音,比如“buh”和“guh”在不同语境下的区别,老鼠可以以80%的准确率区分真假音。研究人员表示,用小鼠模型研究复杂的声音处理是有希望的。“研究哺乳动物听觉系统中音频检测的计算机制,将有助于研究下一代欺骗检测的通用算法。”。
除了技术,我们还能对付Deepfake的猖狂行为吗?目前Deepfake还不能很逼真,所以一些细微的瑕疵还是可以肉眼识别的。为此,Buzzfeed总结了一些识别方法:
1.不要妄下结论;
2.考虑内容的来源;
3.验证这些内容出现的位置;
4.检查人物的嘴部动作;
5.放慢视频速度,仔细观看。
然而,在这个“后真相”时代,我们很难指望每个人都花时间去辨别一段视频的真实性。在全民“ZAO”脸的狂欢下,我们会有分辨真假的心思吗?
参考文献:
https://www . vice . com/en _ us/article/gyd DM/gal-gadot-fake-ai-porn
https://www . Washington post . com/technology/2018/12/31/Scarlett-Johansson-假的-ai-生成的-性-视频-没有什么能阻止-有人-剪切-粘贴-我的-图像
https://www . law . com/legal technews/2019/03/19/Harvard-and-MIT-fund-deep fake-detection-government-transparency-ai-tools/?slreturn=20190801224307
https://spectrum . IEEE . org/tech-talk/robotics/artificial-intelligence/experts-赌第一-deep fakes-political-丑闻
https://www . axios . com/the-coming-deep fakes-对企业的威胁-308432 E8-f1d 8-465 e-b628-07498 a7 C1 e2a . html
https://www . axios . com/deep fake-audio-ai-importers-f 736 A8 fc-162 e-47f 0-a582-e5eb 8b 8262 ff . html
https://www . the verge . com/2019/3/5/18251736/deep fake-宣传-误传-巨魔-视频-骗局
https://www . alienfault . com/blogs/security-essentials/deep fakes-都是问题-什么是解决方案
https://www . BuzzFeed . com/craigsilverman/Obama-Jordan-peele-deep fake-video-fabble-BuzzFeed
https://web . Stanford . edu/~ zoll hoef/papers/cvpr 2016 _ face 2 face/page . html
vice . com/en _ us/article/d3wd3k/gfy cat-格斗-ai-色情-深度假货-假新闻
https://www . pcmag . com/news/370040/how-lab-mice-正在帮助-检测-deepfakes
https://www . government CIO media . com/DARPA-tackles-deep fakes-ai
https://www . BuzzFeed news . com/article/davidmack/Obama-fake-news-Jordan-peele-PSA-video-BuzzFeed #。gcxNolpGL