• API检测失灵,Deepfake与面部识别谁更胜一筹?

    2021-03-30 23:06:46 | 热度:

  •  面部识别 VS Deepfake技术

    编者按:本文来自微信公众号“将门创投”(ID:thejiangmen),作者:让创新获得认可;

    Deepfake很容易骗过面部识别?

    跟随成均馆大学的一篇论文,走进对面部识别的测试。研究人员选择了微软和亚马逊的面部识别API作为基准,使用了在五个不同数据集上训练的人工智能模型,结果发现微软和亚马逊的错误率都达到了60%以上,其他的错误更是多种多样。

    这就是说Deepfake基本能骗过现有面部识别服务。

    Deepfake正在迅速增长。人工智能生成的视频,也就是换脸视频,如“雨后春笋”般冒了出来。根据初创公司Deeptrace的数据,从2019年10月至2020年6月,网络上的Deepfake数量增长了330%,峰值时超过5万个。

    关于欧美的反响,大多数人认为这令人不安,不仅是因为这些冒牌可能会在选举期间左右舆论或涉及犯罪,还因为它们已经被滥用,比如用作演员和明星的色情材料。

    据悉一家欧美的主要能源生产商就曾被Deepfake敲诈过。今年3月,犯罪分子利用人工智能的软件模仿一位首席执行官的声音,索要一笔22万欧元(合24.3万美元)的欺诈性转账。

    Deepfake检验百试不爽,面部识别软件有待提高

    代码的开源让任何拥有技术和目标图片的人都可以轻松制作出令人信服的Deepfake,一项新的研究表明Deepfake技术已经达到了可以欺骗商用面部识别软件的程度。

    韩国成均馆大学在Arxiv.org上发表的一篇论文证明了最常用的Deepfake方法就能骗到微软和亚马逊的API。

    其中一个例子是微软的Azure认知服务(Microsoft’s Azure Cognitive Services)被高达78%的Deepfake内容欺骗了。

    论文链接:

    https://arxiv.org/pdf/2103.00847.pdf

    研究人员写道:“从实验中我们发现,一是一些Deepfake生成方法对识别系统的威胁比其他方法更大,二是每个系统对Deepfake的反应不同。”

    “我们相信我们的研究成果能帮助更好地设计基于网络的应用程序接口以及适当的防御机制,这些都源于打击恶意使用Deepfake技术的迫切需要。”

    因为微软和亚马逊的面部识别提供识别明星的服务,研究人员选择了这两家的API作为基准。测量方式是根据这些API返回的人脸相似性评分指标比较他们的性能。

    明星相比普通人的可用图像数量多,因此研究人员能够相对容易地从中生成Deepfake。谷歌通过其云视觉API提供名人识别功能,但研究人员表示谷歌拒绝了他们使用该功能的正式请求。

    【分享】

  • 联系方式

    中国 - 深圳

    深圳市前海深港合作区前湾一路1号A栋201室

    商务联系:Business@joway.com

    All Posts
    ×