【黄健翔女儿】让AI将黄健翔认成美国总统女儿 极客们说有点难

2020-06-11 - 黄健翔

南都讯 见习记者陈志芳 现在,人脸识别等AI应用越来越普遍,看似可靠,但也有极客能在AI面前瞒天过海,让AI失去检测能力。

10月24日,GeekPwn2019国际安全极客大赛在上海举行。南都记者注意到,其中 “CAAD CTF图像对抗样本攻防赛”的一道题是,让人脸识别系统将黄健翔识别成美国总统特朗普的女儿伊万卡。

黄健翔女儿

CAAD图像CTF各战队。图自GeekPwn主办方。

场上唯一成功解决这道难题的选手们是清华大学和RealAI联合组成的TSAIL战队,队员们接受南都记者采访时说,他们对这次表现并不是很满意,尽管他们让识别系统将黄健翔识别成伊万卡,但系统反馈置信度较低,意为识别系统并没有完全相信黄健翔就是伊万卡。TSAIL解释说,这次挑战的难点是不同种族和性别的“欺骗”,以及发现和攻击商业公司的人脸识别系统的漏洞。

黄健翔女儿

除了这种 “欺骗”AI的办法,南都记者注意到另一种通过物理灯光照射骗过AI的办法,此前复旦大学、香港中文大学、印第安纳大学和阿里巴巴组成的研究团队通过红外线灯将肉眼无法看见的红外线光打在人脸上,红外线光人脸识别技术将因此无法正确识别。在实验中,系统甚至会将普通人识别成乒乓球运动员王楠、韩国政客李会昌。

黄健翔女儿

另外,本次极客大赛还有另一“欺骗”AI的隐身挑战比赛,实现类似哈利波特中的“隐身斗篷”效果。

CAAD隐身挑战赛选手让现场观众实现“隐身”。 图自GeekPwn主办方。

此次选手们的对手是,两款能从视频或图像中检测识别到人体存在的识别系统,YOLOv3系统和谷歌的识别系统。

黄健翔女儿

为了在识别系统面前“隐身”,选手们会利用算法找出系统识别漏洞,打印一些布满状似珊瑚等事物的奇特图案的A4纸,让被试者手持A4纸,站在识别摄像头面前,如果系统长达10秒以上检测不出被试者,则挑战成功。

在比赛现场,TSAIL、Hiding Cat、NISler三支战队让被试者在YOLOv3系统面前“隐身”,成功距离均为1米,其中,TSAIL战队的纸张面积最小,仅196平方厘米,使用了几种通用型的奇特图案。

为何能在AI摄像头前“隐身”?获得隐身挑战比赛第一名的选手同样来自TSAIL战队。他们告诉南都记者,通过攻击基于深度学习的AI模型,找到了许多神经网络算法的漏洞。

TSAIL说,这次挑战的其中一部分难点是,现场的不确定因素较大,尤其是光照和被试者的随机性。打印的A4纸张在现场照射下曝光和颜色失常,都会影响A4纸张上的图案的隐身效果。另外,此次比赛是现场随机挑选被试者,难度更高,如果是事先就能有被试者的照片,选手的攻击算法就能采集、分析身高、体重、穿着等数据,形成定制化的A4图案,使被试者的隐身效果更好。

另一部分难点是,在成功隐身后,评委的三个主要衡量指标。一是“隐身”时间要坚持10秒以上,二是打印在A4纸张上的图案大小,三是被试者距离摄像头的距离。

TSAIL说,时间较长意味着“隐身”技术比较稳定,A4纸张上的图案越小,被试者距离摄像头距离越远,都会导致图案干扰能力降低,被试者在AI面前“隐身”的难度变高。

相关阅读
  • 【黄健翔无删减解说门】央视名嘴黄健翔陷“解说门”事件 遭众网友炮轰

    【黄健翔无删减解说门】央视名嘴黄健翔陷“解说门”事件 遭众网友炮轰

    2020-06-11

    中新网6月27日电北京时间27日凌晨,意大利队在世界杯八分之一决赛中对阵澳大利亚队,虽然场上少一人,但凭借着最后关头的点球,该队以1比0淘汰了已经加入了亚足联的澳大利亚队。综合华奥星空等媒体消息,比赛的最后三分钟,央视足球评论员黄健翔的一些言论,引发了一场轩然大波。黄健翔意澳之战最后三分钟解说词:“点球。

  • 【黄健翔06世界杯决赛解说】2006世界杯决赛黄健翔 黄健翔06年世界杯激情解说内幕竟是?

    【黄健翔06世界杯决赛解说】2006世界杯决赛黄健翔 黄健翔06年世界杯激情解说内幕竟是?

    2020-06-11

    06年德国世界杯八分之一决赛意大利对阵澳大利亚,黄健翔终场前解说词如下:“点球!点球!点球!格罗索立功啦!格罗索立功啦!不要给澳大利亚人任何的机会!伟大的意大利的左后卫,他继承了意大利的光荣的传统!法切蒂、卡布里尼、马尔蒂尼在这一刻灵魂附体!格罗索一个人,他代表了意大利足球悠久的历史的传统!在这一刻。

  • 【落跑甜心女主角】继《落跑甜心》后又一部让人目瞪口呆的女主角!

    【落跑甜心女主角】继《落跑甜心》后又一部让人目瞪口呆的女主角!

    2020-01-28

    《是!尚先生》讲述了风尚集团继承人尚铂燃为找出母亲离世的真相而秘密潜入时尚杂志社,在偶遇天真乐观的职场新人鹿小葵后,二人阴差阳错成为了职场对手兼同居室友,相互“厮杀”的同时对彼此逐渐产生好感,最终一起完成“复仇”大计并收获爱情。男主尚铂然(陈学冬)“风尚集团”继承人,帅气多金又敏感的陈列师。为寻找母亲离世的真相而潜入杂志社。