终于，他们让AI变成了人工智障
文库划重点：在现实生活中，大家可能在不经意中会留下很多指纹，这些指纹看上去非常“淡”、非常的无足轻重，但是这些信息足够让不法分子做你的指纹膜。
极客的影响力边界正在拓宽。
在比赛时间结束前的几秒钟里，当评委和主持人几乎要宣布失败的节骨眼上，现场观众突然发现屏幕上出现了“被动了手脚”的黄健翔的图片和清晰的伊万卡的照片，在最后关头，TSAIL战队完成了让AI犯错的任务。
同样充满戏剧性的是，在指纹识别的挑战中，参赛选手在时间倒计时20秒内才完成了指纹制作，然而就在拿指纹去验证的过程中，做好的指纹意外落地，引得全场惊呼。好在，指纹找到，并成功打开了四部智能设备。
这是CV智识在GeekPwn2019现场见证的一幕幕真实画面。
一场最具戏剧性的指纹挑战赛
在现实生活中，大家可能在不经意中会留下很多指纹，这些指纹看上去非常“淡”、非常的无足轻重，但是这些信息足够让不法分子做你的指纹膜。
“因为时间不够了，读秒到20秒的时候就强行停止了，指纹还没有雕完，只用了2/3的指纹，另外1/3还没有打完。”刚刚参加完GeekPwn2019指纹解锁挑战赛的腾讯玄武实验室指纹识别项目选手陈昱谈到。
在挑战过程中，陈昱经历了两个戏剧性的时刻，一是在时间截止前的最后一秒完成了满意的指纹制作，二是在从操作台拿到设备上验证的过程中，指纹意外掉落到了地上。
但就是这2/3并且因为意外掉到过地上的指纹，帮助陈昱在指纹识别比赛中成功破解了五个设备，完成了挑战，从中足以看出，依靠技术手段获取普通用户的指纹已经不是科技界的难事。
与其他比赛项目不同，指纹识别的挑战赛只有陈昱一个人参加。
比赛刚开始时，多数的现场观众或是在闲聊，或是处在中午疲惫期而兴趣寥寥。
为什么没有对手？面对媒体的发问，陈昱解释道：“极棒比赛有两种pwn和表演赛，我这个属于表演赛。”
比赛开始时，评委介绍称，在本次指纹解锁挑战中，核心点在于在20分钟内做一个指纹出来，并把所有的设备全部打开。
选手需要指纹解锁的设备主要有六个，分别是四部手机和两个指纹打卡机，这六个设备用的是不同的技术。
活动现场，随机找到的志愿者把指纹印在玻璃杯上，随后陈昱先要在玻璃杯上取得目标指纹，然后根据指纹样本，用3D打印机将指膜打印出来，进而实现指纹解锁。
与想象中采取指纹方式不同，陈昱是先把玻璃杯放到暗箱里去拍照——找指纹，然而在挑战过程中，这个简单的采集指纹动作就用了将近1分钟。
紧接着，他把手机里的照片进行了放大，将图片中的噪点进行了二次处理，以便3D打印时，指膜能够更加的准确清晰。
三分钟时，陈昱完成了第一个指膜的“3D打印”，但几分钟后，他似乎对拍摄的照片不满意。然后又开始了新一轮的重复动作。
随着比赛的一步步进行，越来越多的观众已经从闲聊和瞌睡中缓过神来，开始聚精会神地关注着比赛。
在剩8分30秒时，陈昱把雕刻的痕迹做了一些清理，并把雕刻出来的指纹剪了出来。其实这个雕刻过程还是需要挺长时间的，大概5分钟才能完成一次。
正是由于在指纹雕刻过程中花费了太多的时间，所以留给指纹再加工的时间非常有限。
接下来，可怕的一幕也发生了，由于陈昱在比赛前半段一直没有获得满意的指纹雕刻图像，所以在比赛结束20秒前他还没有一枚能拿去破解的指纹。
直到时间所剩无几，他精心修过的指纹才最终成型。
“可以看到现在陈昱的手都抖的不行，出了满头大汗。”主持人黄健翔在现场调侃道。
在解锁之前，还有一个把全场观众注意力推向高潮的一个细节，那就是指纹掉地上了。
这一幕发生时，黄健翔反复强调，“我保证这绝对不是安排好的。”
紧接着，在全场观众的瞩目下，陈昱开始了指纹印证开锁的环节，经过反复的测试，最终揭开了两个打卡机和三部手机。
这个比赛里面，为什么时间指标如此重要？
评委解释称，因为指纹采集是在咖啡馆、茶馆等真实场景中，而指纹解锁需要接触到手机，所以对指膜做出来的时间有客观要求，只有这样才能在短时间内完成解锁。
关于这次破解的成本，陈昱坦言，“硬件加在一起1千多，雕刻材料1块钱可以做出十几个，基本忽略不计。软件只是一部手机、我自己开发的一个App，所以是用廉价方式雕刻出一个3D指纹，这在以前是没有的。”
“第一个困难是选择材料，短时间内不可能尝试多种材料去攻克不同原理的指纹。所以选材料花了很久。第二个困难就是拍摄，由于只能用手机拍摄，所以比赛中这部分花了很长时间，如果用专用设备就容易得多。第三是不能被防伪系统认出，即让它认为是真实的手指上的指纹，而不是假的。”陈昱边回忆边叙述着这次挑战中的难点。
在此之前，以二维特征为技术原理的光学指纹和电容指纹，已经能够用不到5毛钱耗材的成本，在5分钟之内被攻破。
但本次涉及到的指纹识别是超声波指纹，这项技术是考察三维特征的。因而破解也需要用更高端的技术。
评委谈到，“这一次很大一个难点在于超声波的渗透。第二是要用一个指纹把所有的设备解锁，难度性也非常大。”
此外，在与陈昱之后的交谈中，CV智识了解到，这次挑战项目是拍手指在光滑平面（比如手机屏幕）上残留的指纹的痕迹，通过这种方式残留的指纹场景更多。所以演示的也是难度最高的——玻璃杯采集。
“屏幕上采集指纹难度比玻璃杯低好几倍，但屏幕上比杯子上采集容易。”陈昱说。
诚然，这次的挑战并没有达到100%的成功，毕竟还有两部手机没有解开。
谈到对结果的感受，陈昱告诉CV智识，“考虑到现场紧张的情绪和环境影响，对这个结果已经满意了。”
其实，虽然陈昱在指纹识别领域已经有了两年多的探索，但是在极棒这个赛场上他还是一个新选手。
指纹难，脸更难，清华战队巧骗AI
与陈昱不同，包揽两项AI挑战赛冠军的团队——TSAIL站队，他们是由三名清华计算机博士生和RealAI联合组成的顶配团队，似乎从出场就带着主角光环。
除了清华博士的头衔，让人对他们的比赛有些许的期待外，他们还有多个国际大赛冠军的背景加持。
在2017年，TSAIL站队就已经拿了Google顶尖机器学习三个对抗样板赛的冠军。去年，他们也获得了极棒拉斯维加斯的冠军。
与过去毫无二致，此次他们参赛的项目依旧都与AI相关，这回问题的核心点在于让AI犯错。
作为极棒大赛的传统项目，这无疑代表着此次大赛的最高难度和水准。
第一个比赛中，组委会为选手提供了三个挑战：定向攻击，非定向攻击，并攻击知名人脸识别服务。
这场比赛的高潮在于，TSAIL战队在第三关“人脸识别攻击”中用图片成功欺骗Clarifai人脸识别系统，让AI将黄健翔识别成了“美国第一千金”伊万卡，虽然置信度很低，但依照比赛规则，判定选手攻破成功。
“我们只能算勉强成功了一部分。因为三个模型中我们只攻破了一个，并且攻破的效果也不是特别好。”赛后，TSAIL站队选手们如此的自评道。
与在现场时的热闹不同，在采访过程中，他们十分冷静和理智。可能是已经习惯了大赛夺冠的结果，他们也并没有表现出明显的喜悦。
直到谈到比赛的技术原理，他们才开始滔滔不绝起来。
其实，现在国外AI已经能够实现“换脸”了。不过从原理来看，之前的“换脸”与本次挑战赛中的还是不一样的。
对此，他们解释道：“我们整个照片中脸其实没有换，我们只是在原有的照片上做了点微小的改变，人看起来改变不大，但这种微小的改变就能够让机器误以为是伊万卡的照片”。
“从学术角度来看，它实际上是数学的一个优化问题，因为目前神经网络有些漏洞，优化是一种途径。通过一些优化方法让模型认为它就是要攻击的目标对象——伊万卡。单从挑战内容来看，不同性别，国籍，人种和年龄都会有一定的影响。”他们进一步谈到。
一般而言，攻防型比赛从技术角度主要分为黑盒和白盒两种，白盒是指主办方给出模型的具体参数。这样一来，攻破就会变得更容易一点。
而黑盒则是不给具体参数，需要用类似反推技术找到具体参数，这次比赛中攻击的人脸识别就是一个典型的黑盒场景，难度更大。
“这次人脸识别的攻击主要要攻亚马逊、微软的API，对我们来说，因为商业保密性，并不知道它背后实现是怎样的，但我们发现不同的神经网络有一些共同点，通过利用这些共同点，它们有共同的漏洞，所以我们利用这些共同的漏洞来攻击。”参赛选手表示。
罗马不是一天建成的，选手的技术积累和比赛成功也不是依靠朝夕的功夫。
他们坦言，实验室本身在这个领域已经了有很深的积累。具体到他们个人，至少两年前就开始了研究，写了很多代码，看了很多论文。而这次针对极棒出的新赛题，也探索了一些新的方法，最近这一个月其实主要是针对任务调试。
所以取得好成绩似乎是意料之中的，而比赛失败才是意料之外的事情。
在积累中创新，在创新中攻破，这一系列的动作最终使得TSAIL站队最终以229.77分的累计得分，成功拿到GeekPwn2019 CAAD CTF图像对抗样本攻防赛的第一名。
除了让AI“脸盲”，参赛者们还可以让AI“失明”。
在CAAD隐身挑战赛中，选手仅通过A4纸便在AI的监视下成功实现了“隐身”，真正达到了类似哈利波特中的“隐身斗篷”效果。
具体规则是，选手们需要在规定时间内，通过总面积不超过一张A4大小的图片来遮挡身体，并在现场接受算法的实时检测，如果算法模型识别不出人的存在且结果维持10s以上，则挑战成功。
值得注意的是，此次比赛选手全部攻破的是被视为“目标检测网络的巅峰之作”的YOLOv3系统。
CV智识在现场看到，这个比赛虽然有多支队伍参加，但是每次场上只有一组挑战，在二十分钟的比赛时长中，参赛选手不断的调整和更换现场观众手中的A4纸，以便找出算法的漏洞。
最终，Hiding Cat、NISLer、TSAIL三支战队选手挑战成功，成功挑战的检测距离均为1米，其中TSAIL战队使用的纸张面积最小，仅为196平方厘米。
TSAIL战队在赛后的采访中表示，这个原理跟人脸识别一样，本质上都是用一些方法找AI模型的漏洞，技术上是相通的。
虽然TSAIL战队在这项比赛中取得的也是最优的成绩，但在他们自己眼里这个结果却不能让人满意。
他们表示，现场的不确定因素比较大，尤其光照，会影响补丁的分布，如果曝光严重，A4纸上的图就会变样。但规则要求在每个人身上都要达到一个通用的消失，这是一个技术难点，因为补丁是定制化的。
“跟今天的比赛场景不一样，如果提前知道要谁隐身的话，可以做定制化补丁，这个技术比今天的简单一些。但今天是随机在下面抽一个人，我没有办法根据他的体形、五官、衣着来定制化补丁，这对补丁的质量要求会更高。”
至于为什么维持10秒以上才算成功时，他们告诉CV智识，“其实检测是每帧都在做，主要是为了保持稳定性。如果上一秒隐身下一秒出现，这从使用角度来讲不算成功。如果隐身10秒以上，这个技术就好一点。10秒钟是赛方设定的一个时间，理论上是无限时间的。”
此外，这次CAAD隐身挑战赛对于AI安全来说还有着极高的现实意义，在对抗样本的作用下，活生生的人可以在镜头下实现“隐身”，这将使得犯罪分子甚至可以逃避执法机关的追捕，成为行走在镜头下的“危险隐形人”！
可见，当下“大红大紫”的AI技术安全性的确值得重视，因为一旦对抗样本在某些真实环境下被滥用，便很有可能造成极为严重的后果。
00后少年特工
与钻研多年的研究员和学识丰富的清华博士不同，今年新登场的少年极客显得青涩而紧张。
据介绍，到现场参赛的是通过初赛选拔的 17 支青少年战队，他们之中大部分是第一次参加这类比赛，最小年龄仅为9岁。
可能是考虑到孩子们紧张的因素，亦或是因为这是首次少年极客比赛，所以小朋友们的赛场设置在了大会场馆的左侧。
在此之前，针对机器人挑战赛的设置大多较为一致：开门、爬楼梯、转动阀门……不少道具与关卡稍显笨重枯燥。
而GeekPwn2019将“挑战”与“特工”进行关联，利用密闭空间与救援任务的场景式还原，增加了放置易燃炸弹模型、收集颜色矿石等情节设定，提高了挑战的紧张感与趣味性。
比赛要求各战队机器人完成指定位置放倒旗帜、隔绝通道、放置炸弹模型、中断信号线、穿越逃脱、脱离遥控收集制定颜色矿石等多项任务。
关于设置这样一场少年比赛的初衷，GeekPwn 创始人王琦略显着急和焦虑地谈到，“现在的少儿教育大部分是学机器人和编程。看了课程设置，我有个绝望的看法，这个世界未来不会要每个人都是程序员。我认为更多需要的是思维的训练。所以把青少年带到极客大赛这样的环境来。我们最基本的一个想法，是告诉他们，成长路线上得掌握哪些知识。”
在比赛现场可以看到机器人特工携带炸弹模型秘密潜入，跨过重重障碍机关，中断报警信号线路、悄无声息地放置好炸弹模型，再巧妙地全身而退……这场景酷似好莱坞大片的经典情节。
赛后，CV智识采访了两位少年极客代表——黄思瀚和蔡一铭，他们均是初中学生。
即使是获得了第三名，但是回忆起比赛的难度时，黄思瀚还是直言“很难”。
“虽然比赛前已经先用零件组装了机器人，并通过APP预设了编程，设置了动作，也用iPad操控机器人完成了任务。但是这其中的逻辑编程还是很困难的。”
被问及具体的难点，他回答称，“要自动识别，而且需要预设编程，要不断调整。”
同样，获得第二名的蔡一铭也表达了类似观点，“我们准备了一个多月，每次都调试到很晚才回去，还要做作业。”
据了解，要完成所有的任务，机器人需要完成拆线、爬坡、移动和按按钮这些动作。而对于初中生来说，机器人的编程和组装是相当复杂的，尤其是拼装，还需要进一步加固。
作为首次参赛的选手，他们在赛前做了大量的训练和多次的预演，也设计了三四款不同版本的机器人。
他们自己也承认在预演过程中，出现了很多次失败，然后接着是一遍遍的改进。
其中，按按钮要精准，被所有的参赛者看做是最难攻克的点。
蔡一铭进一步解释，“如果不精准就会按到旁边，导致机械臂的框有个缝隙，会卡住，闸门可能会被压住，导致后面的程序进行不下去。”
在比赛过程中，黄思瀚甚至在按按钮的时候出现了失误，导致门掉了下来！
被问及出现失误的感受时， 他回答道，“比赛过程中出现一些意外无法避免。但不能紧张，要沉着冷静。”
值得欣慰的是，虽然比赛中多是个人战，但是少年极客之间也有许多协助配合，面对比赛，他们的心态更多的是相互学习，在竞争中找到改进办法。黄思瀚甚至俗套地说，“ 友谊第一，比赛第二。”
据悉，早在GeekPwn2018，青少年群体就已在这一极客比赛中崭露头角，在当年的机器特工挑战赛中，唯一一支高中生战队便凭借优异表现成功斩获大赛第三名。
与往年相比，今年除了年龄下限降低外，还有不少由“科技少女”带头的团队入选。
虽然年纪尚小，但不可否认不少00后、10后已经开始在国内外诸多机器人大赛中获奖，新生一代的少年极客正在崛起。
结语
在今年的GeekPwn2019上，CV可以清晰地感受到，伴随着云计算、AI、物联网、5G等前沿科技的普及，极客的影响力边界正在拓宽。
不管是比赛中的指纹识别，人脸识别还是AI时代下的隐身术，在为人们带来前沿科技体验的同时，也隐隐地埋下了危险的种子。
不过，好在，在现实生活中有这样一批人，他们好似前沿技术中的消防员，一直在发现漏洞、攻破漏洞的路上在探索着，努力着。
身为普通人的他们在赛场上闪闪发光，靠自己的努力，守护着一方安全。
同时，新一批少年极客的崛起，也让我们看到了未来世界，安全可期的模样。
（编辑：张丽娟）
收录于哈希力量，手机站省略本文固定网址
