当野生智能和机械进修初次被引入收集宁静范畴时，它们经常被视为——偶然也被采购——闭幕黑客进犯的灵丹灵药

　　当野生智能和机械进修初次被引入收集宁静范畴时，它们经常被视为——偶然也被采购——闭幕黑客进犯的灵丹灵药。但这永久不会是真的。汗青表白，每当一种新手艺被引入计较范畴，很快就会呈现针对或利用统一手艺的进犯。

　　已往几年里，人们对野生智能宁静要挟的熟悉疾速增加。2019年11月，微软揭晓了一篇题为《机械进修中的毛病形式》(Failure Modes In Machine Learning)的论文，此中对野生智能体系中故意和偶然的毛病停止了使人惊奇的具体分类。

　　Adversa.AI公司于2021年4月21日揭晓了一份题为《宁静可托的野生智能之路》的陈述。陈述指出:“近来野生智能的指数级增加促使当局、学术界和财产界在已往两年中揭晓的研讨比已往20年多。”但是，虽然人们愈来愈意想到野生智能能够被滥用，但公家对它能够带来的结果知之甚少——除色情行业大批利用的深度造假。

　　“与传统软件差别，每一个野生智能体系都是共同的，没有通用的宁静补钉，”Neelou报告《宁静周刊》。“公司必需在他们的AI开辟过程当中归入宁静测试——也就是AI红队测试。他们还该当将其理论整合到收集宁静性命周期中，包罗猜测、防备、检测和呼应才能。要想经由过程手工操纵野生智能经常使用算法、利用开源东西或付费购置贸易处理计划来庇护本人的野生智能体系，这取决于构造。”但理想是，野生智能体系需求好比今更宁静——这恰是设想《对立章鱼》的目标。

　　Adversa.AI开辟了一种棍骗或捉弄了PimEyes(被《华盛顿邮报》形貌为地球上最有才能的人脸搜刮东西之一）的黑盒进犯，该公司的首席施行官兼结合开创人亚历克斯·波利亚科夫（Alex Polyakov）(这小我私家也可所以任何人)居然是埃隆·马斯克(也可所以其别人)。反方称这类进犯为“对立性章鱼”，由于像章鱼一样，它具有强顺应性、隐形特征和准确性。

　　简化了——或许是过于简化了——这个历程，它针对波利亚科夫的两张照片。此中一张原始照片被上传到PimEyes，以确保这张脸在数据库中。第二种是将Adversa的噪声注入到图象中，让脸部辨认算法辨认出这张照片就是特斯拉和SpaceX的首席施行官埃隆·马斯克。从视觉上看，这张照片仍旧是地道的波利亚科夫，但当PimEyes在互联网上发明它时，它摄取了这张照片，并将其解读为埃隆·马斯克。

　　近来关于野生智能的论文，他们发明了一种进犯脸部辨认体系的新办法，并决议在理论中展现它。他们的演示表白，今朝野生智能驱动的脸部辨认东西很简单遭到进犯关于野生智能的论文，能够会招致严峻的结果。

　　对立章鱼就是为了改动这一点而造的。Neelou注释道:“我们的目的是夸大在理想场景中庇护枢纽使命AI体系的成绩。“这就是为何我们开辟了合用于实在情况的初级进犯办法，脸部辨认是我们的研讨目的之一。”

　　Neelou以为，成绩在于一切深度进修算法从底子上来讲都是懦弱的，今朝还没有牢靠且通用的防驭手段。Adversa曾经测试了开源野生智能模子和野生智能在线api，发明此中大大都都很懦弱。假如人脸辨认供给商将野生智能作为其中心手艺，这多是他们产物宁静的最单薄环节，由于要挟是新的。

　　收集立功份子能够夺取小我私家身份，绕过银行、买卖平台或其他供给认证长途辅佐的效劳中野生智能驱动的生物辨认或身份考证体系。这类进犯在任何可使用传统深度假造的状况下都能够愈加荫蔽。

　　挑选的进犯办法是向图象中注入噪声。“经由过程注入乐音来棍骗野生智能体系并非甚么新颖事。这品种型的进犯被称为遁藏，是操纵野生智能体系的最多见方法。”学术界记载了数千起遁藏进犯变乱。但是，今朝的分类办法大多集合在通用图象分类上，存在各类范围性。《对立性章鱼》有很多差别的地方，但最主要的是它不需求任何干于AI算法的常识。”

　　“对立章鱼”就是为了改动这一点而开辟。Neelou注释道:“我们的目的是夸大在理想场景中庇护枢纽使命AI体系的成绩。“这就是为何我们开辟了合用于实在情况的初级进犯办法，脸部辨认是我们的研讨目的之一。”

　　脸部辨认体系中存在一些尽人皆知的成绩，好比能够招致狡诈以至毛病告状的成见。但是，他们以为，针对野生智能体系的进犯需求更多的存眷关于野生智能的论文。其目的是进步熟悉，并协助企业和当局处置新兴的对立性机械进修成绩。

　　恐惧份子或持差别政见者能够机密地操纵它在交际媒体上躲藏他们的互联网举动，不让法律部分晓得。它就像是我们当前糊口的假造天下的面具或假身份。”

　　Neelou持续说道:：“(对立式章鱼)办法是在AI红队的一个项目中开辟的，该项目触及创立多种办法来绕过基于AI的脸部辨认处理计划。”“我们决议查抄一下我们的进犯在多大水平上合用于大范围的互联网使用法式，并且这类进犯在PimEyes(和其他平台)上表示得出奇地好。”

　　总部位于以色列特拉维夫的野生智能(AI)公司Adversa.AI的任务是成立对野生智能的信赖，并庇护野生智能免受收集要挟、隐私成绩和宁静变乱的影响。该公司开辟出了进犯类的产物：针对人脸辨认体系的进犯，能够棍骗算法错曲解读图象。

　　一个相干的博客写道:“黑客举动份子能够会对野生智能驱动的互联网平台形成严峻毁坏，这些平台利用人脸属性作为任何决议计划或进一步锻炼的输入。进犯者能够经由过程操作大型互联网公司的小我私家才料图片迫害或躲避它们的算法。微软总结的机械进修故意的毛病/失利和偶然的毛病的总结。

　　Adversa首席手艺官和结合开创人Eugene Neelou向SecurityWeek注释了缘故原由。“进步人们对野生智能算法宁静的遍及熟悉很主要——不管是脸部辨认，就像此次的案例野生智能经常使用算法，仍是其别人工智能驱动的使用:：从互联网平台、交际收集到主动驾驶汽车、语音帮助等等。”一切这些都基于深度进修，而深度进修在宁静方面存在底子性成绩。”

　　今朝，Adversa没有宣布进犯办法的细节。可是，Neelou暗示:“跟着研讨科学家专注于庇护野生智能，我们方案公布一份白皮书，引见我们的进犯办法的手艺细节。”在这一点上，猫将不是简朴的鸽子，由于对立性章鱼，猫能够看起来是鸽子之一野生智能经常使用算法。

　　对立性章鱼把实际酿成了理想。Neelou说:“已知有针对生物辨认宁静的演示进犯和深度假造变乱。”“我们的进犯办法多是施行此类进犯的另外一种方法。但是，我们以为假造数字身份也能够成为欺骗者有益可图的目的。我们以为这类要挟不单单是生物辨认手艺——有很多野生智能算法会按照照片做出枢纽决议。他们能够成为更大的目的关于野生智能的论文。”

　　Adversa.AI公司在其项目声明中暗示关于野生智能的论文，他们的AI团队以增长对AI的信赖为任务，不竭探究评价和庇护枢纽使命AI使用的新办法。