卡内基·梅隆大学传授Matt Fredrikson夸大，野生智能手艺的共同的地方在于，不管是研讨职员仍是开辟这项手艺的公司，都没有完整了解野生智能是怎样事情的，也没有完整了解为何某些代码串能够棍骗谈天机械人绕过内置的护栏，因而没法恰当地阻遏这类进犯

　　卡内基·梅隆大学传授Matt Fredrikson夸大，野生智能手艺的共同的地方在于，不管是研讨职员仍是开辟这项手艺的公司，都没有完整了解野生智能是怎样事情的，也没有完整了解为何某些代码串能够棍骗谈天机械人绕过内置的护栏，因而没法恰当地阻遏这类进犯。

　　本周早些时分，拜登当局颁布发表了“野生智能收集应战”，这是一项为期两年的比赛，旨在布置野生智能手艺来庇护美国最枢纽的软件，并与抢先的野生智能公司协作，操纵新手艺改进收集宁静。 

　　近来几个月野生智能风趣的使用，研讨职员发明，如今险些无处不在的谈天机械人能够被棍骗，供给形成身材损伤的指令。今朝大大都盛行的谈天使用法式最少有一些庇护步伐，旨在避免体系公布虚伪信息、愤恨行动或供给能够招致间接损伤的信息。

　　这场比赛是环绕白宫科技政策办公室的“野生智能权益法案蓝图”而设想的，其目标是期望刺激科技企业更负义务地开辟和布置野生智能，并限定基于野生智能的监控野生智能风趣的使用。

　　一年一度的DEFCON极客大会是环球顶级的宁静集会，也被称为极客界的“奥斯卡”，本年的集会将于本周五(8月11日)开端。集会构造者暗示野生智能 影戏完好，期望本年的集会将有助于提醒野生智能模子能够被操作的新办法，并找到为野生智能开辟职员供给修补枢纽破绽的时机。

　　这场“争斗”发作之际，人们对野生智能手艺的担心和检查日趋加重。跟着工夫的流逝，这类新兴手艺正在囊括环球，但也几回再三被证实其会放大成见、传布毛病信息和伤害质料。

　　OpenAI、Meta野生智能 影戏完好、Google和Anthropic均对所谓的红队练习变乱暗示撑持。这也是收集宁静行业中一种常见的做法，它让科技公司有时机在受控情况中辨认体系中的破绽和缺点。究竟上，这些野生智能开辟者曾经公然阐明了他们是怎样操纵红队来改良他们的野生智能体系的。

　　Fredrikson弥补道，怎样才气真正防备这类状况，今朝仍旧是一个悬而未决的科学成绩。诚笃的答复是，我们不晓得怎样使这项手艺对这类操作具有“鲁棒性”。

　　研讨职员用来棍骗野生智能使用法式的一些办法厥后被这些公司阻遏了野生智能风趣的使用，由于研讨职员见告他们留意这些破绽。OpenAI、Meta、谷歌和Anthropic都暗示，他们感激研讨职员分享他们的发明，正在勤奋使他们的体系更宁静。

　　但卡内基梅隆大学的研讨职员可以棍骗野生智能，引诱它们做出一些不法办法。他们发明，ChatGPT能够供给“怂恿社会动乱”的提醒，Meta的野生智能体系Llama-2能够被倡议辨认“故意理安康成绩的弱势群体”，谷歌的Bard被误导倡议开释一种“致命病毒”。

　　OpenAI的一名讲话人暗示：“红队不只能让我们搜集有代价的反应，使我们的模子更壮大、更宁静，还能供给差别的视角和更多的声音，协助指点野生智能的开展。”

　　卡内基梅隆大学处置这项研讨的副传授Zico Kolter暗示：“我们正在竞相将这些野生智能东西整合到一切事物中，这一究竟让我感应不安。这仿佛是一种新的创业淘金热，但却没有思索到这些东西存在破绽的究竟。”

　　这些黑客将在OpenAI、谷歌和Meta等开始进野生智公司的撑持和鼓舞下展开事情，以至获得了白宫的撑持野生智能 影戏完好。这项被称为红队的练习将许可黑客将计较机体系机能推向极限，以辨认并进犯野生智能使用的缺点和其他破绽。

　　本周末，数千名黑客将齐聚美国赌城拉斯维加斯，配合参与一场针对包罗ChatGPT在内的野生智能(AI)谈天使用的“围歼战役”。

　　白宫科技政策办公室主任Arati Prabhakar暗示，拜登当局对这项比赛的撑持也是其野生智能体系宁静开辟更普遍计谋的一部门。