1993年的拉斯维加斯,18岁的 Jeff Moss 正准备面临一场悲伤的别离。他的一位黑客朋友由于爸爸工作调动即将离开美国,为了给这份友谊再留下些纪念,Jeff 决定给朋友办一个盛大的告别 Party。
早早开始策划,精心的筹备,但就当一切都准备妥当,却临时发生了点小变故:朋友已经提前离开美国,杳无音信。
看着空落落的房间,Jeff Moss 决定把自己其他的黑客朋友邀请过来,一场原本是送别 Party 变成了黑客们的相识聚合,而当时的他或许不会预料到,这场 Party 一办就是30年,并且成为了全世界黑客的「圣地」。
这场 Party,就是后来黑客社区的国际大会——DEF CON!
图注:Jeff Moss
近几年来,随着 AI 在现实世界中的应用愈加广泛,其在安全性方面暴露出的诸多问题也令人忧心。
2018年,百度安全与 DEF CON 首次合作,正式将 DEF CON 引入中国创办 DEF CON CHINA。5年时间里,DEF CON CHINA 不仅在一定程度上推动了中国网络安全社区建设,为极客群体搭建交流通道和成长空间;同时,这也反映了百度安全,特别在AI安全领域的系列进展,其中就包括由百度安全推出的自动驾驶仿真测试平台「铁马冰河」。
8月13日,百度联合 DEF CON 还首次将大会搬进了元宇宙中,打造 DEF CON 30 CHINA Party 元宇宙会场「DEF CONstruct」。
百度副总裁马杰感叹:“30年前拉斯维加斯 DEF CON 第一次会,就是一时兴起的事情,但没有人知道这个蝴蝶翅膀可以波澜到现在。所以我们现在这个时间点小小的、一个也很不完善的元宇宙首次正式在 DEF CON 呈现,它的涟漪或许在30年之后再看,也是很有趣的。”
一场元宇宙的狂欢
在 DEF CON 创立的第三十年,这个全球极客大会首次登陆了元宇宙。
8月13日到15日期间, DEF CON 30 在百度「希壤」的「DEF CONstruct」内进行了为期3天的拉斯维加斯现场实时直播,其中,包括了 KEYNOTE 主题演讲,VILLAGE 极客村及 CONTEST 体验馆等多个精彩环节。
其中,「希壤」内的地标建筑「DEF CONstruct」里是今年的一大亮点,站在蓝粉为主色调的场馆赛博朋克风十足,每位进入会馆中的参会者都可以获得一枚专属的虚拟牌(Badge),将其佩戴在胸前以证明自己的极客身份。
极客们可以在体验馆四处逛逛,有时还能遇上一些圈内的知名人士。
这位极客首次出现是在2013年的 DEF CON 大会上,他使用大量家用路由器组装成为一个大型无线装置,借助黑客扫描程序即可捕获现场游客的电子信息。由于其装置组装后会伸出大量的「刺」,像一个巨型菠萝,因此也成为了 DEF CON 上的标志性人物之一。
在希壤的 DEF CONstruct 中,我们也发现了这位「大菠萝」的元宇宙数字人身影,他背着自己的设备在街道上来回踱步,其背后的「菠萝」还会不断放出环形信号。
此外,在场地中心还会有人骑着摩托车快速穿行。
你也可以选择进入表演区里观看贝斯表演,一旁 DEF CON CHINA 的象征物「无极之树」十分显眼。
这是 DEF CON 首次登陆元宇宙,并在「希壤」里全新落成的地标建筑「DEF CONstruct」中完成首秀。
作为一名资深的黑客,马杰眼中的 DEF CON 是个颇为「保守」的活动,“它非常关注自己对社区的帮助和影响,不太关注商业化,也不一味地去关心是不是有更多的参会人群,只关注社区和品质,所以在很多事情上,做得相对比较保守,每一年一些小进步。”
在马杰看来,此次 DEF CON 首次加入元宇宙论坛,无疑迈出了极为大胆的一步。
万一效果不好怎么办?极客们对技术挑剔,一旦中途出现问题,是否会对 DEF CON 或者整个活动形成不好的口碑?......“都会有担忧,”马杰说到,“这次(DEF CON)迈出这么大的一步,我觉得一方面可能是对希壤的信心,另一方面,更多是对元宇宙代表互联网未来的一种信念。看似小小的一个尝试,实质上是非常重要的一步。”
在极客精神里,讲究的无非两个方面:对技术的专注、分享。“特别是在社区里,是非常讲究分享的,大家更开放地区探讨技术问题,分享这当中的经验和总结出来的新的科技。”
加入元宇宙后,或许能给极客精神的发展和传播带来新的助推力。
第一,它可以解决时空的问题;不在一个时间、空间的人群在元宇宙里得以狙击,马杰表示,“这非常有利于这种技术型社区的会议,大家加强分享和交流。”
第二,元宇宙一个重要特点在于其沉浸感;相比于原有的互联网跨越时空、但缺乏沉浸感,元宇宙提供了人们在虚拟空间实现「面对面交流」的可能性。“(元宇宙)提供了这样一种交流的场所,正好体现了极客精神中的分享和交流。”
从物理世界中来,到元宇宙里去
2045年俄亥俄州哥伦布,十七岁的韦德在拖车屋组成的叠楼里戴上他的VR眼镜和感知手套,当所有人都加速朝着赛道终点冲去时,他背道而驰加速后退,成功破解了哈迪斯留在绿洲里的第一把钥匙。
而在「希壤」的一个会馆里,驰骋在竞技场上的主角变成了车。
2022年,百度安全设计研发一台大型的「跑步机」,在这台跑步机上运动的不是人,而是车,同时还配备有特殊的「眼镜」,一个可生成虚拟世界的大投射屏,汽车可以通过这个硬件装置,在眼镜里的虚拟世界里随意行驶。
这台「跑步机」其实是一个名为「铁马冰河」的自动驾驶测试平台的组件,「铁马冰河」由百度安全团队自主研发,提供了包括环(SIL)、硬件在环(HIL)、整车在环(VIL)的自动驾驶系统和整车测评服务,可以支持从系统到车机再到整车的全链条测试验证。其目的在于在仿真场景中模拟汽车真实环境的行进情况,在自动驾驶系统运行过程中,构建了一个较为完整的测试验证体系,是一个能够模拟现实世界、现实路况的安全测试平台。
而在今年6月中旬,铁马冰河也登陆了百度希壤。由此,研究人员得以化身NPC,以更为真实的方式加入到仿真场景中,通过与测试车辆产生交互,从而更好地捕捉和反馈自动驾驶在遇到各种人为突发情况时所需要面对的安全隐患。
图注:汽车在装置上行驶,屏幕可实时生成测试场景
目前,存在自动驾驶仿真安全测试中的困难之一莫过于突破极端复杂场景复现难题,数以千万计的道路、不同的天气、差异化的驾驶习惯、行人的随机走路习惯等构成了无数的路况,以至于传统自动驾驶的实车路测往往难以完整覆盖所有路况,测试内容人为控制难度高。
而「铁马冰河」则可以很好地解决这一难题。
改变自然光照,把天气情况进行叠加,太阳光叠加下雪、有雾同时还下雨、或者是阴天雨夹雪等等,「铁马冰河」装置可根据测试需求变化,实现对路况的控制和调整,进一步评测自动驾驶系统的安全性问题。
「铁马冰河」将物理与虚拟相结合,在保证安全测试效果的同时,创造更接近于真实路测效果的随机路况,提升自动驾驶系统安全测试的效率,降低测试的综合成本。
图注:铁马冰河的评测过程
“安全里面有个词叫 Fuzzing,我们将近年来在Fuzzing方向的技术积累梳理统称为‘百中术’,取自‘百Fuzz百中’之意。”马杰解释到,“我们不是一个一个碰巧、随机的去测试某个场景的安全性,而是去遍及它所有的可能性,检测它是不是安全,这才是我们安全人员眼中的安全,用Fuzzing这样一种思想去解决问题。”
据公开数据预计,到 2050 年全球自动驾驶汽车市场或将达到 7 万亿美元,正在成为世界上最大的市场之一。
然而,自动驾驶系统是一个非常复杂的系统,实现自动驾驶的成熟应用需要进行海量的实地路测,这不仅需要庞大的城市公共路网支持,也需要大量的测试时间。
「铁马冰河」的另一优势就在于,其汇聚了百度安全在安全对抗方面积累的研究成果,可在仿真路测场景中模拟出多种安全对抗元素,将「隐身衣」、「一叶障目」等经典对抗样本进行模拟测试。通过场景中交通标识牌、车身等标志物的「攻击」行为,来检测自动驾驶视觉感知模块的鲁棒性。
此次 DEF CON 30 期间,百度就联合加州大学欧文分校共同举办 AutoDriving CTF 竞赛,并在「希壤」内搭建了 BCTF·AutoDriving 竞技馆供选手参与挑战,在攻击、取证、检测、车辆碰撞、智能规划5类场景外,今年还增加了新的安全场景。
图注:DEF CON 30 AutoDriving CTF 竞赛
玩家作为真人 NPC 的身份出现在场景中,可以更沉浸地感受自动驾驶汽车在出现突发情况,或是出现行人碰撞时的实际效果;通过与元宇宙平台联动, 虚实结合+沉浸式场景+真人NPC,马杰指出,通过「铁马冰河」平台,实现自动驾驶汽车“在物理世界开,在虚拟世界里行走。”
有AI,会更安全吗?
「铁马冰河」在今年6月份登陆「希壤」,结合物理与虚拟,是百度安全对 AI 安全测试的重要尝试。
而在「希壤」之外,元宇宙时代下,AI 安全研究也面临着新的挑战。其中,百度在2020年就率先提出Security、Safety、Privacy 三大 AI 安全研究维度。
Security:指对抗性的安全,在传统安全领域备受极客和黑客关注
Safety:指非对抗性的安全,由于 AI 带来更广泛的应用场景,因此大量对抗往往不是「人」,如自动驾驶对抗自然环境的变化,受光线、自然天气的变化等造成的影响;目前是AI 安全领域重要的研究方向之一
Privacy:数据安全和隐私,AI 或者智能化的广泛普及,工作、生活中无处不在的数据安全和隐私需要得到保护
AI 安全研究问题从原来的Security,延伸到Security、Safety和Privacy,外界对 AI 安全问题的关注也在逐渐放大,当中不乏有关 AI 是否让人们生活更不安全了,元宇宙时代、如何抵挡网络攻击等诸多讨论。
但在马杰看来,AI 让人们生活变得更安全、或是更不安全,需要从两个角度来分析。
首先,安全面变宽了,“基于 SSP 架构三件事来讲,原来 Security 是传统安全在普遍关注的,这个S里面新增了跟 AI 密切相关的(部分),另外的 S 和 P ,整体都是这些年新多出来的安全问题。”与此同时,这也导致了安全问题绝对数量的上升,“AI的广泛使用一定会把问题的基数变得更大。”
简单来说,就是人们生活中面临的风险更广泛、数量也更多了。
但从安全问题的比率来说,马杰认为,如今在工作和生活中所增加的,对 AI 和智能设备相关使用场景的增加速度、同安全问题的增加速度相比,问题比例已经得到一定的控制,“我们没有必要过度渲染说这个世界变得更不安全了,事实上在大家的努力下,各种安全问题是在不断地被解决的。”
在媒体采访中马杰说到,“安全不是任何一个个人、一家企业或一个社区可以做得了的事情,需要大家联合起来,需要秉持开放合作的心态。”
1993年,一次偶然的黑客聚会在拉斯维加斯举办,并在随后二十多年里,吸引了越来越多人的参与,
各种软件、硬件,电话、汽车破、无人机等等一切可以被破解的东西在这里备受欢迎。
2018年,DEF CON 第一次来到中国,Jeff Moss 和马杰在新闻发布会上都提到表示,希望借助 DEF CON CHINA 的契机搭建一个合作交流平台,让极客精神在中国的发展埋下一颗种子。
2022年,DEF CON 首次登入元宇宙,从物理世界迈向了虚拟空间,一个全新的极客社区中心在「希壤」里落地。
常见的攻击、入侵、流量型等传统的安全问题被带进元宇宙世界,元宇宙新形态所带来的新问题逐渐现象,与其畏惧,不如早点发现它,拥抱它。对此,马杰充满信心,“安全问题永远都会出现,不必担心,大家会搞定的。”