7月6日至8日,2023世界人工智能大会(WAIC)在上海举行。本届大会以“智联世界 生成未来”为主题,聚焦AI前沿技术和产业发展。高通公司连续第六年参会,并参与多场论坛,从技术研究、应用部署和产业赋能等多个角度,描绘了混合AI赋能的智能未来。同期,第二代骁龙8的高通AI引擎获得大会最高奖项——SAIL奖(卓越人工智能引领者奖);高通还在现场带来了其强大终端侧AI赋能的生成式AI用例技术演示。

推动5G+AI边缘侧创新,夯实智能未来发展基础

高通技术公司首席商务官Jim Cathey在大会首日全体会议——产业发展论坛上表示:“5G对于一个更加智能的世界至关重要。凭借卓越的性能、可靠性和容量,5G正在向智能手机之外的更多领域扩展,实现万物互联,成为数字经济的关键基础设施。同时,5G还助力AI扩展至更多边缘侧终端,不仅推动了智能的规模化扩展,还能够使在边缘侧生成的情境相关数据与云端近乎实时地共享。”

高通技术公司首席商务官Jim Cathey发表演讲

作为终端侧AI领导者,高通公司投入AI研发已超过15年,构建了强大的边缘侧AI技术、布局和规模化优势。高通技术公司全球副总裁兼高通AI研究负责人侯纪磊博士表示:“凭借一系列基础研究,以及跨AI应用、模型、硬件与软件的全栈终端侧AI优化,我们的持续创新让公司始终处于终端侧AI解决方案的最前沿。”

侯纪磊博士特别指出,高通的AI解决方案旨在提供最佳能效,让AI无处不在。高通AI引擎作为公司多年全栈AI优化的结晶,能够以极低功耗提供业界领先的终端侧AI性能,赋能当前和未来的用例。此外,可扩展的技术架构让用户能够采用一个高度优化的AI软件栈,即可在不同终端和模型上进行工作,以强大的灵活性和稳健性应对未来的AI技术发展。

高通技术公司全球副总裁兼高通AI研究负责人侯纪磊博士发表演讲

赋能生成式AI规模化扩展,混合AI是AI的未来

采用混合AI或仅在终端侧运行AI,能够在全球范围带来成本、能耗、性能、隐私、安全和个性化优势。随着生成式AI的飞速普及和计算需求的日益增长,混合处理的重要性空前突显。高通认为,要真正推动生成式AI成为主流,并发挥其最大潜能,必须采取混合AI架构。近期,高通公司发布白皮书《混合AI是AI的未来》,详细阐述了公司的混合AI愿景。

高通技术公司产品管理高级副总裁兼AI负责人Ziad Asghar在演讲中表示:“为实现生成式AI的规模化扩展,AI处理的重心正在向边缘转移。混合AI架构在云端和边缘终端之间分配并协同处理AI工作负载,能够实现更强大、更高效且高度优化的AI。我们正在引领混合AI愿景的实现,通过无线连接、高效计算和分布式AI融合云端和终端,释放生成式AI的无限潜力。”

高通技术公司产品管理高级副总裁兼AI负责人Ziad Asghar发表演讲

高通的AI能力已赋能一系列广泛的产品,包括手机、汽车、XR、PC、物联网设备等,搭载骁龙和高通平台的已上市用户终端数量已达到数十亿台。据Ziad介绍,高通正在将更多生成式AI用例向边缘侧迁移,目前,参数超过10亿的AI模型已经能够在手机上运行,且性能和精度达到与云端相似的水平。不久的将来,拥有100亿或更大参数的生成式AI模型将能够在终端上运行,推动生成式AI的普及。

技术哺育行业生态,打造开放元宇宙未来

高通作为5G、AI、XR等创新技术的领导者,致力于以行业领先的软硬件综合解决方案,加速元宇宙和XR生态系统的发展。高通技术公司高级副总裁程立新在演讲中表示:“5G、AI和XR,是构建元宇宙的三大基础技术。利用我们在5G和终端侧AI领域的强大技术优势,高通公司正在加速5G、AI和XR技术的融合,构建智能网联边缘,推动打造更沉浸、更智能的XR世界。”

高通技术公司高级副总裁程立新发表演讲

生成式AI能为元宇宙内容建设带来巨大前景。生成式AI有潜力在未来普及3D内容创作,比如赋能内容创作者使用如文本、语音、图像或视频等各种类型的提示,生成3D物体和场景,并最终创造出完整的虚拟世界。此外,内容创作者将能够利用文本生成文本的大语言模型,生成类人对话,这些进步都将变革用户在XR设备上创造和体验沉浸式内容的方式,构建开放、个性化的元宇宙未来。

引领业界AI创新,树立行业技术新标杆

高通以开创性的技术创新,持续引领终端侧智能体验的发展。第二代骁龙8移动平台的高通AI引擎,荣获了世界人工智能大会最高奖项——SAIL奖(卓越人工智能引领者奖)。高通AI引擎能够为终端侧AI推理加速提供卓越性能和能效,并支持丰富AI用例创新,提升用户体验。高通AI引擎实现软硬件一体,硬件侧采用异构计算架构,其关键核心Hexagon处理器拥有一系列创新,如提供专用供电系统,支持微切片推理、INT4精度、transformer网络加速等。

第二代骁龙8移动平台的高通AI引擎荣获SAIL奖(卓越人工智能引领者奖)

凭借高通AI引擎的全栈AI能力和优化手段,高通已经率先将生成式AI能力带到了终端侧,并在WAIC上进行了技术展示,让广大参会者见证了强大终端侧AI将如何助力生成式AI在终端侧实现无限潜力。

其中,全球首个运行在Android手机上的Stable Diffusion终端侧演示,能够在15秒内执行20步推理,完全在手机上处理超过10亿参数模型。这是智能手机上最快的推理速度,媲美云端时延,且用户文本输入完全不受限制。目前,高通已经将这一用例扩展至骁龙计算平台赋能的PC产品。此外,高通还带来了全球最快的手机上的ControlNet终端侧演示,该模型拥有15亿参数,在这项演示中,只用不到12秒即可在移动终端上生成AI图像,无需访问任何云端,便能提供高效、有趣、可靠且私密的交互式用户体验。