高通推出AI Hub赋能开发者:推动端侧生成式AI变革

2024-11-18 23:28:15 admin

高通AI Hub将持续增加新模型,高通革同时还将支持更多平台和操作系统。推出推动开发者现可注册登录,端侧在搭载高通技术公司平台的生成式云托管终端上自行运行模型,并通过高通AI Hub提前获取新特性和AI模型。高通革

【PChome西班牙巴塞罗那报道】一年一度的推出推动MWC2024(世界移动通信大会)展会于2024年2月26日到2月29日在巴塞罗那国际会展中心举行,本站特派记者团从大会现场发回报道。端侧

在巴塞罗那世界移动通信大会(MWC)上,生成式高通技术公司发布了公司在AI领域的高通革最新进展。从全新高通AI Hub到前沿研究突破,推出推动再到AI赋能的端侧商用终端展示,高通技术公司正在为开发者赋能,生成式以及变革骁龙和高通平台支持的高通革广泛终端品类上的用户体验。

高通技术公司高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉表示:“随着面向智能手机的第三代骁龙8和面向PC的骁龙X Elite的推出,我们开启了终端侧AI的端侧规模化商用。现在,借助高通AI Hub,我们将赋能开发者充分发挥这些前沿技术的潜力,打造具有吸引力的AI赋能应用。高通AI Hub为开发者提供了一个全面的AI模型库,使他们能够轻松快速地将预优化AI模型集成进应用程序,从而打造更快、更可靠且更具隐私性的用户体验。”

高通AI Hub为开发者开启卓越终端侧AI性能

全新高通AI Hub包含预优化AI模型库,支持在搭载骁龙和高通平台的终端上进行无缝部署。该模型库为开发者提供超过75个主流的AI和生成式AI模型,比如Whisper、ControlNet、Stable Diffusion和Baichuan-7B,可在不同执行环境(runtime)中打包,能够在不同形态终端中实现卓越的终端侧AI性能、降低内存占用并提升能效。所有模型均经过优化,以充分利用高通AI引擎内所有核心(NPU、CPU和GPU)的硬件加速能力,从而使推理速度提升4倍。AI模型库能够自动处理从源框架到主流执行环境的模型转换,直接与高通AI引擎Direct SDK协同工作,并应用硬件感知优化。开发者可将这些模型无缝集成进应用程序,缩短产品上市时间,发挥终端侧AI部署的诸多优势,比如即时性、可靠性、隐私、个性化和成本优势。

这些优化模型现已在高通AI Hub、GitHub和Hugging Face上提供。高通AI Hub将持续增加新模型,同时还将支持更多平台和操作系统。开发者现可注册登录,在搭载高通技术公司平台的云托管终端上自行运行模型,并通过高通AI Hub提前获取新特性和AI模型。

Hugging Face联合创始人兼CEO Clement Delangue表示:“我们很高兴能够在Hugging Face上托管高通技术公司的AI模型。这些主流AI模型面向终端侧机器学习而优化,并且可在骁龙和高通平台上使用,将赋能下一代移动开发者和边缘AI应用,让AI进一步惠及所有人。”

世界移动通信大会(英文名:Mobile World Congress,简称:MWC)是全球最具影响力的移动通信领域展览会。本届MWC将有众多智能手机新品、智能硬件新品以及创新黑科技发布。想获取更多最新、最快、最热的展会相关资讯,敬请关注PChome全程直击MWC2024特别报道专题:https://mwc.pchome.net

友链


  • 文章

    13

  • 浏览

    693

  • 获赞

    11

赞一个、收藏了!

分享给朋友看看这篇文章

热门推荐