bing ai chat

高通携手微软於 Windows 11 on Snapdragon 运算平台执行生成式 AI ,并开放 Qualcomm AI Engine Direct SDK

近日生成式 AI 成为产业新趋势,其中高通在 2023 年 2 月下旬展示在搭载 Snapdragon 8 Gen 2 的市售智慧手机执行 AI 绘图应用,证实以当前顶级智慧手机执行生成式 AI 的可能性,并於 2023 年五月公布一份白皮书,认为边际装置端 AI 将迈向终端与云混合执行;高通再於 5 月 24 日的微软 Microsoft Build 2023 与微软携手,展示再 Windows 11 on Snapdragon 装置执行生成式 AI ,双方并允诺将合作扩展 AI 功能,并为消费者、企业与工业设备提供一流的 AI 体验。

高通在活动强调,若要使生成式 AI 成为主流,势必要能在终端设备执行大部分的推论,高通借助一流的硬体与软体环境使开发者能充分利用其 AI 功能,并於基於 Snapdragon 的智慧手机、电脑等设备带来全新使用体验。 Snapdrgaon 平台具备一个专用的 Qualcomm AIE AI 引擎,能比单纯使用 CPU 或 GPU 更具效益执行 AI 负载,使小型、轻薄设备也足以执行生成式 AI 。高通也预告,在未来几个月的 Snapdragon 平台,将有能力执行达 100 亿个参数的模型,也包括 LLM 大型语言模型。

▲高通预告未来几个月的 Snapdragon 平台将能执行百亿个参数的 AI 模型

高通为了强化 Qualcomm AI Stack 布局,在 Build 宣布开放Qualcomm AI Engine Direct SDK ,借助 ONNX Runtime 和 Qualcomm AI Stack,现在可以在 Surface Pro 9 5G 和 Lenovo ThinkPad x13s 上的 Snapdragon 8cx Gen 3 AI 引擎上执行AI 工作负载。高通也公布全新的开发者入口网站,提供关键工具、资源与对 Windows on Snapdragon 开发的支援。

Build smrater Windows on Snapdragon 开发者入口网站: Build smarter Windows on Snapdragon

0 0 votes
Article Rating
Subscribe
Notify of
guest
0 Comments
Inline Feedbacks
View all comments
0
Would love your thoughts, please comment.x
()
x