今天，在Microsoft Build 2023 开发者大会上，Qualcomm Technologies 展示了该公司最新的设备端AI 创新，包括在Snapdragon 计算平台上运行的生成式AI，以及开发人员在由Snapdragon 平台提供支持的Windows 11 PC 上运行生成式AI 的能力。为应用程序创建一个新路径。
高通和微软已确认建立合作伙伴关系，为消费者和企业终端以及工业设备大规模扩展人工智能能力。 Stable Diffusion作为一种从文本生成文本图像的生成式AI模型，拥有超过10亿个参数，目前已经可以在终端侧完全运行。高通表示，未来几个月，包括大型语言模型（LLM）在内的参数高达100亿的模型预计将在终端侧运行。据介绍，终端侧生成式AI解决方案将查询和推理转移到PC、手机等边缘终端。
为了增强Qualcomm AI软件堆栈并帮助开发者创建下一代设备端AI体验，Qualcomm AI Engine Direct SDK将在Microsoft Build上首次向公众推出。借助ONNX Runtime 和高通AI 软件堆栈，用户现在可以在使用5G 版Surface Pro 9 和联想ThinkPad x13s 时在第三代Snapdragon 8cx 平台上的AI 引擎上运行AI 工作负载。
高通技术公司产品管理高级副总裁Ziad Asghar 表示，为了让生成式AI 真正被更多人接受和使用，很多推理任务需要在边缘终端上处理。我们拥有业界领先的人工智能硬件和软件，使开发人员能够充分利用我们强大的人工智能功能，在笔记本电脑、手机和其他搭载Snapdragon 平台的设备上创造令人惊叹的新用户体验。
人工智能的未来需要终端侧人工智能和云端人工智能。在设备上运行人工智能应用程序可以提高成本效益、增强隐私性、个性化并减少延迟。与仅在CPU或GPU上处理AI工作负载相比，Snapdragon平台集成了专用的Qualcomm AI引擎，可以更高效地处理AI工作负载，让小型轻量设备支持终端侧AI。
微软Windows芯片和系统集成公司副总裁Pavan Davuluri表示，为了将AI扩展到更广泛的终端和应用程序，云端和终端侧处理都不可或缺。通过将微软在云人工智能领域的领先地位和Windows平台的功能与Qualcomm Technologies的设备端人工智能专业知识相结合，我们将加速创造人工智能体验所创造的机遇。
