高通与PrismML合作,在骁龙AR1平台实现20亿参数1-bit视觉模型本地运行
摘要
在2026骁龙峰会上,高通联合PrismML在骁龙AR1 Gen 1智能眼镜平台成功本地运行20亿参数的1-bit量化Bonsai视觉模型。该模型内存占用仅为传统4-bit模型的四分之一,同内存下可容纳约4倍参数,文本Token生成速度翻倍,支持离线识图问答等场景。
在2026年骁龙峰会期间,高通与PrismML公司共同宣布了一项针对智能眼镜平台的模型压缩成果:双方在骁龙AR1 Gen 1平台上,成功实现了20亿参数1-bit量化Bonsai视觉模型的本地运行。这意味着AI眼镜在脱离云端连接的情况下,也能完成视觉识别与问答任务。
Bonsai 1-bit模型是在PrismML此前发布的Bonsai 1.7B版本基础上构建的。通过将模型精度压缩至1-bit,该模型显著降低了存储与推理所需的内存资源。官方数据显示,在相同内存容量下,该模型可容纳约4倍于传统方案的参数规模,内存占用约为传统4-bit模型的四分之一,同时文本Token生成速度提升了一倍。
在应用层面,该模型可支持识别眼前物体、翻译文字、回答环境相关问题以及提供免手操作的语音帮助等场景。由于推理完全在本地完成,AI交互不再需要连接云端等待响应,从而提升了实时性。
此外,1-bit模型对内存和功耗的优化,也有助于延长智能眼镜的续航时间、减少发热,进而改善佩戴体验。此次合作展示了极端量化技术在端侧AI设备上的可行性,为智能眼镜的离线智能交互提供了新的思路。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗