1.多模态推荐

不牺牲任何生成质量，将多模态大模型推理最高加速3.2倍！华为诺亚方舟实验室最新研究已入选NeurIPS 2025。

多模态推理最高加速3.2倍！华为诺亚新算法入选NeurIPS 2025（插图

2.多模态推荐算法

截至目前，投机推理（Speculative Decoding）技术已成为大语言模型（LLM）推理加速的“标准动作”，但在多模态大模型（VLM）上的应用却举步维艰，现有方法加速比不到1.5倍，性能提升有限。

3.多模态问答

为此，华为诺亚方舟实验室提出了一种专为视觉语言模型设计的全新推理加速框架——视觉感知投机推理（Vision-Aware Speculative Decoding,

声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。