告别「解码器饥饿」！中国科学院NeurIPS推SpaceServe，高并发克星（

1.解码中心

核心突破：首次将LLM推理中的P/D分离思想扩展至多模态场景，提出EPD（Encoder-Prefill-Decode）三阶段解耦，并通过「空分复用」彻底解决编码器引发的行头阻塞问题随着多模态大语言模型（MLLM）广泛应用于高分辨率图像理解、长视频分析等场景，其推理流程中的。

2.解码器官方下载

多模态编码（Encoding）阶段正成为性能瓶颈当前主流系统（如vLLM）在服务MLLM时，仍沿用「时间复用」（time-multiplexing）策略：GPU先执行视觉/音频编码器，完成后才切换上下文运行文本解码器。

3.解码器解密

这一设计在高并发下引发严重的行头阻塞（head-of-line blocking）：一个高分辨率图像的编码可能耗时数百毫秒，在此期间，所有等待生成文本的解码请求都被迫阻塞结果是：解码器长期「饥饿」，TPOT（每输出token耗时）随请求率飙升，服务吞吐急剧恶化。

4.kux解码器

SpaceServe：从「时间复用」到「空分复用」NeurIPS 2025接收论文《SpaceServe: Spatial Multiplexing of Complementary Encoders and Decoders for Multimodal LLMs

5.解码器什么原理

》提出全新解决方案：空分复用（Space Multiplexing）该研究由中国科学院计算技术研究所处理器芯片全国重点实验室编译与编程团队博士生李志成与副研究员赵家程等人共同完成其核心洞察源于对MLLM资源消耗的定量分析：。

视觉编码器：计算密集，内存带宽需求低；文本解码器：内存密集，严重依赖HBM带宽存储KV Cache二者资源需求高度互补，却在时间复用架构下被迫串行执行，造成GPU资源严重浪费SpaceServe的关键创新在于：。

1. EPD三阶段逻辑解耦 物理共置将所有模态编码器从共享文本解码器中完全解耦，支持独立调度；利用现代GPU运行时（如NVIDIA libsmctrl / green-ctx, AMD cumask）提供的

细粒度SM分区能力，将编码器与解码器共置在同一GPU上，实现并发执行这并非简单并行，而是让计算密集型与内存密集型任务在微观层面形成资源互补2.