宏景科技：公司更多尝试以KV-cache复用、PD分离相关架构方案提升推理集群有效吞吐

　　南财智讯9月9日电，宏景科技在投资者关系活动中表示，针对当前行业主流的推理优化路线，公司更多尝试以KV-cache（键值缓存）复用、PD分离（Prefill-Decode预填充-解码分离）相关的架构方案，通过KV-cache前缀缓存复用减少重复prefill计算，结合PD分离架构解耦计算密集型预填充与访存密集型解码任务，提升集群整体有效吞吐，帮助客户压低每token推理成本。