标签:Mooncake推理系统

Mooncake推理系统:AI推理领域的革命性突破

Mooncake推理系统由Kimi与清华大学合作推出,旨在显著提高推理吞吐量并降低算力开销。该系统通过创新的推理缩放技术,为AI推理领域带来了革命性的突破,使其...