赤兔Chitu是由清华大学高性能计算研究所与清程极智联合开源的高性能大模型推理框架,专注于效率、灵活性和可用性。它支持多种主流大模型,如DeepSeek、LLaMA系列、Mixtral等,并致力于在各类硬件环境(包括传统GPU、非NVIDIA GPU和CPU)上提供高效的推理能力。赤兔Chitu通过底层技术革新,摆脱对特定硬件的依赖,降低了企业部署AI模型的门槛和成本。