DeepSeek是一个用纯C++实现的深度学习推理引擎,专为低配CPU设备优化,支持多种数据精度,包括F8E5M2、FP16、FP32等。它具有小巧的体积和高效的性能,支持在多卡系统上运行,适合资源受限的环境。