这是一个精心策划的Rust工具、库和框架列表,旨在帮助开发者在大型语言模型(LLM)、GPT和人工智能(AI)领域进行工作。该项目提供了全面的Rust库集合,专为LLM和AI开发而设计,注重性能和效率,并且定期更新新工具和资源。
一个用Rust编写的轻量神经网络推理引擎,能将ONNX格式的机器学习模型高效运行在各种平台上,特别适合需要高性能和跨平台支持的场景。
InteHub是一个提供一站式AI工具导航服务的平台,汇集了各种高质量的AI工具,并进行了精细分类,使用户更容易发现和使用人工智能产品。
为Rust语言打造的线性代数基础库,旨在提供一个功能全面、便于使用的线性代数解决方案,助力Rust开发者更高效地进行相关计算和开发
该项目旨在使用Rust语言在CPU上运行大型语言模型的推理。它不仅实现了快速的推理速度,还能在低能耗的情况下提供高效的性能。适用于本地推理和Rust项目集成,适合研究新语言模型应用。