nanoChatGPT是在nanoGPT基础上,结合了人类反馈的强化学习层,使用Gumbel-Softmax技巧以提高训练效率,适合进行小型模型的快速实验。
ChatLM-mini-Chinese是一个中文对话0.2B小模型,旨在整理生成式语言模型的训练流程,包括数据清洗、tokenizer训练、模型预训练、SFT指令微调、RLHF优化等。
H2O LLM Studio是一个用户友好的图形界面工具,允许用户轻松微调大型语言模型(LLM),无需编程技能。
一个用于促进和支持链式思考的工具库,旨在提高模型推理能力和理解力。
Llama Stack 是一个开源项目,旨在将 LLM 应用构建生成周期的所有组件打包,包括训练、微调、产品评估、观测、Agent & Memory、合成数据生成等,并支持 9+ 提供商。
Anyscale是一个统一的计算平台,旨在利用Ray简化可扩展AI和Python应用的开发、部署和管理。用户可以轻松地开始使用Anyscale端点进行服务和微调开源大型语言模型(LLMs)。
Aphrodite是PygmalionAI开发的大规模推理引擎,旨在高效处理各种AI模型的推理任务,支持多种模型格式并具备灵活的API设计,能够与其他机器学习框架无缝集成。
FastAPI是一个现代化、快速的Web框架,专为构建API而设计。它基于Python 3.6及更高版本,旨在提供高效、简单且灵活的解决方案,特别适合开发高性能的API服务。FastAPI利用Starlette和Pydantic来实现高性能和自动数据验证,同时支持异步编程,能够处理高并发场景。此外,它还能自动生成OpenAPI文档,极大提升了开发效率。
Cerebro是一个生成式AI平台,通过高质量的文本、图像和数据模式,加速AI应用的开发,帮助用户更快地实现他们的AI项目。