基于长期记忆的下一代检索增强大模型框架,旨在推动RAG技术从仅能处理简单QA任务向应对复杂一般性任务拓展。
一个命令行工具,可以一条命令直接启动大模型前端、API、后端全家桶,包括Ollama, llama.cpp, vLLM, Open WebUI, Libre Chat, Dify等多个组件,支持一键部署。
Nano是一个自制的168M大语言模型,具备完整的模型结构和多种推理方式,适用于多种场景的AI应用。
Tromero Tailor是一个平台,便于用户微调和托管AI模型,帮助用户从OpenAI迁移到个性化的隐私保护模型。它简化了数据收集、微调和部署的过程。
LLM Prompt & Model Playground 是一个让用户可以并排测试两个LLM提示、模型或配置的工具。它支持多种输入的实时测试,极大地加快了提示和模型的测试过程,并且提供了慷慨的免费使用额度。该项目由Context.ai开发。
Substratus.AI是一个专注于大规模语言模型(LLMs)的平台,旨在以极简的方式实现机器学习模型的部署和微调。用户可以在几分钟内安装所需的ML平台,并通过单个命令轻松运行和微调最先进的LLMs。