这是一个由Arcee AI开发的领域适应语言建模工具包,旨在通过适应性训练提高模型在特定领域的表现。它支持多种语言模型的微调,能够兼容多种数据格式,且易于集成和扩展。
H2O LLM Studio是一个用户友好的图形界面工具,允许用户轻松微调大型语言模型(LLM),无需编程技能。
LLaVA-LLaMA-3是基于Llama-3-8b大型语言模型(LLM)的LLaVA-v1.5复现项目,旨在提供预训练模型及相关的训练和演示脚本,方便研究人员和开发者进行自然语言处理任务的探索与应用。
nanotron是一个开源工具,旨在简化大型语言模型的训练过程,提供了一种高效的3D并行训练方法,从而更好地利用计算资源。
一个完整的管道,用于在消费级硬件上使用LoRA和RLHF微调Vicuna LLM。该项目实现了基于Vicuna架构的RLHF(强化学习与人类反馈),基本上是ChatGPT的变种,但使用Vicuna。
Wale IDE是一个提供直观界面的平台,支持用户导入数据或创建新数据集,调节参数以优化提示,并查看提示执行历史。
PostgresML是一个完整的MLops平台,以简单的PostgreSQL扩展形式存在。它允许用户在数据库内部快速、简单且强大地构建模型。
FreeAiKit是由Prgmine提供的一套AI工具,旨在帮助用户完成各种与AI相关的任务,且免费提供。用户可以通过访问网站浏览工具,每个工具都有详细的描述和使用说明,用户可根据指南选择所需工具并应用于AI项目。
voltaML-fast-stable-diffusion是一个轻量级库,通过简单的一行代码实现对Stable Diffusion模型的加速,速度提升可达10倍,支持Dreambooth的快速推理,方便用户进行机器学习和深度学习项目的快速部署和集成。
Xorbits Inference(Xinference)是一个功能全面的分布式推理框架,支持大语言模型(LLM)、语音识别模型、多模态模型等各种模型的推理。它适用于研究者、开发者和数据科学家,支持一键部署自定义模型或内置开源模型,可在笔记本电脑、千节点集群及边缘设备上运行。
Transformer语言模型域自适应工具包,用于将基于Transformer的语言模型适应于新的文本领域。该工具包支持多种预训练模型,并提供灵活的配置选项,使得用户能够轻松调整和评估模型在特定领域的表现,从而有效提升自然语言处理任务的效果。
CodeFuse-ModelCache 是一个开源的语义缓存系统,通过缓存已生成的模型结果,显著降低类似请求的响应时间,从而提升用户体验。该系统支持大规模模型的查询,易于集成到现有应用程序中,帮助开发者优化性能和提升效率。