这个项目展示了如何借助MLX在Mac上运行微软的2.7B小语言模型Phi-2以及Mixtral 8x7B混合专家模型,支持在Apple M2 Ultra上进行高效的模型训练和推理,提供简化的模型权重下载和加载流程,同时兼容Python环境。
用LLM进行复杂推理的框架,采用先进的推理算法,将多步推理视为规划,并搜索最优的推理链,以实现'世界模型'和'奖励'的最佳平衡。
NeMo-Skills是一个专注于提升大型语言模型在数学问题解决能力的项目,同时支持多种任务的优化和改进,利用深度学习技术增强模型表现,且为开源项目,便于社区贡献和扩展。
Helicone是一个开源平台,用于记录、监控和调试AI应用。它支持一行代码集成,提供使用情况追踪、LLM指标、提示管理等功能,适合开发者和团队使用。
提供一种 Pythonic 方式在 LLM 管线上运行离线评估,以便轻松投入生产
GPT4All是一款在本地运行的大型语言模型(LLM),最新发布了V3.0版本,支持多种模型架构,并与多种工具和平台集成。它基于LLaMa模型,使用约80万条GPT-3.5-Turbo生成的数据进行训练,支持多种类型的对话,包括代码和故事。GPT4All完全本地运行,确保数据隐私,支持Windows、MacOS、Ubuntu等操作系统,并具有改进的UI/UX。
这是一个用于演示基于Swift的聊天和语言模型测试的Mac应用,旨在展示Hugging Face的swift-transformers库的能力。它提供了一个友好的用户界面,用户可以轻松与多种语言模型进行互动,测试其响应和性能。
斯坦福开发的一种遵循指令的 LLaMA 模型,基于 Meta 的 LLaMA 7B 模型进行微调,性能接近 OpenAI 的 text-davinci-003,支持在单个 GPU 或 CPU 上运行。
基于FLUX.1的IPAdapter模型的ComfyUI插件实现,支持通过参考图像来控制生成结果。该项目提供了完整的模型权重和工作流程,可在ComfyUI中快速部署使用,同时也支持在线体验版本。
Roll Art Die是一个使用人工智能生成艺术作品的平台,用户可以通过输入文本描述来实现自己的艺术创意。该平台利用StableDiffusion技术,让用户能够轻松地将梦想中的艺术作品变为现实。
MetaGPT 是一个多智能体框架,能够扮演不同的角色,如工程师、产品经理、架构师和项目经理。它通过自动优化提示词、生成产品需求文档、设计文档、任务分配与管理、代码仓库生成等功能,协助用户完成复杂的任务。MetaGPT 还支持多角色协作,自动生成软件开发流程和标准操作程序(SOP),适用于各种项目管理和开发需求。