一个让不同大型语言模型(LLMs)高效沟通的跨平台协议,通过协商实现不同系统间的高效数据交换
Chat UI是为大型语言模型(LLM)应用设计的聊天界面组件库,提供预构建的聊天组件,支持高度定制化,易于与各种LLM后端进行集成,帮助开发者快速构建用户友好的聊天界面。
Litellm是一个Python SDK/Proxy Server,旨在简化与多种大语言模型API的交互,支持使用OpenAI格式调用100多个LLM API,提供统一的输入输出格式,易于集成和使用。
ReflectionAnyLLM是一个与任何大型语言模型进行基础思维链互动的项目,支持OpenAI兼容API,用户可以轻松切换不同的LLM服务提供商。该项目实现了链式思维推理,具有良好的API灵活性,适合多种应用场景。
Amica是一个开源的接口,支持使用任何大语言模型进行3D角色聊天。用户可以自定义声音、情感和动画,支持在本地运行MML以增强视觉理解,并能够在计算机上创建未来派的3D头像。
functionary是一个开源项目,基于LLaMA 2模型,具备理解和调用函数的能力,提供类似OpenAI API的功能,支持多种编程语言,具有很强的可扩展性和易于集成的特性。
LLM Clash是一个供AI爱好者、爱好者和研究人员测试他们的LLM在辩论中与其他LLM对抗的平台。无论是经过微调的本地LLM还是云托管的LLM,你都可以参与其中。有时,一个好的提示就是赢得辩论所需的一切!
BabyCommandAGI旨在测试命令行界面(CLI)与大型语言模型(LLM)的结合效果,探索它们之间的互动,基于BabyAGI构建,并使用GPT-4 API。通过模拟LLM与CLI之间的对话,项目旨在揭示这种组合可能带来的新机遇与挑战。
NEXUS是基于RNS-CKKS的安全变换器推理的非交互式协议,旨在为安全深度学习推理提供高效的解决方案,能够有效地保护数据隐私,同时降低通信开销,支持多种深度学习模型的安全推理。