llama-api是一个类OpenAI的LLaMA推理API,旨在提供便捷的模型推理服务。它支持自动下载模型、并行处理和并发处理,以便用户可以高效地进行文本生成和其他相关任务。
AdaTest 是一个用于自适应测试的工具,旨在发现并修复自然语言机器学习模型中的缺陷,支持多种语言模型并提供自动化缺陷修复建议。
在本地使用Gradio用户界面在GPU或CPU上运行Llama 2,支持Linux/Windows/Mac系统。
用于将OpenAI API协议转换为Google Gemini Pro协议的代理,可以实现无缝集成OpenAI功能到使用Gemini Pro协议的应用。该项目支持多种API调用,提供高效的请求处理和响应转换,且配置和部署过程简单易行。
在本地计算机上微调 LLAMA-v2(或任何其他 LLM)的最简单方法,提供用户友好的界面和高效的训练过程,支持多种语言模型,方便用户上传数据并进行微调。
nat.dev是一个开源的LLM(语言模型)测试平台,提供用户友好的界面,方便用户实验不同的LLM模型并分析其性能。用户可以创建账户,选择不同的模型进行测试,输入文本提示,生成响应,并评估生成的输出。该平台还允许用户自定义模型参数,适合高级用户进行微调。
文本相似度(匹配)计算,提供Baseline、训练、推理、指标分析等功能,支持TensorFlow和Pytorch两个版本,适合不同需求的开发者使用。
这是国内第一个真正的开源、可下载、可运行的 LLaMA2 模型,提供中文版 Llama2模型及中英文 SFT 数据集,兼容适配所有针对原版 llama-2-chat 模型的优化。