快速入门Llama 3.1的最小化方案库,支持本地推理和API推理,适用于不同模型大小和权重精度配置,提供多样化的笔记本和工具使用示例
AMD GPU推理引擎:基于 Docker 的 AMD GPU 推理引擎项目,旨在在 AMD GPU 上运行大型语言模型(LLMs),特别是 Hugging Face 的 LLaMA 模型家族。该项目提供了高效的推理性能,并支持容器化部署,方便用户进行模型的集成和使用。
The GPT Repo是一个社区驱动的平台,旨在让AI爱好者和创作者分享他们自制的GPT,从而获得曝光和合作机会。
Llama中文社区是一个汇聚Llama模型、技术和爱好者的平台,用户可以在这里探索各种模型、项目和资源。
旨在实现基于熵的采样和并行链式思维(CoT)解码,目前支持 llama3.1+ 模型,计划支持 DeepSeekV2+ 和 Mistral Large (123B) 模型。该工具通过熵值优化生成过程,提高了生成文本的多样性和准确性,适合处理复杂的文本生成任务。
u-sim是一个利用人工智能生成互动医学模拟场景的工具。用户可以创建自己的病例,通过提问和下达检查指令逐步推进场景,直到得出正确的诊断。它旨在为医疗专业人员提供一个实践和训练的平台,提高他们的诊断能力和临床技能。
一个开源框架,专为大型语言模型提供高级推理能力,支持数据生成、策略训练和多种搜索策略,让机器更聪明地理解和解决问题。
Text2SQL是一个先进的AI工具,旨在革新我们与数据库的交互方式。它的主要功能是将自然语言查询转换为可执行的SQL命令,为各行各业的专业人士提供宝贵的资源。无论你是经验丰富的数据分析师,还是希望提升SQL技能的初学者,Text2SQL都能简化生成优化SQL查询的过程,节省时间和精力。