o1推理链旨在利用Groq、OpenAI或Ollama等技术,创建类似o1的推理链,以提高大型语言模型(LLMs)的逻辑推理能力。该项目提供了创建和管理推理链的工具,具有优良的可扩展性和灵活性,适合多种应用场景。
该项目主要聚焦于推理任务,提供一个大型AI模型或基础模型的资源列表,旨在为研究人员和开发者提供丰富的推理模型选择及相关信息。
PySpur是一个可视化大型语言模型推理路径的图形界面,旨在帮助开发者构建、测试和部署复杂的计算图,从而增强模型的思考能力。
用Llama-3.1 70b在Groq上创建类似o1的推理链,旨在通过可视化步骤提升大型语言模型(LMM)的推理能力,使其能够“思考”并解决通常难倒领先模型的逻辑问题
Imandra是一个推理即服务的平台,赋予AI逻辑推理能力,适用于构建大型语言模型的思维模型、正式验证论证和结果,以及可审计的逻辑推理。
lite_llama是一个轻量级推理框架,旨在优化大型语言模型的性能,提供高达3.4倍的推理加速,支持最新的模型和流式输出功能,基于Triton实现,适用于各种需要高效推理的应用场景。
ChiRho是一个基于Pyro概率编程语言的实验性语言,旨在支持因果推理,允许用户灵活地构建和推理复杂的因果模型,并与现有的Python生态系统无缝集成。