用LLM进行复杂推理的框架，采用先进的推理算法，将多步推理视为规划，并搜索最优的推理链，以实现'世界模型'和'奖励'的最佳平衡。
Kogito是一个专注于自然语言处理中的常识推理的工具包，集成了多种推理算法，并提供易于使用的API，支持自定义知识库，使得用户能够灵活地进行知识推理任务。
基于TensorRT实现的Streaming-LLM技术，旨在支持LLM模型进行无限输入长度的推理，提供高效、实时的AI服务。
Jax GPT是对Karpathy的nanoGPT的重写，基于Jax和Flax框架构建，旨在提供高效的文本生成能力，支持快速训练和推理，具有易于扩展和修改的架构，能够充分利用高性能的并行计算。
一个用于增强LLM推理能力的Python库，提供可组合的推理算法框架。支持自定义评分函数的采样和重排序模式，内置蒙特卡洛树搜索等高级算法，通过vLLM保持高性能，特别适合研究人员快速实验和迭代新想法。
Navan.ai是一个无代码平台，允许开发者和企业在几分钟内构建和部署计算机视觉AI模型，节省高达85%的开发时间和成本。用户可以通过nStudio快速构建模型，通过nCloud将模型部署到云端，并获得推理API。此外，用户还可以选择使用预训练的视觉AI模型，如人脸检测等。
Refact.ai推理服务器是一个自托管的服务，基于Docker镜像，提供高可扩展性和灵活性，支持多种机器学习模型，并提供RESTful API接口，方便用户进行模型推理和管理。
OpenICL是一个开源的框架，旨在支持上下文学习，提供多种算法和灵活的接口，便于集成到现有的自然语言处理模型中。
一个旨在模拟OpenAI新发布的O1模型推理能力的项目，通过思维链和迭代推理来改进问题解决方案。它允许用户在复杂的推理任务上进行试验，提供有效的解决方案和概念验证。
Voiceflow是一个团队协作的AI助手构建平台，旨在设计、开发和发布聊天及语音助手。团队可以使用低代码工具共同设计对话流程，测试和发布AI助手，并利用知识库对助手进行定制化训练。通过API或嵌入网站，团队可以轻松上线AI助手，同时平台还提供分析工具以优化助手性能。
LITMUS Predictor是一款强大的AI助手，旨在帮助开发者构建可靠、高性能且公平的多语言自然语言处理系统。它支持多种语言的处理，提供高性能和可靠性，并具备公平性评估功能，易于集成和使用，同时提供灵活的模型训练选项，以满足不同用户的需求。
Gemini是谷歌最大的AI模型，旨在通过加速人类进步和改善生活给人类和社会带来巨大利益。它在多个领先基准上表现出色，支持不同尺寸的优化：Ultra、Pro和Nano。Gemini从零开始构建为多模态，能够理解、操作和结合文本、代码、音频、图像和视频等不同类型的信息。
