Retrieval-Augmented Generation (RAG)-结合检索与生成的智能文本生成技术

有关大型语言模型（LLM）约束解码的精选论文列表，包含相关代码和资源，旨在实现更可靠、可控和高效的文本生成。

SGLang是针对LLM推理的下一代界面和运行时环境，通过协同设计前端语言和后端运行时，极大改进了复杂LLM程序的执行和编程效率。

Jax GPT是对Karpathy的nanoGPT的重写，基于Jax和Flax框架构建，旨在提供高效的文本生成能力，支持快速训练和推理，具有易于扩展和修改的架构，能够充分利用高性能的并行计算。

一个基于Llama-70B的创新文本分块策略，针对RAG应用优化，使用中文字符'段'作为特殊标记，实现自动语义分块。

autollm是一个用于快速构建基于检索增强生成（RAG）技术的网页应用的框架，提供简化的API接口，支持多种后端数据源，并且易于扩展与定制，方便开发者快速搭建LLM驱动的应用程序。

实现了对大型语言模型输出的约束解码，支持多种格式的语法规则，并且具有高效的性能。该项目旨在提高语言模型的输出质量，确保生成文本符合特定的语法和结构要求，适用于多种自然语言处理任务。

llama4micro是一个在单片机上运行的LLaMA模型，专为资源受限的环境设计，支持15M参数模型，内存占用约60MB，能够以每秒约2.5个token的速度生成文本，特别适合生成小故事，优化用于单片机平台。

Grok是一款受《银河系漫游指南》启发的AI助手，通过𝕏平台提供实时世界知识，能够回答其他AI助手常常回避的尖锐问题。虽然处于早期测试阶段，但随着用户反馈，Grok正在不断改进！

GPT-3是一个由OpenAI开发的自然语言处理模型，具有1750亿个参数，能够生成与人类相似的文本。它凭借强大的文本生成能力和高效的上下文理解，广泛应用于对话、写作、编程等多个领域。

LLM4IR-Survey是一个专注于大型语言模型在信息检索领域应用的文献列表，涵盖了最新的研究成果和发展动态，支持对比不同模型在信息检索任务中的表现，并提供丰富的参考文献和链接，旨在为研究人员提供全面的参考和启发。

Fallen-Llama-3.3-R1-70B-v1是一个刚发布不久的高性能语言模型，具体用途尚不明确，但适用于多种自然语言处理任务。

LM-Kit.NET是一个高层次的推理SDK，旨在将先进的生成式AI能力集成到.NET应用中。它为C#和VB.NET开发人员提供了文本补全、自然语言处理和翻译等功能。

AI Collective Bundle Onetime为用户提供了访问所有领先的LLM和文本生成AI模型的机会。用户无需再支付额外费用，即可在一个平台上使用当前及未来的最佳AI模型，方便快捷，提升工作效率。

GLM-4 是智谱公司开发的一系列大型语言模型，最新旗舰模型为 GLM-4-Plus，在语言生成、理解、逻辑推理、指令遵循和长文本处理方面表现优异，与 GPT-4o 和 Llama3.1 性能相当。通过 API 调用，适用于内容创作、数据分析、教育和编程等多种场景。

Agent Zero 是一个基于 Python 的开源 AI 框架，旨在提供高度个性化、可定制和可扩展的个人智能助理体验。它通过动态学习和有机增长来适应用户需求，支持多智能体协作，并允许用户通过系统提示来定义和调整 Agent 的行为。其核心特性包括通用助手功能、计算机作为工具、多 Agent 协作、完全可定制和扩展、以及强调沟通的交互式体验。Agent Zero 可用于自动化任务、生成文本、数据分析和研究等场景。

Allganize是企业AI解决方案的领先LLM推动者，提供全面的大型语言模型和创新的RAG增强搜索功能，旨在提高业务效率和促进增长。

开源的前端项目，旨在在浏览器中运行大型语言模型（LLM），通过 MLC-LLM 和 WebLLM Chat 实现，支持用户通过简单的界面与模型进行交互，无需复杂的配置或安装

一种自我对齐方法，通过角色知识的增强和对话模拟，赋予大型语言模型(LLM)强大的角色扮演能力。

YaRN是一个高效的上下文窗口扩展工具，旨在提高大型语言模型的上下文处理能力。

MEDIAI是一个基于AI的平台，提供多种照片编辑、文本生成、GPT聊天等创意工具，帮助用户轻松提升图像质量，将普通照片转变为非凡作品，利用先进的AI技术进行创作。

Stage Light 是一款适用于Windows和macOS的多功能桌面应用，通过快捷键提供即时访问OpenAI模型的功能。它拥有精心设计的弹出窗口，用户只需简单按键便可无缝互动，还包括方便的免提语音助手模式，提升了使用体验。