Langchain应用示例

在实际场景用Langchain开发LLM应用的示例，使用JavaScript实现。该项目提供了多种实际应用的示例，展示了如何将Langchain与大型语言模型集成，支持多种语言处理功能，并且易于扩展和自定义。

Recipe GPT是一个专为Python程序员设计的综合LangChain课程，帮助用户充分发挥Recipe GPT的潜力，通过一段视频学习如何利用LangChain创建引人入胜的GPT应用程序。

Toolhouse是一个云基础设施平台，旨在为大型语言模型（LLMs）提供动作和知识，简化函数调用过程，仅需三行代码即可实现。

基于大型语言模型的软件工程Agent资源集，提供基于大型语言模型（LLM）的Agent技术，通过增强LLM的外部资源和工具利用能力，显著扩展了其在软件工程任务中的应用范围和有效性。

vLLM是一个开源的高效语言大模型服务系统，专注于提升推理速度和效率。它通过创新的内存管理和调度技术，优化了键值缓存（KV cache）的动态增缩和碎片化问题，显著提高了吞吐量并降低了延迟。vLLM支持多种语言模型，适用于高吞吐量的深度学习任务和大规模语言模型的部署。其设计简洁，开源社区支持强大，文档友好，特别适合需要高效推理能力的项目。

MiniMind 是一个开源 AI 项目，旨在从零开始，以极低的成本和极短的时间训练出超小语言模型。项目涵盖了从数据集清洗到模型训练的全过程，并提供了多种先进的算法和模型结构。通过仅需 3 块钱成本和 2 小时，即可训练出 25.8M 的超小语言模型，最小版本体积是 GPT-3 的 1/7000，适合普通个人 GPU 快速训练。项目还拓展了视觉多模态的 VLM: MiniMind-V，所有核心算法代码均从 0 使用 PyTorch 原生重构，不依赖第三方库提供的抽象接口。这不仅是大语言模型的全阶段开源复现，也是一个入门 LLM 的教程。

一个处理流式生成的JSON的库，能够从首个token开始解码，非常适合时间敏感的应用。

这篇论文认为，幻觉并非偶然错误，而是大模型的底层数学和逻辑结构的必然结果。通过计算理论和哥德尔不完备定理，证明幻觉在LLMs的每个阶段都不可避免。

Litellm是一个Python SDK/Proxy Server，旨在简化与多种大语言模型API的交互，支持使用OpenAI格式调用100多个LLM API，提供统一的输入输出格式，易于集成和使用。