LMCache开源项目 – LLMs文本预填充优化工具

LLMs文本预填充优化工具，通过存储所有可重用文本的KV缓存，减少首次令牌生成的延迟，节省宝贵的GPU周期。
LMCache的特点:
1. 减少首次令牌生成的延迟
2. 通过KV缓存存储可重用文本
3. 节省GPU计算资源
4. 优化大规模语言模型的文本预填充

LMCache的功能:
1. 在训练大规模语言模型时使用LMCache来提高效率
2. 通过缓存常用文本，降低生成文本的响应时间
3. 集成到现有的LLM应用中以提升性能

相关导航

理解检索增强在长序列问答中的作用-研究检索对长序列问答的重要性

这篇论文研究了长序列问答中的语言模型，探讨了检索在生成答案中的重要性以及如何改进检索器以提高LLM的表现。

DeepSeek Coder开源项目 – 高性能开源代码大模型

深度求索发布的开源代码大模型，33B版的性能显着优于现有的开源代码LLM。该项目包含多个规模的代码语言模型，从10亿到330亿标记不等，经过预训练，使用16,000标记的窗口大小和额外的填空任务，支持项目级别的代码补全和填充，在多种编程语言和各种基准测试中取得最先进性能。

GPT-3.5 Turbo官网 – OpenAI优化的对话型语言模型

GPT-3.5 Turbo是OpenAI开发的大型语言模型，专为对话接口和文本补全任务优化。作为API中的最新版本（如gpt-3.5-turbo-0125），它具有更低的价格、更高的格式准确性，并修复了非英语功能调用的错误。知识截止日期为2021年9月，适合多种非聊天场景。该模型支持16K上下文窗口，提供可靠的JSON输出，速度优于GPT-4，但复杂任务仍建议使用GPT-4。

KG-LLM-Papers开源项目 – 整合知识图谱与大语言模型的论文

KG-LLM-Papers是一个整合知识图谱(KGs)与大语言模型(LLMs)的研究论文平台，提供丰富的研究文献列表，专注于这两个领域的交叉点。该项目由ZJUKG精心策划，便于用户轻松获取相关文献，并定期更新新出版的论文。

Carbon开源项目 – 代码美化图片生成工具

Carbon 是一个开源项目，旨在将源代码转化为美观的图片。它支持多种编程语言，如 JavaScript、Python、C++ 等，并提供高度定制化的选项，包括语法主题、窗口样式、字体风格等。用户可以通过拖放文件、GitHub gist ID 或直接粘贴代码的方式导入代码，并导出为 PNG 或 SVG 格式的图片。Carbon 的界面简洁，操作方便，适合在社交媒体上分享代码图片，提升代码的视觉吸引力。

nyx-ψ (nyxpsi)开源项目 – 下一代可靠数据传输协议

nyx-ψ (nyxpsi) 是一种新一代网络协议，旨在在高丢包环境中进行可靠的数据传输。它在高丢包场景下的性能超越了传统的TCP和UDP协议，采用创新的网络策略和错误校正机制，确保数据的完整性和可靠性。

supp-ai-extracted-sdi-data开源项目 – PubMed摘要SDI/SSI数据集

该项目提供了一个从PubMed摘要中提取的SDI（结构化数据项）和SSI（结构化语义项）语句的数据集。数据集经过结构化处理，便于研究人员和分析师进行深入分析。此外，数据集支持多种数据格式，可以轻松集成到其他项目中，广泛应用于自然语言处理、自动化摘要生成和医疗信息检索等领域。

MDocAgent开源项目 – 多模态文档问答框架

MDocAgent是Adobe推出的多智能体跨模态框架，专注于复杂文档理解与问答。它通过五个协同工作的智能体（通用/关键信息提取/文本/图像/总结智能体）整合文本和图像信息，结合文档预处理、多模态检索、关键信息提取等步骤，在5个基准测试中性能超越现有方法12.1%。支持端到端的文档解析、跨模态检索、多智能体推理和自动化评估流程。

Depth Anything V2开源项目 – 单目深度估计的强大基础模型

Depth Anything V2 是一种单目深度估计的强大基础模型，显著改善了细节刻画和鲁棒性。它提供更快的推理速度、更少的参数和更高的深度精度，适用于各种单目深度估计应用。项目提供了四种不同规模的预训练模型，支持图像和视频的深度估计，并且可以通过 Transformers 和 Apple Core ML 进行便捷的使用。

Vulp开源项目 – Python 实时运动控制库

Vulp 是一个用于实时运动控制的 Python 库，提供标准的动作-观察循环，旨在控制各种执行器和模拟器，具备易于集成和扩展的特性。

Byrne Euclid开源项目 – 欧几里得几何的彩色重绘版

用MetaPost + ConTeXt 重绘的欧几里得几何原本六卷的彩色版本，旨在提供更易于阅读和理解的几何图形。该项目基于19世纪数学家奥利弗·伯恩的原版，兼顾了美观和实用性。

MDI SAM Server开源项目 – 医学图像处理的实时分割服务器

一个基于SAM模型系列的图像分割服务器，专门用于医学图像处理，支持全幅面病理切片(WSI)和普通图像的实时分割。

Cloudflare MCP Server开源项目 – 通过自然语言管理Cloudflare资源

Cloudflare MCP Server 是一个基于 Model Context Protocol (MCP) 的工具，允许用户通过自然语言指令管理和操作 Cloudflare 的各种服务。它集成了 Cloudflare 的 API，支持对 Workers、KV、R2、D1 等资源的操作，简化了开发者与 Cloudflare 服务的交互方式。项目使用 TypeScript 开发，并提供了全面的测试套件，确保代码的质量和稳定性。

LLM-WikipediaQA开源项目 – 维基百科文档问答系统

在维基百科文章上运行文档问答(Q&A)任务，使用LangChain作为问答框架，使用OpenAI和HuggingFace模型进行嵌入和语言模型微调。该项目旨在提高用户在维基百科上查找信息的效率，通过自然语言处理技术，为用户提供准确的答案。

LLM-Honesty-Survey开源项目 – 探讨 LLM 诚实性的研究资料

探讨 LLM 诚实性的论文和研究资料列表，旨在深入了解 LLM 的自我认知和自我表达能力，并提出了改进这些能力的方法