LLMClient是一个用于构建检索增强生成(RAG)、推理、函数调用代理、LLM智能体、追踪和日志记录的简单库,旨在帮助开发者更加高效地利用大型语言模型。
Branches是一个基于图的高级算法原型工具,专为大型语言模型(LLM)的推理和规划设计,旨在提升模型的推理能力和优化决策过程。
LLM Twin Course 是一门全面的大型语言模型(LLM)免费学习课程,教授如何构建生产级别的 LLM 和基于 LLM 的检索增强生成(RAG)系统。课程包含11节动手课程,涵盖从数据收集到部署的全过程,并提供了所有实践涉及的源码。课程内容涵盖了系统设计、数据工程、特征管道、训练管道和推理管道等方面,适合中级的机器学习工程师、数据工程师和软件工程师,需具备Python、ML和云计算的基础知识。
LLM-Agent-Survey是一个关于基于大型语言模型(LLM)的自主智能体的文献资源集,汇聚了最新的研究和应用,提供详细的文献综述与分析,支持多种LLM模型和框架的比较,包含自主智能体的设计与实现示例。
bRAG-langchain 是一个完整的从入门到高级的RAG构建指南,适合想要深入学习和实践RAG技术的开发者。项目提供了从基础设置到高级应用的完整学习路径,涵盖查询构建、路由、索引、检索和生成的完整流程。通过多个 Jupyter Notebook,开发者可以逐步实现从简单到复杂的 RAG 应用,并掌握高级检索与重排技术。
QuarkIQL是一款先进的AI工具,旨在简化和优化图像API测试,提供强大的功能和直观的界面,使用户能够轻松生成自定义图像和请求。
Appsmith AI是一个创新的平台,旨在简化AI驱动应用程序的创建和部署,提升生产力和效率。它允许用户构建自定义界面并集成各种大型语言模型(LLM),以增强聊天、数据和文档分析。该平台的低代码环境使得即便是有限编码经验的用户也能轻松使用。
LightLLM是一个基于Python的LLM(大型语言模型)推理和服务框架,以其轻量级设计、易于扩展和高速性能而闻名。它利用FasterTransformer、TGI、vLLM和FlashAttention等开源实现的优势,提供比Vllm更快的表现。
LlamaParse是一款专门用于解析包含表格、图表和图像的复杂幻灯片的工具,能够生成视觉丰富的报告,支持文本和图像的混合输出。它支持多模态功能,能够处理多种数据源,并实现文本和图像块的向量索引。此外,LlamaParse还能生成结构化输出,便于创建复杂的报告,并与RAG(检索增强生成)技术集成,提升报告生成的质量和效率。
Log4U.info是一个由OpenAI技术驱动的网站,旨在彻底改变软件开发人员记录和跟踪工作的方式。它利用OpenAI的语言能力,使工作记录变得尽可能简单。