Foundations of Large Language Models-概述大型语言模型的基本概念

这是一个与大型语言模型评估相关的论文和资源集合，旨在为研究人员和从业者提供全面的参考资料，定期更新新发现和资源。

一个关于大型语言模型系统相关论文的综合性列表，旨在为研究人员和开发者提供有价值的资源和参考。

该项目探讨了在不同位精度下的语言模型（LLM）性能比较，尤其是4位和8位精度模型的精度表现。

关于大规模预训练语言模型工具使用和代码生成的论文集合，涵盖了相关研究和复杂推理的内容，提供对当前研究趋势的深入分析。

多语言大模型资源库：汇集多语言大模型研究资料，提供丰富的数据资源和论文列表，助力跨语言AI研究

该项目根据我们的调查整理了评估大型语言模型的文献，提供了全面的评价方法和研究资料。

一种无需标签的图像分类方法，通过利用大型语言模型和预训练的视觉模型，提升图像分类的准确性，无需大量标注数据，降低了成本

从零开始构建自己的大型语言模型，提供详细教程和代码实现，覆盖编码、预训练和微调过程，适用于对自然语言处理和人工智能领域感兴趣的开发者和研究者

KRAGEN结合知识图谱、检索增强生成（RAG）和高级提示技术，旨在通过将知识图谱转换为向量数据库，利用RAG技术检索相关事实，并辅以图思考（GoT）技术动态分解问题，最终提供高效的解决方案。

最小化的分布式训练框架，专为教育目的设计，让你轻松学习并实验预训练Llama类模型

一个精心策划的大语言模型自一致性相关文献资源列表，涵盖最新研究，提供详细引用和链接，分类整理不同方法和应用，鼓励社区贡献。

一本关于如何有效提示后训练大型语言模型（LLMs）的指南，适合希望提升提示词编写技巧的用户。

Maya是一款能够理解和生成多种语言的文本和图像内容的大型语言模型，特别适合需要跨语言交互的应用场景。

这是一个专注于人类中心基础模型（HcFM）的GitHub项目，旨在为人类感知、生成和Agent建模提供强大的模型支持。项目涵盖了四大类模型，包括感知、生成、统一建模和Agent建模，并收录了超过30篇前沿学术论文，为研究者提供了丰富的资源。此外，项目还提供了详细的分类和项目链接，方便用户快速上手和应用。

该项目提供了多种生成模型的PyTorch实现，包括VAE、BIRVAE、NSGAN、MMGAN、WGAN、WGANGP、LSGAN、DRAGAN、BEGAN、RaGAN、InfoGAN、fGAN和FisherGAN等。代码带有详细注释，易于理解，并包含交互式可视化工具，帮助用户更好地理解和解释不同生成模型的行为。

Rejecting Instruction Preferences (RIP) 是一种通过分析拒绝回复的质量和奖励差距来过滤低质量指令数据的方法，旨在提升指令微调数据的质量和模型性能。该方法特别适用于大型语言模型的开发，尤其是在指令调优（instruction tuning）和强化学习反馈（RLHF）领域。通过过滤低质量数据，RIP 能够增强模型与人类偏好的对齐，并优化训练数据以提升模型在下游任务中的表现。

Logic-of-Thought（LoT）旨在通过将逻辑注入上下文，提升大型语言模型的推理能力。该项目利用命题逻辑生成扩展的逻辑信息，并与现有的提示方法无缝集成，显著提升了多种提示方法在复杂任务中的性能。

隐式非线性扩散模型的最大似然训练，旨在通过学习复杂数据分布来提升生成模型的性能。

Deita旨在为大型语言模型(LLM)的指令微调提供自动数据选择工具和高质量的对齐数据集，Deita模型能通过比其他SOTA LLM少10倍的指令微调数据进行训练，达到与它们相媲美的性能。

SemanticStyleGAN是一个用于可控图像合成和编辑的生成模型，它学习组合生成先验，从而实现对图像风格的精确控制。

garak是一个用于检测不良提示响应的模块化工具，专注于LLM漏洞扫描，支持多种生成模型，旨在提升安全性和响应质量。

关于物理感知生成技术的集合，旨在通过结合物理定律和生成模型，推动科学研究和未来技术发展

该项目提供丰富的学习路线图和Colab笔记本，帮助用户从基础知识到前沿技术，逐步掌握大型语言模型（LLM）的构建与应用。课程内容涵盖数学、Python编程、神经网络核心知识，以及如何构建高性能模型和开发部署LLM应用。

该项目总结了大语言模型的微调技术，探讨了指令微调和对齐微调的方法，旨在提升模型在特定任务上的表现。