Awesome-LLM-Post-training开源项目 – 大型语言模型后训练资源库

该项目探讨了通过量化、剪枝和蒸馏等手段来降低改造和使用大语言模型（LLM）的成本。

OpenVINO Training Extensions是OpenCV的OpenVINO训练扩展，基于PyTorch的神经网络压缩框架（Neural Network Compression Framework, NNCF）。它专注于神经网络模型的压缩和优化，提供多种压缩技术，如量化、剪枝和蒸馏，并与OpenVINO工具套件无缝集成。该工具易于使用和扩展，支持多种深度学习任务，如图像分类、目标检测和语义分割。

PRAG（Parametric Retrieval-Augmented Generation）是一种新型的参数化检索增强生成方法，旨在让大语言模型更高效地利用外部知识，提升生成质量。该方法通过深度整合外部知识到模型参数中，避免了大上下文窗口带来的计算开销，显著提升了推理能力。PRAG提供了完整的实现代码和预处理数据集，涵盖从数据增强到推理的全流程，使用户能够快速上手并应用于实际场景。

这是一个新的模型，超越其他模型在代理能力基准测试中表现出色，尤其在语言和编码任务上表现优异。

XAIreason是一个专为推理任务设计的开源框架，为开发者提供构建逻辑性强AI系统的工具，通过增强模型的推理能力，支持复杂问题的高效求解。它具备推理引擎、知识整合、模型优化、可视化支持和兼容性强等特点，适用于决策系统、知识问答和透明AI等多种场景。

利用torchao和diffusers优化扩散模型的端到端方案，支持推理和FP8训练，旨在提升模型的性能和效率。

multi_timescale_replay 是一个专注于多时间尺度回放机制的强化学习项目，旨在提高动态环境中的学习效率和适应性。该项目通过实现多时间尺度回放机制，支持在动态环境中的持续强化学习，并提供工具来实验不同的回放策略。此外，项目还包含基准测试和评估指标，用于评估性能。

matmul.c是一个针对现代x86处理器优化的高性能矩阵乘法C语言实现库。它支持AVX和FMA指令集，并通过OpenMP实现高效并行化，提供简洁、可移植、可扩展的C代码。在特定配置下，其性能甚至超越NumPy，适用于科学计算、工程应用及矩阵乘法基准测试等场景。

Dioptra是一个开源的数据策展和管理平台，旨在支持计算机视觉、自然语言处理和大型语言模型。它帮助用户策划有价值的未标记数据，注册元数据，诊断模型失效模式，并与标注和再训练系统整合。

专注于训练和微调中等大小 GPT 模型的最简仓库，是 karpathy/nanoGPT 的一个分支，并提供了最大更新参数化（muP）的最小实现，旨在简化用户的使用体验和模型的优化过程。

XAIvision是一个专为视觉AI任务设计的开源框架，为开发者提供高效构建视觉模型的工具。它支持图像处理与分析的优化，适用于从研究到部署的多种场景。

一份精心收集机器人领域相关的3D视觉论文合集，包括政策学习、预训练、VLM和LLM、数据集和基准等相关论文、代码和相关网站。

支持多策略蒸馏，动态资源分配，微调等功能的蒸馏框架，适合学习或与现有架构集成。

MMR1是多模态推理领域的前沿项目，通过极少量数据实现顶尖性能。该项目仅使用6k公开数据进行训练，达到了开源7B多模态模型的SOTA性能，并且在6小时内完成高效训练，具有极高的性价比。此外，MMR1采用了数据平衡策略，能够覆盖多样化的数学问题类型。

TransMLA是一种将GQA（如LLaMA-3和Qwen-2.5）转化为更强大的MLA（多头潜在注意力）的方法，旨在复制R1能力并探索MoE、MTP、混合精度量化和训练/推理加速等先进技术。