PyTorch库

NeuralOperator 是一个 PyTorch 库，专注于在无限维度中学习神经算子。它提供了傅里叶神经算子和张量化神经算子的实现，能够学习函数空间之间的映射，并且具有分辨率不变性，使得训练后的算子可以应用于任何分辨率的数据。该库支持多种高效的计算方法，如傅里叶变换和张量分解，以提高模型的计算效率。

TorchGeo 是一个基于 PyTorch 的库，专门为处理地理空间数据的机器学习专家和遥感专家提供数据集、采样器、转换和预训练模型。它简化了复杂的地理空间数据处理操作，并提供了针对特定卫星传感器优化的预训练模型。TorchGeo 的目标是让机器学习专家更容易处理地理空间数据，同时让遥感专家更容易探索机器学习解决方案。

EasyVolcap是一个基于PyTorch的库，专注于加速神经体积视频的研究，特别是在体积视频捕获、重建和渲染领域。它提供了预构建的深度学习模型，支持自定义网络构建，允许研究人员灵活地创建新算法。通过协同优化器、采样器和渲染器的设计，实现了高效的模型训练和渲染。此外，EasyVolcap还提供了预训练模型和数据集，以加速研究过程，并已被广泛应用于神经体积视频算法的研究和开发。

torchtune是一个用于训练、微调和实验大型语言模型（LLM）的PyTorch库。它利用最新的PyTorch API实现内存效率和性能优化，并支持YAML配置以简化训练和评估流程。torchtune适用于微调LLM以用于文本生成、问答和对话生成等任务，并支持量化、剪枝等后训练技术，以针对特定用例优化模型。此外，torchtune与Hugging Face Transformers、torchao和EleutherAI的LM Eval Harness等工具集成，提供了丰富的功能和灵活性。

MoE-Infinity 是一个专为 Mixture-of-Experts (MoE) 模型的推理和服务而设计的 PyTorch 库，具有低成本、高性能和易于使用的特点。它通过专家模块内存卸载和优化技术，显著降低了显存占用和推理延迟，同时兼容 HuggingFace 模型，能够无缝对接主流大型语言模型 (LLM)。

μKG是一个专门用于多源知识图谱嵌入和应用开发的库。它支持多种知识图谱嵌入算法，能够高效处理大规模知识图谱数据，并提供了丰富的API接口，便于开发者进行知识图谱的嵌入学习、融合、推理和预测，以及构建基于知识图谱的应用程序和可视化分析。

pytorch-lifestream 是一个基于 PyTorch 的库，专门用于在离散事件序列上构建嵌入。该库利用自监督学习方法，能够高效地生成序列数据的嵌入表示，适用于各种时间序列和事件驱动的应用场景。

lightning-uq-box是一个基于PyTorch和Lightning的库，旨在为现代神经网络提供多种不确定性量化(UQ)技术，支持灵活的模型训练和评估，并与现有的PyTorch项目无缝集成。

Modular Diffusion 是一个易于使用的模块化 API，旨在使用 PyTorch 设计和训练自定义扩散模型，适合多种应用场景，包括图像生成和去噪处理。

Zeta是一个高性能的AI模型构建框架，采用模块化和可重用的构建块，能够比PyTorch、TensorFlow等框架快80%。它旨在提高开发效率，降低学习曲线，适合各种规模的机器学习任务。

accelerate是一个工具，可以帮助用户在多种设备上简单地运行PyTorch训练脚本，支持多GPU和TPU训练，并提供了易于集成的解决方案。它使得混合精度训练变得简单，同时支持分布式训练，用户可以通过命令行接口轻松启动训练任务。

Ludwig v0.8是一个开源的低代码框架，旨在帮助开发者轻松构建先进的机器学习模型，特别是优化用于使用私有数据构建定制的大型语言模型（LLM）。它提供了一种声明式接口，使得模型的构建过程更加高效和简便。

Spio是一个专为PyTorch设计的高效工具，利用优化的CUDA内核显著提升卷积神经网络的训练效率，特别是在分组卷积的性能方面。

ColossalAI是一个开源的分布式AI大模型训练框架，旨在降低大规模AI大模型的训练成本和复杂度。它通过先进的并行计算技术，让开发者在有限硬件资源下也能高效训练超大规模大模型。支持多种并行策略、混合精度训练、内存优化等技术，广泛应用于大规模模型训练、科研实验和企业部署。

Tiny LLM zh 是一个从零开始的小参数量中文大语言模型，旨在帮助学习者快速掌握大模型相关知识。该项目提供了公开的数据和代码，支持多阶段训练和人类对齐技术，使得用户能够轻松入门并进行相关实验。

LLMPruner是一款专为大语言模型设计的裁剪工具，旨在优化模型性能并减少其参数量。它支持多种模型架构，并提供可视化工具，方便用户了解模型结构和裁剪效果，易于与现有机器学习工作流集成。

Megatron-LLM是一个专为大规模分布式训练设计的库，旨在高效支持语言模型的预训练和微调。它提供灵活的模型架构配置，并支持多种优化算法，使得用户可以根据需求进行优化和扩展，同时易于与其他深度学习框架集成。