量化基础知识课程官网 – 帮助开发者优化模型以适应硬件

扩散模型的极速推理工具，能快速处理复杂的图像生成任务，提升模型运行效率

LISA（Learning Interpretable Skill Abstractions）旨在通过强化学习任务来学习可解释的技能抽象，从而提高模型的可解释性。

Semiring 是一个简化机器学习模型构建和部署的平台，用户只需五个数据样本即可创建数据集，通过简单的 API 部署模型，无需任何机器学习专业知识。

DeepSeek-R1-Sistill是量化版本的音频处理工具，旨在适应各种计算环境，能够高效地进行声音处理及分析。

该项目是一个从零开始构建大语言模型的开源教程，不依赖任何外部库，仅使用Python和PyTorch实现。教程详细讲解了从基础到进阶的LLM构建过程，包括模型结构、注意力模块、KV Cache等核心概念，并提供了训练和微调的代码，帮助读者快速上手和实践。

Slideflow是一个用于组织学图像分析的深度学习流水线，支持Tensorflow/Keras和PyTorch。它提供了一个便捷的环境来构建和管理图像分析工作流程，具有良好的可扩展性，可以满足各种图像分析需求。

通过蒸馏技术将复杂模型中的知识转移到更小的模型中，以便在资源受限的设备上有效运行AI模型。

Modular Diffusion 是一个易于使用的模块化 API，旨在使用 PyTorch 设计和训练自定义扩散模型，适合多种应用场景，包括图像生成和去噪处理。

Gemma Open Models是谷歌推出的一系列轻量级、先进的开源模型，旨在支持快速的AI研究和应用。用户可以通过快速入门指南、基准测试、在谷歌云上训练和部署这些模型，并积极参与社区以推动AI研究。

DeepCTR是一个易于使用、模块化且可扩展的深度学习点击率（CTR）模型库。它提供了简洁的接口，支持多种基于深度学习的CTR模型，并能够与TensorFlow和PyTorch等主流深度学习框架无缝集成。其模块化设计允许用户灵活定制模型，同时其可扩展架构支持新模型和功能的添加，适用于推荐系统中的点击率预测任务。

blurr是一个将Hugging Face Transformers与fastai v2框架无缝集成的库，旨在简化在fastai中使用最先进的自然语言处理（NLP）模型的过程。它支持广泛的Hugging Face Transformer模型，并提供了数据预处理和模型评估的实用工具，使得在自定义数据集上微调Transformer模型变得非常容易。

FlashAttention是一个开源的推理加速工具，专为AI大模型设计，通过优化注意力机制的计算流程，显著提升推理速度，尤其适合需要实时响应的场景。其v2版本比v1快2倍，比标准注意力机制快5-9倍，在A100上达到225 TFLOPs/s的训练速度，并已在大多数LLM库中得到广泛应用。

PyTorch是一个开源的深度学习框架，广泛用于计算机视觉和自然语言处理等领域。

Intel研究院开源的AI模型优化工具，支持将千亿参数大模型压缩至1/20体积，在Intel第四代至强处理器上实现3.8倍推理加速，量化精度损失＜0.5%。该工具提供统一API，支持主流深度学习框架（如TensorFlow、PyTorch、ONNX Runtime和MXNet）上的模型压缩技术，包括量化、剪枝、蒸馏和神经架构搜索。

DeepCTR-PyTorch是一个易于使用、模块化且可扩展的基于深度学习的点击率（CTR）模型库，专为PyTorch设计。它提供了简单易用的接口，支持多种深度学习CTR模型，并且其模块化设计允许用户灵活定制和扩展模型。通过利用PyTorch的高效计算能力，用户可以快速构建、训练和优化CTR模型，并将其集成到更大的机器学习流程中。

Collie是一个多功能的AI模型训练与部署框架，旨在简化机器学习模型的开发和管理过程。它基于PyTorch，结合了DeepSpeed和MegatronLM，避免使用复杂的外部库，并提供用户友好的接口和多种内置工具。

hl-gauss-pytorch是一个基于PyTorch实现的高斯直方图损失函数（HL-Gauss），为回归任务提供了全新的视角，能够有效提升模型的性能。

TorchCP是一个基于PyTorch的Python工具箱，旨在支持深度学习模型的保形预测研究，提供多种分类和回归方法。

RunPod是一个全球分布的云平台，专门用于运行AI推理和训练。它提供GPU实例，支持流行的框架如TensorFlow和PyTorch，使得AI工作负载的处理变得简单便捷。用户可以通过注册账号并登录，部署基于容器的GPU实例，选择不同的GPU类型和区域以满足特定需求。RunPod还提供无服务器GPU计算、各种应用的AI端点以及增强隐私和安全性的安全云选项。