smalldiffusion开源项目 – 简单易读的扩散模型代码库

DiffMoE是一个基于PyTorch的扩散模型项目，采用动态专家混合（MoE）架构，通过仅激活1倍参数即可超越3倍参数的密集模型。它在ImageNet上表现出色，FID50K分数低至2.30，Inception Score高达88.19，仅需700K训练步。项目主要用于图像生成任务，如类别条件生成和文本到图像生成。其核心创新包括批次级全局令牌池和动态容量预测器，能够根据噪声水平和样本复杂度智能分配计算资源。

PyTorch是一个开源的深度学习框架，广泛用于计算机视觉和自然语言处理等领域。

Diffuse to Choose是一种基于扩散模型的图像条件修复技术，专为虚拟试穿场景设计，能够在快速推理的同时保持高保真细节，并确保语义操作的准确性。该模型通过将参考图像的细粒度特征直接合并到主扩散模型的潜在特征图中，并使用感知损失进一步保留参考项的细节，从而在图像修复和增强方面表现出色。

基于ColossalAI的软件缓存方法来动态管理CPU和GPU内存空间中的极大嵌入表，能够在单个GPU上高效训练包括91.10 GB嵌入表的DLRM模型，仅需分配3.75 GB的CUDA内存，适用于大规模数据集。

建立在HuggingFace模型和PyTorch Fully Sharded Data Parallelism基础上的训练套件，旨在优化吞吐量，简化在资源受限环境中训练中型模型的分布式方案设置工作流程，尤其适用于学术集群。

RectifiedFlow是一个简单统一的PyTorch代码库，专注于扩散和流模型，提供易于使用的平台用于训练和推理，强调简洁性、灵活性和快速原型设计。

本课程讲述量化基础知识，旨在帮助开发人员压缩模型以便在消费者硬件上运行。

nGPT是NVIDIA开发的标准化Transformer模型，基于nanoGPT进行改进，旨在提升训练效率和处理能力。它通过在超球面上的表示学习和标准化过程，实现了对低精度运算的更好鲁棒性，并在不同的上下文长度设置中提供了显著的训练加速。

PlateRecognition是一个高精度车牌识别系统，支持12种车牌类型的检测与识别。该系统集成了yolov5、yolov7、yolov8等深度学习模型，识别准确率高达99.5%，适用于多种场景下的车牌识别需求。

torchtitan是一个基于PyTorch的大型语言模型（LLM）训练库，专注于简化大规模模型的训练过程。它支持多种并行技术，如FSDP2、Tensor Parallel、Pipeline Parallel和Context Parallel，并提供了详细的文档和调试工具。torchtitan旨在展示PyTorch最新的分布式训练特性，并适用于研究新的并行技术和探索分布式训练中的最佳实践。项目目前处于预发布状态，支持从头开始预训练Llama 3.1 LLM，并提供了丰富的功能模块和灵活的配置选项。

该项目是一个从零开始构建大语言模型的开源教程，不依赖任何外部库，仅使用Python和PyTorch实现。教程详细讲解了从基础到进阶的LLM构建过程，包括模型结构、注意力模块、KV Cache等核心概念，并提供了训练和微调的代码，帮助读者快速上手和实践。

Notehub.ai是一个便捷的平台，允许用户与同事和朋友分享Jupyter笔记本。用户只需注册账户，创建笔记本，并通过提供笔记本的URL与他人共享。

HiDream-I1是HiDream.ai团队推出的开源图像生成基础模型，拥有17亿参数，采用MIT许可证。该模型在多项基准测试中（DPG-Bench/GenEval/HPSv2.1）超越SDXL、DALL-E 3等主流模型，支持秒级高质量图像生成。提供完整版、蒸馏版和极速版三种变体，适用于不同场景需求。技术层面融合扩散模型与混合专家架构（MoE），集成多模态文本编码器，在语义理解、细节渲染和风格多样性方面表现突出。

Apple Silicon开发环境配置指南，为开发者提供在Apple Silicon芯片上安装和配置PyTorch、TensorFlow和JAX的指导，助力在M1/M2芯片上高效运行机器学习框架

RunPod是一个全球分布的云平台，专门用于运行AI推理和训练。它提供GPU实例，支持流行的框架如TensorFlow和PyTorch，使得AI工作负载的处理变得简单便捷。用户可以通过注册账号并登录，部署基于容器的GPU实例，选择不同的GPU类型和区域以满足特定需求。RunPod还提供无服务器GPU计算、各种应用的AI端点以及增强隐私和安全性的安全云选项。