generative-models开源项目 – 多种生成模型的PyTorch实现

该项目提供了多种生成模型的PyTorch实现，包括VAE、BIRVAE、NSGAN、MMGAN、WGAN、WGANGP、LSGAN、DRAGAN、BEGAN、RaGAN、InfoGAN、fGAN和FisherGAN等。代码带有详细注释，易于理解，并包含交互式可视化工具，帮助用户更好地理解和解释不同生成模型的行为。

generative-models的特点:

1. 实现VAE（变分自编码器）
2. 实现BIRVAE（双向循环变分自编码器）
3. 实现NSGAN（非饱和GAN）
4. 实现MMGAN（最小最大GAN）
5. 实现WGAN（Wasserstein GAN）
6. 实现WGANGP（带梯度惩罚的Wasserstein GAN）
7. 实现LSGAN（最小二乘GAN）
8. 实现DRAGAN（深度遗憾分析GAN）
9. 实现BEGAN（边界平衡GAN）
10. 实现RaGAN（相对论GAN）
11. 实现InfoGAN（信息最大化GAN）
12. 实现fGAN（f-散度GAN）
13. 实现FisherGAN（Fisher GAN）
14. 包含交互式可视化工具，便于理解
15. 代码带有详细注释，清晰易懂

generative-models的功能:

1. 用于教育目的，理解生成模型
2. 用于研究和开发新的生成模型
3. 可视化和解释不同GAN的行为
4. 实验各种GAN架构和技术
5. 比较不同生成模型的性能

相关导航

DCA (DeepCrossattention)开源 – 增强Transformer模型性能的深度学习机制

DCA (DeepCrossattention) 是一种用于增强Transformer网络中残差连接的新机制。它通过可学习的权重和深度交叉注意力动态地结合不同层的信息，从而提高语言模型的性能、训练效率和稳定性。DCA采用Pytorch实现，可通过pip安装，并提供如DCAGPT等类用于构建和训练Transformer模型，专注于语言建模任务。

THE HUNDRED-PAGE LANGUAGE MODELS BOOK – 深入理解语言模型的实用书籍

一本从机器学习的基础知识开始，一步步地建立您对语言模型的理解的书。官网上可以在线阅读但不能下载。

mini_llm-简化版的GPT开源项目 – 2与Llama实现

最小 PyTorch 实现的 GPT-2 和 Llama，旨在简化代码以便更容易理解和使用，并且能够在短时间内训练出性能良好的自然语言生成系统。

Stanford CS236: Deep Generative Models官网 – 深度生成模型理论与实践课程

斯坦福大学CS236课程专注于深度生成模型的概率基础和学习算法，涵盖变分自编码器（VAE）、生成对抗网络（GAN）、自回归模型等多种前沿技术。课程结合理论与实践，探讨生成模型在计算机视觉、自然语言处理等领域的应用，并提供丰富的课程笔记和项目实践机会。学生需分组完成开放式项目，可选择应用模型到新任务、改进算法或进行理论分析。

ChineseNMT开源项目 – 基于transformer的英译中翻译模型

ChineseNMT是一个基于Transformer架构的高效英译中翻译模型，使用PyTorch实现，支持自定义数据集训练，提供预训练模型，并且易于扩展和修改。

llama3_interpretability_sae开源项目 – 大语言模型可解释性研究项目

一个完整的大语言模型(LLM)可解释性研究项目，使用稀疏自编码器(SAE)分析Llama 3.2模型，由纯PyTorch实现且可完全复现。包含从数据采集、SAE训练、特征分析到验证的全套流程，可帮助理解模型内部行为和概念表示

Nano开源项目 – 自制的大语言模型，电子鹦鹉

Nano是一个自制的168M大语言模型，具备完整的模型结构和多种推理方式，适用于多种场景的AI应用。

nano-simsiam开源项目 – 极简自监督学习框架

nano-simsiam是一个极简的PyTorch实现的SimSiam自监督学习框架，仅用400行代码实现，基于ResNet50在ImageNet上达到良好性能。它支持分布式训练、实时KNN评估和自动混合精度训练，非常适合研究原型开发，代码简洁易于理解和修改。

Awesome-Physics-aware-Generation开源项目 – 物理感知生成技术集合

关于物理感知生成技术的集合，旨在通过结合物理定律和生成模型，推动科学研究和未来技术发展

smolGPT开源项目 – 迷你大语言模型训练工具

smolGPT是一个从零开始训练迷你大语言模型的工具，采用纯PyTorch实现，代码简洁无冗余，支持高效训练、混合精度和梯度累积。预训练模型仅需18.5小时，适合快速上手。项目专为教育目的设计，帮助用户理解大语言模型的训练过程，并适用于小规模文本生成任务。此外，smolGPT还支持flash attention和现代采样技术，可用于研究和实验，快速验证模型效果。

理解深度学习开源项目 – 深度学习理论与实践的权威指南

《理解深度学习》是由Simon J.D. Prince编写的一本关于深度学习的专业书籍，内容涵盖深度学习的理论基础、性能评估、卷积网络、Transformers、图神经网络、生成对抗网络（GANs）、扩散模型（Diffusion Models）、强化学习等主题。书中提供了深入的理论和实践指导，并附有大量练习题，适合初学者和有经验的研究人员。

pytorch-openpose开源项目 – 实时姿态估计的PyTorch实现

pytorch-openpose是一个基于PyTorch的OpenPose实现，支持手部和身体的姿态估计。该项目提供了实时姿态估计功能，适用于视频中的人体姿态分析、手势识别等应用。由于其基于PyTorch，具有灵活性和高性能，并且是开源项目，社区驱动开发。