The Matrix Calculus You Need For Deep Learning – “帮助开发者提升在深度学习框架中的应用能力”-连接微积分与深度学习的桥梁

该教程是连接基础微积分与深度学习实践的桥梁，适合希望摆脱“黑箱”使用框架、深入理解模型数学本质的开发者。

功能:

1. 深入理解梯度计算
2. 反向传播的数学细节
3. 适合已掌握神经网络基础的开发者或研究者
4. 帮助开发者理解模型的数学本质

特点:

1. 用于学习深度学习中的矩阵微积分
2. 作为研究深度学习模型数学的参考书
3. 帮助开发者提升在深度学习框架中的应用能力

相关导航

leedl-tutorial开源项目 – AI、深度学习必学内容！

这是一本由李宏毅老师和Datawhale团队出品的电子书，整理了李老师的视频教程，涵盖深度学习的理论与实战，提供丰富的学习资源和配套代码，适合各层次的学习者。

动手学深度学习官网 – 面向中文读者的深度学习实践教材

这是一个面向中文读者的深度学习教科书，每一小节都是可以运行的 Jupyter 记事本，配套视频，旨在通过实践教授深度学习的基础和进阶知识。学习者可以自由修改代码和参数，获取及时反馈，积累深度学习的实战经验。该项目已被全球70多个国家的500多所大学用于教学。

2000 Machine Learning Prompts官网 – 全面的机器学习提示集

《2000 Machine Learning Prompts》是一个全面的资源，旨在帮助爱好者学习和实验机器学习，使他们熟悉其功能和在不同上下文中的应用。

TorchLeet开源项目 – 深度学习PyTorch练习题库

TorchLeet是一个PyTorch的练习题库，旨在通过各种难度的实践题目帮助用户从新手到高手，掌握深度学习和PyTorch的精髓，类似于编程界的“题海战术”。

FreeAiKit官网 – 免费的多功能AI工具集

FreeAiKit是由Prgmine提供的一套AI工具，旨在帮助用户完成各种与AI相关的任务，且免费提供。用户可以通过访问网站浏览工具，每个工具都有详细的描述和使用说明，用户可根据指南选择所需工具并应用于AI项目。

llamafile开源项目 – 简化大语言模型的分发与运行

llamafile项目旨在通过创建一个单一的文件，简化大型语言模型（LLM）的分发和运行过程。用户可以在大多数计算机上本地运行这些模型，无需任何安装，从而保证数据隐私性，所有处理都在本地完成。该项目结合了llama.cpp与Cosmopolitan Libc，支持多个操作系统，致力于实现AI开发者的‘一次构建，随处运行’的梦想。

carefree-flow开源项目 – 简化的深度学习库

carefree-flow是一个基于OneFlow的深度学习库，旨在简化模型构建与训练过程，提供高效的计算性能和友好的API设计，支持动态计算图，适合开发者快速原型和高性能训练需求。

Megatron-LLM开源项目 – 支持大规模分布式语言模型预训练和微调的库

Megatron-LLM是一个专为大规模分布式训练设计的库，旨在高效支持语言模型的预训练和微调。它提供灵活的模型架构配置，并支持多种优化算法，使得用户可以根据需求进行优化和扩展，同时易于与其他深度学习框架集成。

mindspore.cn官网 – 全场景深度学习框架

MindSpore是一个全场景深度学习框架，旨在充分利用Ascend AI处理器的计算能力，为数据科学家和算法工程师提供友好的开发体验和高效的执行，进一步推动AI软件/硬件应用生态系统的发展与丰富。

PySpur开源项目 – 可视化大型语言模型推理路径的工具

PySpur是一个可视化大型语言模型推理路径的图形界面，旨在帮助开发者构建、测试和部署复杂的计算图，从而增强模型的思考能力。

Shumai (Meta)开源项目 – 快速的可微分张量库

Shumai是一个开源的、快速的、网络连接的可微分张量库，适用于TypeScript和JavaScript。

ScratchLLMStepByStep开源项目 – 从零开始编写大语言模型的教程

从零开始编写并训练大语言模型的教程，旨在为对语言模型和深度学习感兴趣的开发者提供系统的学习资源。

TritonAcademy开源项目 – 简化GPU编程的利器

TritonAcademy是一个旨在解析GPU内核语言的项目，通过提供高层次的抽象和详细的代码示例，使GPU编程变得更加简单易懂。项目不仅包含丰富的代码示例和注释，还深入探讨了反向传播的数学原理，帮助开发者更好地理解和实现GPU内核开发。

深度学习从零开始开源项目 – 为深度学习爱好者提供实践教程

为深度学习爱好者提供从基础到进阶的实践教程，包括Jupyter Notebook形式的代码，支持在云平台上执行，涵盖神经网络、变分自编码器等多个深度学习主题

book.fast.ai开源项目 – fastai书籍的补充资源

book.fast.ai是为阅读fastai书籍的读者提供的信息平台，包含代码示例、教程以及深度学习从业者的资源。项目定期更新，提供新内容和改进，帮助用户更好地理解和应用深度学习概念。

Deep-Learning开源项目 – 深度学习项目与实践教程

这是一个专注于深度学习项目和教程的仓库，提供了各种深度学习技术的实际实现和深入见解。通过全面的教程、神经网络的实际实现、真实场景中的深度学习应用示例、易于理解的代码片段和笔记本，以及支持TensorFlow和PyTorch等流行深度学习框架，帮助用户深入学习和应用深度学习技术。

trap开源项目 – APL语言中的自回归transformer项目

在APL语言中实现自回归transformer（如GPT2）的项目，支持反向传播和使用Adam优化算法进行训练，旨在结合高性能和简洁代码的优势。

PyTorch-Tutorial-2nd开源项目 – 全面的PyTorch使用指南

PyTorch实用教程（第二版）：面向深度学习工程师的全面指南，覆盖从零基础到项目应用和工程化部署的各个阶段，旨在帮助读者轻松掌握PyTorch的使用

micrograd开源项目 – 轻量级自动梯度引擎

micrograd是一个实现反向传播的自动梯度引擎，作为训练神经网络的核心代码，以其简洁和高效著称。它支持基本的神经网络操作和梯度下降，轻量级且易于集成到机器学习项目中。

scratch-pytorch-step-by-step开源项目 – 逐步实现类似PyTorch的深度学习框架

该项目一步步教你用Python实现一个语法风格类似于PyTorch的深度学习框架。本教程将使用Python的基础语法和NumPy来实现深度学习领域的一些基础算法，包括但不限于反向传播、随机梯度下降、Adam优化器、Dropout层等。本项目还会介绍如何实现包括CNN、RNN、LSTM、ResNet、Transformer等在内的模型。

MachineLearning开源项目 – 常见机器学习算法实现代码

该项目提供了多种常见机器学习算法的实现代码，包括深度学习教程、PCA、kNN、逻辑回归、流形学习、SVM、GMM、决策树、K-Means、朴素贝叶斯等。

理解深度学习开源项目 – 深度学习理论与实践的权威指南

《理解深度学习》是由Simon J.D. Prince编写的一本关于深度学习的专业书籍，内容涵盖深度学习的理论基础、性能评估、卷积网络、Transformers、图神经网络、生成对抗网络（GANs）、扩散模型（Diffusion Models）、强化学习等主题。书中提供了深入的理论和实践指导，并附有大量练习题，适合初学者和有经验的研究人员。

The Fundamentals of Modern Deep Learning with PyTorch – “在PyTorch项目中应用教程中的概念”-适合各级开发者的深度学习教程

本项目为2024年PyCon会议准备，提供关于现代深度学习基础知识及PyTorch的深入教程材料，旨在帮助参与者掌握深度学习的核心概念和实用技能。