leedl-tutorial开源项目 – AI、深度学习必学内容！

这是一本由李宏毅老师和Datawhale团队出品的电子书，整理了李老师的视频教程，涵盖深度学习的理论与实战，提供丰富的学习资源和配套代码，适合各层次的学习者。

leedl-tutorial的特点:

1. 深入浅出的深度学习概念
2. 涵盖多种深度学习框架
3. 提供实用的代码示例
4. 包含详细的公式推导
5. 持续更新，保持内容的前沿性
6. 理论与实战结合，便于学习

leedl-tutorial的功能:

1. 可以作为深度学习的学习教材
2. 用于实践深度学习项目
3. 阅读电子书以获取深度学习理论知识
4. 使用配套代码进行实战练习
5. 帮助理解深度学习的理论与应用

相关导航

动手学深度学习官网 – 面向中文读者的深度学习实践教材

这是一个面向中文读者的深度学习教科书，每一小节都是可以运行的 Jupyter 记事本，配套视频，旨在通过实践教授深度学习的基础和进阶知识。学习者可以自由修改代码和参数，获取及时反馈，积累深度学习的实战经验。该项目已被全球70多个国家的500多所大学用于教学。

The Matrix Calculus You Need For Deep Learning – “帮助开发者提升在深度学习框架中的应用能力”-连接微积分与深度学习的桥梁

该教程是连接基础微积分与深度学习实践的桥梁，适合希望摆脱“黑箱”使用框架、深入理解模型数学本质的开发者。

神经网络入门官网

Brilliant推出的Introduction to Neural Networks课程

2000 Machine Learning Prompts官网 – 全面的机器学习提示集

《2000 Machine Learning Prompts》是一个全面的资源，旨在帮助爱好者学习和实验机器学习，使他们熟悉其功能和在不同上下文中的应用。

知识蒸馏-将复杂模型的知识转移到小模型

通过蒸馏技术将复杂模型中的知识转移到更小的模型中，以便在资源受限的设备上有效运行AI模型。

大语言模型开源项目 – 详尽介绍大语言模型构建过程

本书围绕大语言模型构建的四个主要阶段，详细介绍各阶段使用的算法、数据、难点以及实践经验。

JDet开源 – 基于Jittor的遥感目标检测库

JDet是一个基于Jittor框架的开源遥感图像定向目标检测工具库，专注于高效处理和分析空中图像数据。它由清华大学CSCG组维护，支持多种主流检测模型和遥感数据集，提供从训练、测试到结果可视化的完整流程，并通过灵活的配置系统满足研究和开发需求。

PNN官网 – 医疗多模态AI处方框架

PNN是首个专注于医疗领域的多模态处方深度学习框架，通过整合结构化（如实验室数据）和非结构化数据（如医学影像、临床笔记），为患者生成个性化治疗方案。在TAVR手术中实现并发症率降低32%，肝脏外伤病例死亡率下降40%以上，并通过知识蒸馏技术提升模型可解释性，帮助医生理解AI决策逻辑。其核心价值在于跨模态数据融合与精准医疗决策支持。

The Fundamentals of Modern Deep Learning with PyTorch – “在PyTorch项目中应用教程中的概念”-适合各级开发者的深度学习教程

本项目为2024年PyCon会议准备，提供关于现代深度学习基础知识及PyTorch的深入教程材料，旨在帮助参与者掌握深度学习的核心概念和实用技能。

Java AI 训练平台官网 – Java 程序员的 AI 训练一站式解决方案

Java AI 训练平台是为 Java 程序员设计的一个综合解决方案，旨在通过 Java 技术加速 AI 模型的训练和应用开发。平台集成了 Java 版的 Pytorch 训练引擎、AI SDK 和 Web 应用，提供从模型训练到服务部署的一站式服务，特别适合图像数据深度学习和模型训练的场景。平台基于 Java 语言开发，充分利用 Java 的跨平台、高性能和安全性优势，使 AI 模型训练和应用更加高效稳定。用户可以根据实际需求定制 AI 模型，尤其在图像识别分类领域，通过调整参数和选择算法优化性能。平台提供从数据预处理到服务部署的完整流程，大幅降低 AI 应用开发的门槛和成本，且项目开源免费，支持商业使用。

Flash Bi-directional Linear Attention开源项目 – 高效的双向线性注意力实现

一个用于非因果建模的双向线性注意力实现项目，通过Triton优化模型性能，特别适合需要高效处理大量数据的AI应用

tinygrad开源项目 – 极简深度学习框架

tinygrad 是一个设计极简的深度学习框架，旨在提供 PyTorch 和 micrograd 之间的平衡。它以简洁性为特点，方便用户添加新的加速器，并支持推理和训练。tinygrad 实现了自动微分和张量库，并提供优化器和数据加载器等组件，支持神经网络的构建和训练。其核心优势在于极简的设计和强大的延迟执行能力，已成功用于训练 LLaMA 和 Stable Diffusion 等神经网络模型，支持在 GPU、TPU 和 FPGA 等多种加速器上运行。

Baichuan开源项目 – 多模态AI开发平台

Baichuan是一个开源的多模态AI平台，专为多模态AI开发设计。它提供整合文本、图像等多模态数据的工具，支持高效的模型训练与推理，适用于复杂场景下的智能应用。平台内置多源数据预处理管道，兼容主流深度学习框架，帮助开发者快速构建多模态AI系统。

FasterTransformer开源项目 – 更快的Transformer模型优化工具

FasterTransformer是一个旨在提高Transformer模型速度和效率的工具，支持多种架构如BERT和GPT，提供高性能的推理和训练，且易于集成。它支持FP16和INT8量化技术，能够在NVIDIA GPU上实现高效的模型推理和快速训练，适合在生产环境中部署优化后的模型。

PyTorch开源项目 – 开源深度学习框架

PyTorch是一个开源的深度学习框架，广泛用于计算机视觉和自然语言处理等领域。

mindspore.cn官网 – 全场景深度学习框架

MindSpore是一个全场景深度学习框架，旨在充分利用Ascend AI处理器的计算能力，为数据科学家和算法工程师提供友好的开发体验和高效的执行，进一步推动AI软件/硬件应用生态系统的发展与丰富。

深度与广度学习框架论文 – 结合宽深模型提升推荐系统性能

深度与广度学习框架（Deep and Wide Learning，简称DWL）是一种结合宽线性模型和深神经网络的框架，旨在提升深度学习模型的准确性和计算效率。该框架特别适用于处理稀疏输入数据，通过协同学习数据内部和数据间的表征，显著改善推荐系统、分类和回归任务的性能。DWL最初由Google研究团队提出，主要用于推荐系统，如YouTube视频推荐，结合了宽线性模型的记忆能力和深神经网络的泛化能力。

Kolmogorov-Arnold Transformer (KAT) – 提升Transformer性能的KAT实现

Kolmogorov-Arnold Transformer (KAT) 是一个基于PyTorch和GPU加速的实现，旨在通过替换传统Transformer中的MLP层为KAN层，从而在大规模训练场景下显著提升模型性能。该项目专为需要高效处理大规模数据的深度学习任务设计，支持与现有PyTorch项目的无缝集成。

Robust Video Matting开源项目 – 强大的视频抠图工具

Robust Video Matting (RVM) 是一个基于PyTorch、TensorFlow、TensorFlow.js、ONNX和CoreML的强大视频抠图工具，能够提供高质量的抠图效果，并具备实时处理能力和良好的鲁棒性，适应各种视频条件。

OpenCV Zoo开源项目 – OpenCV深度学习模型集合

OpenCV Zoo是由OpenCV提供的预训练深度学习模型和算法集合，适用于各种计算机视觉任务。该项目包含了多种预训练模型，支持多种深度学习框架，如TensorFlow、PyTorch和ONNX，并提供了易于使用的API，方便将模型集成到应用中。项目开源且社区驱动，定期更新新模型和改进。

Trolo开源项目 – 结合Transformers与YOLO的深度学习框架

一个将Transformers与YOLO及其他单阶段检测器(SSD)结合的深度学习框架，提供高性能推理和便捷的CLI接口。支持D-FINE等先进模型，具备视频流推理、自动分布式训练等特性。适用于需要transformer增强的目标检测任务，提供Python API和Docker部署支持。