Zero-to-Wan开源项目 – 极简可定制的Wan视频生成微调代码库

Zero-to-Wan是一个极简且可高度定制的代码库，专门用于微调Wan视频生成模型。它提供了从数据准备、模型训练到视频生成的完整流程，支持简单特效的微调，助力视频创作。基于PyTorch实现，易于扩展和修改，适合开发者进行自定义修改和扩展。

Zero-to-Wan的特点:

1. 提供从零开始的完整流程，涵盖数据准备、训练到生成
2. 支持简单特效的微调，助力视频创作
3. 基于PyTorch实现，易于扩展和修改

Zero-to-Wan的功能:

1. 数据准备：准备用于微调的视频数据
2. 模型训练：使用提供的代码库进行模型训练
3. 视频生成：生成经过微调的视频内容
4. 特效微调：对视频进行简单特效的微调
5. 代码扩展：基于PyTorch的代码库进行自定义修改和扩展

相关导航

DeepCTR-PyTorch开源项目 – 基于PyTorch的CTR模型库

DeepCTR-PyTorch是一个易于使用、模块化且可扩展的基于深度学习的点击率（CTR）模型库，专为PyTorch设计。它提供了简单易用的接口，支持多种深度学习CTR模型，并且其模块化设计允许用户灵活定制和扩展模型。通过利用PyTorch的高效计算能力，用户可以快速构建、训练和优化CTR模型，并将其集成到更大的机器学习流程中。

makeMoE开源项目 – 稀疏专家混合语言模型实现

makeMoE 是一个从头开始实现的稀疏专家混合语言模型，基于 PyTorch 框架，采用自回归字符级语言模型架构。该项目灵感来源于 Andrej Karpathy 的 makemore 项目，旨在通过稀疏专家混合架构实现高效的语言模型训练和推理。它涵盖了模型的基本组成、自注意力机制、专家网络、Top-k 路由、噪声 Top-k 路由等核心组件的代码实现，并提供了模型的初始化方法、训练循环以及文本生成示例。makeMoE 不仅适用于研究和学习稀疏专家混合语言模型的实现，还可作为自回归字符级语言模型的参考实现，适用于自然语言处理领域的实验和开发。

torchtitan开源项目 – PyTorch原生大规模模型训练库

torchtitan是一个基于PyTorch的大型语言模型（LLM）训练库，专注于简化大规模模型的训练过程。它支持多种并行技术，如FSDP2、Tensor Parallel、Pipeline Parallel和Context Parallel，并提供了详细的文档和调试工具。torchtitan旨在展示PyTorch最新的分布式训练特性，并适用于研究新的并行技术和探索分布式训练中的最佳实践。项目目前处于预发布状态，支持从头开始预训练Llama 3.1 LLM，并提供了丰富的功能模块和灵活的配置选项。

DeepCTR开源项目 – 深度学习点击率预测模型库

DeepCTR是一个易于使用、模块化且可扩展的深度学习点击率（CTR）模型库。它提供了简洁的接口，支持多种基于深度学习的CTR模型，并能够与TensorFlow和PyTorch等主流深度学习框架无缝集成。其模块化设计允许用户灵活定制模型，同时其可扩展架构支持新模型和功能的添加，适用于推荐系统中的点击率预测任务。

hl-gauss-pytorch开源项目 – 基于PyTorch的高斯直方图损失函数

hl-gauss-pytorch是一个基于PyTorch实现的高斯直方图损失函数（HL-Gauss），为回归任务提供了全新的视角，能够有效提升模型的性能。

YOLOAir开源项目 – YOLO检测算法组合工具箱

YOLOAir是一个基于PyTorch的YOLO检测算法组合工具箱，支持多种YOLO算法，包括YOLOv5、YOLOv7、Transformer、YOLOX、YOLOR等。该项目提供了改进的骨干网络、头部、损失函数、IoU、NMS等模块，并基于YOLOv5的原始版本进行扩展和优化。其模块化设计便于组合和定制网络结构，适用于目标检测任务的快速部署和测试。

OLMo-core开源项目 – OLMo语言模型核心构建模块

AI2开源的OLMo语言模型核心构建模块，基于PyTorch实现，提供了完整的模型训练和优化组件，支持多种规模模型(1B-13B)训练，包含flash attention、float8训练等高级特性

Apple Silicon Machine Learning Frameworks Installer – 为Apple Silicon配置机器学习环境

Apple Silicon开发环境配置指南，为开发者提供在Apple Silicon芯片上安装和配置PyTorch、TensorFlow和JAX的指导，助力在M1/M2芯片上高效运行机器学习框架

Text-Similarity开源项目 – 文本相似度计算工具

文本相似度（匹配）计算，提供Baseline、训练、推理、指标分析等功能，支持TensorFlow和Pytorch两个版本，适合不同需求的开发者使用。

爱丽丝在可微仙境的冒险-神经网络入门书籍，以爱丽丝探险为比喻

以爱丽丝漫游“可微分”仙境为比喻，向读者介绍神经网络领域的入门书，涵盖自动微分优化函数、序列、图、文本和音频处理的设计技术。

ChatGLM-LoRA-RLHF-PyTorch开源项目 – 基于LoRA和RLHF的ChatGLM微调

该项目提供了一个完整的管道，用于在消费级硬件上微调ChatGLM LLM，结合了LoRA（低秩适应）和RLHF（基于人类反馈的强化学习）技术，旨在提升ChatGLM的能力，使其类似于ChatGPT。

MLGB开源项目 – 深度点击率预估与推荐系统库

MLGB是一个包含50+点击率预估和推荐系统深度模型的、通过TensorFlow和PyTorch撰写的库，旨在提供高效的模型和工具，帮助开发者快速构建和优化推荐系统。

OpenLLaMA开源项目 – LLaMA模型的开源复现

OpenLLaMA是LLaMA模型的开源复现，基于RedPajama数据集进行训练，采用与LLaMA一致的预处理步骤、超参数设置、模型结构、上下文长度、训练步骤、学习率调度和优化器，旨在提供一个高效且可访问的语言模型。

CachedEmbedding开源项目 – 动态管理嵌入表内存

基于ColossalAI的软件缓存方法来动态管理CPU和GPU内存空间中的极大嵌入表，能够在单个GPU上高效训练包括91.10 GB嵌入表的DLRM模型，仅需分配3.75 GB的CUDA内存，适用于大规模数据集。

LeRobot开源项目 – 简化机器人技术的训练与应用

LeRobot 是一个端到端的训练框架，专注于真实世界的机器人技术，通过 PyTorch 提供模型、数据集和工具，旨在降低机器人技术的准入门槛，使研究者和开发者能够更轻松地开发和测试机器人应用。

暂无评论

暂无评论...