LLM Book开源项目 – 一本讲解大模型的实用电子书

一本实用的电子书，讲解大模型的基本理论、预训练、微调与对齐、大模型使用及评测与应用等内容。

LLM Book的特点:

1. 基础理论讲解：涵盖大模型的基本架构和技术。
2. 预训练详细介绍：包括数据处理和模型架构设计。
3. 微调与对齐技术：根据具体需求调整模型，优化性能。
4. 实际环境部署：说明模型在实际环境中的使用和提示学习策略。
5. 评测与应用案例：探讨如何评估模型效果及其在不同领域的应用。

LLM Book的功能:

1. 阅读基础理论部分以了解大模型的基本概念。
2. 按照预训练部分的指导进行模型数据处理和架构设计。
3. 根据微调与对齐部分的内容，优化模型性能以满足特定需求。
4. 参考大模型使用部分，部署模型到实际环境中。
5. 使用评测与应用部分的方法评估模型效果，并探索其应用场景。

相关导航

MiniMind-V开源项目 – 极简视觉语言模型实现

MiniMind-V是MiniMind纯语言模型的视觉能力拓展，包含VLM大模型的极简结构、数据集清洗、预训练(Pretrain)、监督微调(SFT)等全过程代码。它是开源VLM模型的最小实现，也是入门视觉语言模型的简明教程。

sherpa-ncnn开源项目 – 基于ncnn的高效实时语音识别

sherpa-ncnn 是一个使用下一代 Kaldi 和 ncnn 构建的实时语音识别系统，支持多种语言和方言，具备低延迟性能，适合各种实时应用场景。它提供灵活的模型部署选项，并兼容 Kaldi 的最新技术，能够满足开发者的多样化需求。

Xorbits Inference开源项目 – 强大的分布式推理框架

Xorbits Inference（Xinference）是一个功能全面的分布式推理框架，支持大语言模型（LLM）、语音识别模型、多模态模型等各种模型的推理。它适用于研究者、开发者和数据科学家，支持一键部署自定义模型或内置开源模型，可在笔记本电脑、千节点集群及边缘设备上运行。

Awesome-Robotics-3D开源项目 – 机器人领域3D视觉论文合集

一份精心收集机器人领域相关的3D视觉论文合集，包括政策学习、预训练、VLM和LLM、数据集和基准等相关论文、代码和相关网站。

Envole官网 – 协作的AI驱动的端到端ML平台

Envole是一个协作式的、基于AI的端到端机器学习平台，专注于数据管理和模型部署，旨在简化和优化整个机器学习流程。

Hugging Face Deep Learning Containers for Google Cloud开源项目 – 用于Google Cloud的深度学习容器

一套用于在Google Cloud Vertex AI和Google Kubernetes Engine上训练和部署模型的Docker镜像

从零到精通深度学习 PyTorch开源项目 – 一份系统的 PyTorch 在线教程

分享 GitHub 上一份开源免费的在线教程，涵盖了 PyTorch 基础知识、神经网络、计算机视觉、自定义数据集处理、模块化代码编写以及模型部署等内容。

Datature官网 – 无代码构建计算机视觉应用

Datature是一个完整的AI视觉平台，允许团队和企业在不编写任何代码的情况下构建计算机视觉应用。它提供数据集管理、标注、训练和部署等多种功能，旨在简化整个计算机视觉开发流程。用户只需注册并登录到平台，即可管理数据集、标注图像或视频、使用自动化工作流程训练计算机视觉模型，并将模型部署到生产环境中。

Lit-GPT开源项目 – 可定制的开源大型语言模型实现

Lit-GPT是一个基于nanoGPT的开源大型语言模型的可定制实现，支持多种先进技术，如Flash Attention 2、4-bit和8-bit量化、LoRA和LLaMA-Adapter微调以及预训练。该项目采用Apache 2.0许可证，支持Llama2、Mistral和Mixtral等模型，旨在提供灵活且高效的模型定制和优化方案。

LLaMA2-Accessory开源项目 – 开源工具包，用于大语言模型的处理

一个开源工具包，用于预训练、微调和部署大型语言模型(LLMs)和多模态大语言模型。该工具包基于LLaMA-Adapter，提供更高级的功能，支持社区贡献与扩展。

PeriFlow官网 – 高效的生成式AI模型服务引擎

PeriFlow是一个创新的生成式AI模型服务引擎，支持大型语言模型（LLM）。它以低成本实现了70~90%的GPU节省，同时提供两种部署选项：PeriFlow容器和PeriFlow云。

pytorch/ort开源项目 – 加速PyTorch模型的推理

pytorch/ort是一个旨在使用ONNX Runtime加速PyTorch模型推理的工具，支持将PyTorch模型转换为ONNX格式，利用ONNX Runtime提升推理性能，并兼容多种硬件后端。该项目还支持动态计算图，简化模型部署流程，让用户能够更轻松地在不同平台上运行优化后的模型。

Dolomite Engine开源项目 – 超优化的大型语言模型训练库

Dolomite Engine是一款用于预训练和微调大型语言模型的超优化库，集成了多项关键创新，包括模型架构、微调方法和系统优化。它旨在提高大型语言模型的训练效率和效果，支持多种模型架构，优化微调过程，并提供系统性能的显著提升。

Cube Studio开源项目 – 一站式AI开发平台

一站式AI开发平台，支持机器学习、深度学习和大模型开发。它提供从数据管理到模型部署的全流程支持，涵盖在线开发、分布式训练、推理服务等功能，帮助企业和开发者高效构建AI应用。

DEIM开源项目 – 改进DETR匹配机制，加速收敛

DEIM 是一个先进的训练框架，旨在增强 DETR（Detection Transformer）中的匹配机制，从而实现更快的收敛速度和更高的检测精度。该项目为实时目标检测领域的研究和应用提供了坚实的基础，并已在 CVPR 2025 上发表。DEIM 提供了多种预训练模型，包括 DEIM-D-FINE 和 DEIM-RT-DETRv2，适用于不同的计算资源和性能需求。

暂无评论

暂无评论...