AI-magic AI-magic

FP8训练

diffusers-torchao开源项目 – 优化扩散模型的端到端方案
diffusers-torchao开源项目 – 优化扩散模型的端到端方案

利用torchao和diffusers优化扩散模型的端到端方案，支持推理和FP8训练，旨在提升模型的性能和效率。
AiInfer开源项目 – 高效的C++ AI推理库
AiInfer开源项目 – 高效的C++ AI推理库

AiInfer是一个C++版的AI推理库，目前专门支持TensorRT模型的推理，旨在提供高性能和易用性。
LLM Distillation Playbook开源项目 – 大型语言模型蒸馏最佳实践指南
LLM Distillation Playbook开源项目 – 大型语言模型蒸馏最佳实践指南

关于如何有效蒸馏大型语言模型的最佳实践实用指南，提供了一系列的最佳实践，帮助工程师和机器学习从业者在生产应用中更高效地蒸馏和使用语言模型。
stable-diffusion-nvidia-docker开源项目 – 支持GPU的Stable Diffusion模型
stable-diffusion-nvidia-docker开源项目 – 支持GPU的Stable Diffusion模型

支持GPU的 Dockerfile，用于运行Stability.AI具有简单 Web界面的stable-diffusion模型，包括多GPU支持。该项目提供了一个易于部署的解决方案，使用户能够利用Docker快速构建和运行稳定扩散模型，并通过Web界面进行方便的访问和交互。
EETQ开源项目 – 量化工具，优化transformer模型推理
EETQ开源项目 – 量化工具，优化transformer模型推理

EETQ是针对transformer模型的量化工具，使用Flash-Attention V2优化attention的推理性能，简单易用，只需一行代码即可适配您的PyTorch模型。
OneDiff开源项目 – 加速扩散模型的免训练工具
OneDiff开源项目 – 加速扩散模型的免训练工具

OneDiff是一个用于加速扩散模型的工具，提供了一种新的免训练、几乎无损的范式，显著提升模型的迭代速度。
diffusion-speedrun开源项目 – 极简图像处理与模型训练工具
diffusion-speedrun开源项目 – 极简图像处理与模型训练工具

一个极简的图像处理和GPT/Diffusion模型训练工具，专注于快速实验和简洁操作，提供从初始化到图像生成的高效路径
Monica图标

通过字节跳动免费使用满血可联网DeepSeek R1

现在注册，立即送145元代金券

字节跳动提供 DeepSeek R1、OpenAI o1、GPT-4o、Claude 3.5 和 Gemini 1.5等领先大模型

马上试试
AI-magic收录了大量国内外AI工具箱，包括AI写作、图像、视频、音频、编程等各类AI工具，以及常用的AI学习、技术、和模型等信息，让你轻松加入人工智能浪潮。
Copyright © 2025 AI-magic 浙ICP备19008543号-3