AI交流(进群备注:NBP)

NBP是一种通过半自回归建模实现视频生成的创新方法。它将生成单元从单个token升级为块(如行或帧),大幅提升生成效率。块内采用双向注意力机制,使token能够捕捉更强大的空间依赖性。此外,NBP通过并行预测多个token,推理速度提升了11倍。
NBP的特点:
- 1. 生成单元从单个token升级为块(如行或帧),大幅提升效率
- 2. 块内双向注意力机制,让token能捕捉更强大的空间依赖性
- 3. 并行预测多个token,推理速度提升11倍
NBP的功能:
- 1. 用于视频生成,提高生成效率
- 2. 应用于需要捕捉空间依赖性的场景
- 3. 在需要快速推理的视频生成任务中使用
相关导航

LLaMA-Factory开源项目 – 高效微调大语言模型的工具
LLaMA-Factory 是一个易于使用的 WebUI 框架,旨在高效微调 100 多种大语言模型(LLM)。它支持多种模型和训练方法,包括 LLaMA、Mistral、Qwen 等,并集成了多种微调方法如 LoRA、QLoRA、PPO、DPO 等。LLaMA-Factory 提供了高级算法如 GaLore、BAdam、DoRA、LongLoRA 等,以及实用技巧如 flashattention、RoPE 缩放等,以优化微调效果。此外,它还支持实验管理工具如 LlamaBoard、TensorBoard、Wandb,以及高效的推理接口如 Gradio UI 和 OpenAI 风格的 API。
暂无评论...