动态执行

Dynasor 是一个基于 vLLM 的扩展，旨在通过动态执行和提前停止技术，显著加速大型语言模型（LLM）的推理过程，而无需进行额外的训练或微调。它提供了 CLI 界面和 OpenAI 兼容服务器，使用灵活，适用于多种推理场景。

AI-magic收录了大量国内外AI工具箱，包括AI写作、图像、视频、音频、编程等各类AI工具，以及常用的AI学习、技术、和模型等信息，让你轻松加入人工智能浪潮。