Ascend芯片支持

vllm-ascend是一个开源插件，旨在让大模型在Ascend芯片上高效运行，支持多种主流大模型架构如Transformer和MoE。该项目不断优化性能，显著提升推理速度，并由社区持续维护与改进。

AI-magic收录了大量国内外AI工具箱，包括AI写作、图像、视频、音频、编程等各类AI工具，以及常用的AI学习、技术、和模型等信息，让你轻松加入人工智能浪潮。