高效解码任务

FlashMLA是一个为Hopper GPU优化的高效解码内核，支持BF16和FP16数据类型，性能高达3000 GB/s（内存绑定）和580 TFLOPS（计算绑定）在H800 SXM5上，适合变长序列服务。

AI-magic收录了大量国内外AI工具箱，包括AI写作、图像、视频、音频、编程等各类AI工具，以及常用的AI学习、技术、和模型等信息，让你轻松加入人工智能浪潮。