GPU内核生成能力评估工具

KernelBench 是一个专注于使用大模型生成高效GPU内核的项目，旨在通过编写自定义内核来替代PyTorch中的标准实现，并评估其正确性和性能提升。该项目包含250个神经网络任务，涵盖基础Kernel操作、简单的fusion pattern和完整的神经网络结构。同时，KernelBench 还提供四个级别的测试类别，包括单内核运算符、简单融合模式、完整模型架构和HuggingFace模型优化，以测试LLM将PyTorch算子转译为CUDA内核的能力，并评估生成代码的编译、正确性和性能。

UHGEval是一个用于无约束生成对中文大型语言模型的幻觉产生进行基准测试的工具，旨在帮助研究人员和开发者评估和分析模型的输出效果。

一套用于在Google Cloud Vertex AI和Google Kubernetes Engine上训练和部署模型的Docker镜像

一个用于促进和支持链式思考的工具库，旨在提高模型推理能力和理解力。

Kokoro 82M 是一个高质量的 TTS 模型，能够生成极高音频质量的语音，同时模型大小不到 300M，便于部署和使用。该模型在 T4 上能够快速生成语音，并支持通过架构训练其他语言，且只需不到 100 小时的音频数据进行训练。

FasterTransformer是一个高度优化的基于Transformer的编码器和解码器组件，提供高效的推理和训练性能，支持多种Transformer模型，并兼容多种深度学习框架，灵活配置以满足不同需求。