F5_TTS_Faster开源 – 加速F5-TTS推理的工具
F5_TTS_Faster 是一个专为加速 F5-TTS 推理设计的工具,通过使用 ONNX 和 Tensorrt-LLM 技术,将推理时间从 3.2 秒减少到 0.72 秒,支持 NVIDIA Geforce RTX 3090。该项目提供了详细的安装和使用指南,支持 Windows 操作系统,兼容 Intel/AMD/Nvidia GPU,并提供了多种设备选项和优化技术,如 OpenVINO 和 TensorRT,以提升性能。此外,项目还提供了简单的 GUI 版本,方便用户操作。