标签:Whisper

KubeAI:Kubernetes上的私有开源AI平台,释放大模型潜能

KubeAI是一个在Kubernetes上运行的私有开源人工智能平台,支持多种机器学习模型如LLM和Whisper,提供与OpenAI API兼容的接口。通过Prefix缓存和高级负载均衡...