Mystic Turbo Registry 是我们定制的 Docker 注册表和 containerd 适配器,能够将机器学习模型加载速度提高至 11.4 倍,冷启动时间减少多达 90%。
GPU Finder是一个网站,帮助客户发现来自全球公共云提供商的可用GPU实例。它提供了不同云提供商提供的各种GPU、GPU服务器和GPU计算平台的信息。
C-Shopping是一个基于Next.js开发的精美购物平台,支持Desktop、Tablet、Phone等多种设备。它采用Tailwind CSS实现美观的用户界面,并集成了Headless UI以提供无障碍功能,使用MongoDB进行高效的数据存储,结合Redux Toolkit和RTK Query进行状态管理,同时实现了JWT认证以保障安全性,使用Docker进行容器化部署。
FlexGen: 针对面向吞吐量的场景在单个 GPU 上运行大型语言模型,旨在提高模型的运行效率和简化部署过程。
一个开源免费的跨平台 ChatGPT/Gemini 应用,通过一键部署轻松拥有自己的 ChatGPT 网页应用,支持多种 GPT 模型。
sherpa-ncnn 是一个使用下一代 Kaldi 和 ncnn 构建的实时语音识别系统,支持多种语言和方言,具备低延迟性能,适合各种实时应用场景。它提供灵活的模型部署选项,并兼容 Kaldi 的最新技术,能够满足开发者的多样化需求。
Kro是一个Kubernetes资源编排器,像给Kubernetes资源搭建了一个‘积木系统’,让用户能轻松定义和管理复杂的资源组合,简化了Kubernetes应用构建过程。