PocketFlow是一个自动模型压缩(AutoMC)框架,旨在开发更小、更快的AI应用。它支持多种压缩技术,如剪枝、量化和蒸馏,并集成了TensorFlow和PyTorch等流行的深度学习框架。该框架能够在边缘设备上高效部署,并允许根据不同用例定制压缩策略。
字节跳动提供 DeepSeek R1、OpenAI o1、GPT-4o、Claude 3.5 和 Gemini 1.5等领先大模型