AI交流(进群备注:llm-export)

llm-export是一款能够将llm模型导出为onnx和mnn格式的工具,支持多种llm模型架构,提供简单易用的命令行接口,方便用户进行模型推理和移动设备部署。
llm-export的特点:
- 1. 支持将llm模型导出为onnx格式
- 2. 支持将llm模型导出为mnn格式
- 3. 兼容多种llm模型架构
- 4. 提供简单易用的命令行接口
llm-export的功能:
- 1. 使用命令行工具导出指定的llm模型
- 2. 将导出的onnx模型用于推理
- 3. 将导出的mnn模型部署到移动设备
相关导航
暂无评论...