所有AI工具AI开发框架AI开源项目

llm-export开源项目 – llm模型导出工具

llm-export是一款能够将llm模型导出为onnx和mnn格式的工具,支持多种llm模型架构,提供简单易用的命令行接口,方便用户进行模型推理和移动设备部署。

标签:

AI交流(进群备注:llm-export)

llm-export是一款能够将llm模型导出为onnx和mnn格式的工具,支持多种llm模型架构,提供简单易用的命令行接口,方便用户进行模型推理和移动设备部署。

llm-export的特点:

  • 1. 支持将llm模型导出为onnx格式
  • 2. 支持将llm模型导出为mnn格式
  • 3. 兼容多种llm模型架构
  • 4. 提供简单易用的命令行接口

llm-export的功能:

  • 1. 使用命令行工具导出指定的llm模型
  • 2. 将导出的onnx模型用于推理
  • 3. 将导出的mnn模型部署到移动设备

相关导航

暂无评论

暂无评论...