所有AI工具AI对话工具AI开发框架AI提示工具

Phi-3.5-mini-instruct (128k)模型 – 轻量级高效指令生成模型

Phi-3.5-mini-instruct (128k) 是微软于2024年8月发布的轻量级语言模型,属于Phi-3系列。该模型专注于指令生成任务,具有3.8亿参数,支持128K超长上下文,训练数据达3.4T tokens。...

标签:

Warning: Undefined variable $main_title in /www/wwwroot/msbd/wp-content/themes/onenav/sidebar-sitestop.php on line 26

AI交流(进群备注:)

Phi-3.5-mini-instruct (128k) 是微软于2024年8月发布的轻量级语言模型,属于Phi-3系列。该模型专注于指令生成任务,具有3.8亿参数,支持128K超长上下文,训练数据达3.4T tokens。采用密集解码器-only Transformer架构,在512张H100-80G GPU上训练10天完成。支持22种语言,在推理任务上表现接近GPT-4水平,特别适合资源受限或延迟敏感的应用场景,如移动端部署和边缘计算。

Phi-3.5-mini-instruct (128k)的特点:

  • 1. 3.8亿参数轻量级设计
  • 2. 支持128K超长上下文处理
  • 3. 多语言支持(22种语言)
  • 4. 训练数据规模达3.4T tokens
  • 5. 推理性能接近GPT-4水平
  • 6. 优化移动端和边缘计算部署
  • 7. 支持闪光注意力加速
  • 8. 密集解码器-only Transformer架构

Phi-3.5-mini-instruct (128k)的功能:

  • 1. 长文档摘要(报告/会议记录)
  • 2. 会议内容结构化摘要
  • 3. 长文档问答系统(法律/学术文档)
  • 4. 多语言信息检索
  • 5. 移动端智能助手
  • 6. 边缘计算实时响应场景
  • 7. 教育领域推理任务
  • 8. 多语言客服系统

相关导航

暂无评论

暂无评论...