Warning: Undefined variable $main_title in /www/wwwroot/msbd/wp-content/themes/onenav/sidebar-sitestop.php on line 26
AI交流(进群备注:)

Phi-3.5-mini-instruct (128k) 是微软于2024年8月发布的轻量级语言模型,属于Phi-3系列。该模型专注于指令生成任务,具有3.8亿参数,支持128K超长上下文,训练数据达3.4T tokens。采用密集解码器-only Transformer架构,在512张H100-80G GPU上训练10天完成。支持22种语言,在推理任务上表现接近GPT-4水平,特别适合资源受限或延迟敏感的应用场景,如移动端部署和边缘计算。
Phi-3.5-mini-instruct (128k)的特点:
- 1. 3.8亿参数轻量级设计
- 2. 支持128K超长上下文处理
- 3. 多语言支持(22种语言)
- 4. 训练数据规模达3.4T tokens
- 5. 推理性能接近GPT-4水平
- 6. 优化移动端和边缘计算部署
- 7. 支持闪光注意力加速
- 8. 密集解码器-only Transformer架构
Phi-3.5-mini-instruct (128k)的功能:
- 1. 长文档摘要(报告/会议记录)
- 2. 会议内容结构化摘要
- 3. 长文档问答系统(法律/学术文档)
- 4. 多语言信息检索
- 5. 移动端智能助手
- 6. 边缘计算实时响应场景
- 7. 教育领域推理任务
- 8. 多语言客服系统
相关导航
暂无评论...