AI交流(进群备注:ChatGLM-6B)

ChatGLM-6B是清华大学开发的一个开源双语对话语言模型,基于General Language Model (GLM)架构,具有62亿参数。它支持中英双语对话,并具备图像理解的多模态功能。模型经过约1T标识符的中英双语训练,辅以监督微调、反馈自助、人类反馈强化学习等技术,旨在提供高质量的对话生成和自然语言处理能力。结合模型量化技术,可在消费级显卡上本地部署(INT4量化级别下最低只需6GB显存),并针对中文问答和对话进行了优化。
ChatGLM-6B的特点:
- 1. 开源且支持中英双语对话
- 2. 基于General Language Model (GLM)架构
- 3. 具有62亿参数
- 4. 支持图像理解的多模态功能
- 5. 结合模型量化技术,可在消费级显卡上本地部署
- 6. 针对中文问答和对话进行了优化
- 7. 经过约1T标识符的中英双语训练
- 8. 辅以监督微调、反馈自助、人类反馈强化学习等技术
ChatGLM-6B的功能:
- 1. 在消费级显卡上进行本地部署
- 2. 用于中文问答和对话
- 3. 生成符合人类偏好的回答
- 4. 支持中英双语对话场景
- 5. 适用于需要自然语言处理的应用
- 6. 通过 cli_demo_vision.py 运行命令行 Demo
- 7. 通过 web_demo_vision.py 运行网页 Demo
- 8. 需要额外安装 SwissArmyTransformer 和 torchvision
相关导航
暂无评论...