AI交流(进群备注:Transformers Notebooks)

Transformers Notebooks是一组用于自然语言处理的Jupyter笔记本,旨在帮助用户快速上手使用Transformers库,提供丰富的示例和教程,涵盖文本分类、问答、翻译等多种任务,同时支持快速实验和模型评估。
Transformers Notebooks的特点:
1. 提供多个示例和教程,展示如何使用Transformers库
2. 涵盖多种自然语言处理任务,如文本分类、问答、翻译等
3. 支持使用预训练模型进行快速实验
4. 集成了数据预处理和模型评估的工具
Transformers Notebooks的功能:
1. 通过Jupyter Notebook运行示例代码
2. 根据特定任务修改示例以适应自己的数据
3. 使用预训练模型进行迁移学习
4. 可视化模型性能和结果
相关导航

Intel Extension for Transformers
Intel Extension for Transformers 是一个开源项目,旨在使客户端 CPU 上的大型语言模型(LLM)微调成为可能,特别是在没有 GPU 的情况下。它支持在 CPU 上进行 QLoRA 微调,适用于笔记本电脑环境,并通过优化的性能提升模型训练效率。该项目与 HuggingFace Transformers 兼容,支持 4 位推理,并利用 Intel 神经压缩器提供丰富的模型压缩技术,如量化、剪枝和蒸馏,显著提高了英特尔平台上的推理效率。此外,它还支持自动化的仅限权重的 INT4 量化流程,兼容多个流行的大语言模型,如 Llama2、Llama 和 GPT-NeoX。
暂无评论...