自然语言处理

dottxt-ai/prompts 是一个专门用于生成和管理提示（prompts）的库，使用 Jinja 模板来渲染提示，并且支持大型语言模型和提示工程。它提供灵活的提示管理功能，使得用户能够方便地创建和定制用于自然语言处理的提示。

MiniMax-01 是一个开源项目，包含基础语言模型 MiniMax-Text-01 和视觉多模态模型 MiniMax-VL-01。它支持超长上下文处理，适合AI Agent领域和各种需要处理大量信息的场景。该模型采用混合架构，结合Lightning Attention、Softmax Attention和专家混合（MoE），能在推理时处理长达400万token的上下文，并在多个学术基准测试中表现出色。此外，它还支持文本/图像/3D模型联合生成，实现在游戏资产创作场景中的风格一致性控制，生成速度比Stable Diffusion快3倍。

FuseLLM 是一个旨在通过融合多种大型语言模型的知识，以提高推理能力的项目。该项目能够结合不同模型的优点，扩展知识的边界，适用于多种自然语言处理任务，提供更强大的模型性能。

TUMCC是一个用于识别Telegram地下市场中中文术语的语料库，旨在帮助研究者分析在线非法活动的语言特征。该语料库包含对各种术语及其含义的注释，并利用上下文和语言特征提高识别能力。

最近的语言大模型（LLM）如 ChatGPT 和 GPT-4 展现出了通用模型的卓越能力，在各种自然语言处理任务上取得了最先进的性能，几乎无需或只需少量调整即可。

包含了从计算机视觉、自然语言处理到生物计算、气象预测等各个领域的模型，这些模型结合了幻方萤火超算集群的特点，使用并行训练、高效算子、高性能存储等方式，大幅提升原有模型的性能，节省训练时间。

TinyLLaMA是一个专为轻量语言模型设计的开源框架，为开发者提供在资源受限环境下构建高效模型的工具。

BatGPT是由上海交通大学与武汉大学联合自然语言处理团队设计的系列大型语言模型，具有150亿参数，通过高质量的中英文语料进行双向自回归预训练，并经过指令微调与强化对齐的学习，展现出优秀的指令遵循能力、多轮对话能力和推理能力。

由TII（Technology Innovation Institute）构建的一个40B参数的因果解码器模型，训练在精选语料库增强的1000B tokens的RefinedWeb上。

《TensorFlow in Action》教你使用TensorFlow 2构建、训练和部署深度学习模型，涵盖从DL基础知识到NLP、图像处理和MLOps的高级应用。

由DAIR.AI分享关于机器学习、自然语言处理和人工智能的所有相关主题的课程笔记，涵盖广泛，适合学习和参考。

LISA是一个将语言大模型（LLM）与其他视觉模型（如SAM）结合的分割助手，旨在根据复杂和隐含的查询文本输出分割掩码。

MorphTE项目旨在通过在张量嵌入中注入形态学知识，增强自然语言处理任务的效果。它与Fairseq框架集成，提供了对嵌入的形态学意识，帮助提升变换模型的性能。

llmflows是一个用于构建和管理大语言模型工作流程的框架，旨在简化复杂任务的处理和优化。它支持多种语言模型的集成，提供可重用的组件，便于与外部API交互，同时配备可视化工具，帮助用户调试和监控工作流程。

MiniRBT (中文小型预训练模型) 是由iFLYTEK开发的一个小型中文预训练模型，旨在提供高效的自然语言处理能力。

这是一个针对高效大语言模型的精心策划的资源列表，涵盖相关研究论文和技术，定期更新以保持信息的时效性，并对资源进行分类，方便用户浏览。包括理论论文和实践实现，旨在为研究人员和开发者提供有价值的参考。

这是一本关于在自然语言处理任务中使用大型语言模型(LLMs)的全面指南，提供有关模型、数据和下游任务的深入见解。

XGrammar是一个开源的结构化生成库，支持通用的上下文无关文法进行广泛的结构化生成，提供经过系统优化的快速执行能力。

Semantic Cache是一个基于语义相似性的模糊键值存储，适用于需要根据语义查询或检索信息的场景，例如自然语言分类或缓存AI响应。

长颈鹿版LongLLaMA是一个专门针对上下文长度达到100K的情况下，保持模型性能的研究项目。它提出了一种新的训练目标，以有效处理长文本中的相关与无关的key-value空间结构，从而解决模型的分心问题，确保在处理超长文本时的高效性和准确性。

本课程将教你使用 Hugging Face 生态系统中的库进行自然语言处理 (NLP)。课程涵盖了使用 Transformer 进行文本处理、数据集训练模型、文本分词及提高计算效率等多方面内容。

研究论文展示了大型语言模型如何有效地帮助诊断认知行为疗法（CBT）中的扭曲思维，结合自然语言处理技术，为心理健康提供支持。

VisualGLM-6B 是一个开源的，支持图像、中文和英文的多模态对话语言模型，基于 ChatGLM-6B，具有 62 亿参数，整体模型共78亿参数。该模型可以在消费级显卡上本地部署，适用于多种视觉任务，具备生成诗歌、评论图像的能力，并且支持低显存需求的量化技术。

《动手学大模型》是一本开源书籍，共12章节，涵盖从基础到高级的大语言模型内容，包括语言模型介绍、文本分类、提示词工程、语义搜索、微调模型、多模态模型等。书中包含大量代码示例，可直接在Colab运行，帮助读者更好地理解和应用大语言模型。此外，书中还提供了丰富的实践代码，旨在帮助读者掌握大型语言模型的使用和应用，适合初学者和有经验的开发者。

基于Triton语言实现的Flash Attention, 采用OpenAI团队发布的Fused Attention代码，优化了注意力机制，适用于大规模数据处理，支持快速训练和推理，兼容多种深度学习框架。

该项目提供了现代深度学习技术在自然语言处理中的应用，包括多种模型和算法，结合实用代码示例，适用于多种NLP任务，文档易于理解，同时持续更新最新研究成果。

transformers-ruby是为Ruby语言提供最新的Transformers技术的库，支持多种模型架构，适用于各种自然语言处理任务，并提供丰富的功能，能够与Ruby语言无缝集成。

一个基于Daizhige文本训练的语言模型，专注于汉字书写和语法的生成与分析，能够处理多种汉字书写形式并具备上下文理解能力。

一个免费的GPT 3.5模型API服务，支持多种授权方式，简化了API接口的调用和部署过程。该服务旨在为开发者提供便捷的文本生成和处理能力，无论是在创作、编辑还是其他自然语言处理任务中，都能高效地满足需求。

该项目提供了一个关于对比学习在自然语言处理领域最新研究论文的全面列表，包括论文链接和引用信息，涵盖多种NLP任务的对比学习方法，并定期更新以反映最新的研究进展。