ModernBert是由Hugging Face、NVIDIA和Johns Hopkins University联合开发的新型编码器模型，旨在取代原始BERT模型。它显著提升了效率，支持长达8192个token的上下文处理，并提供基础版（149百万参数）和大型版（395百万参数）两个版本。ModernBert在分类、检索和问答任务中表现出色，特别适合处理复杂任务。
MOSS 是由复旦大学自然语言处理实验室开发的对话语言模型，类似于 ChatGPT，旨在帮助用户完成各种语言任务，如问答、文本生成等。该项目于 2023 年 2 月 20 日发布，目前处于研究预览阶段，免费提供，但访问受限，需通过问卷申请邀请码。MOSS 的设计理念包括有帮助、诚实和无害，计划完全开源，与 ChatGPT 相比参数较少，学习方式不同。
Consultation是由商汤科技开发的一个基于自然语言处理技术的大型语言模型，具备卓越的语言理解和生成能力。它能够即时解决复杂问题，提供定制化建议，并辅助用户创作高质量文本。该项目通过聊天界面与用户互动，支持多种功能，如文本生成、问答、总结和代码生成，适用于多种应用场景。
百川大模型是由百川智能开发的一系列大型多语言模型，训练数据超过2.6万亿个标记，涵盖中文和英文。它在多个基准测试中表现出色，如MMLU、CMMLU、GSM8K和HumanEval，并在医学和法律等垂直领域有卓越表现。模型包括7亿和13亿参数的版本，支持多语言处理，上下文窗口可处理约35万中文字符。百川大模型是开源的，允许商业使用需通过电子邮件申请官方许可。
OpenAI于2024-08-06推出的API structured outputs功能，旨在提升API的可靠性，确保模型生成的输出与开发者提供的JSON schema完全匹配。该功能特别适用于需要精确数据格式的应用场景，如数据输入、信息检索、问答系统和多步工作流。在复杂JSON schema的评估中，新模型取得了100%的得分，显著优于之前的gpt-4-0613模型（得分不到40%）。该功能通过设置"strict: true"启用，适用于Chat Completions API和Assistants API。
OLMo是一个由科学家设计的开源语言模型仓库，旨在训练和使用AI2最先进的开放语言模型。它采用两阶段训练程序，第一阶段在大约4T令牌的网络语料库上训练，第二阶段在约50-100B令牌的高质量目标语料库上微调。OLMo已用于各种自然语言处理任务，包括文本生成、问答和翻译。
DistilBERT是一款基于BERT的轻量级Transformer模型，通过蒸馏技术显著减少了模型的大小和计算复杂度，同时保持了高性能。它特别适用于资源有限的环境，如移动设备或嵌入式系统，能够在文本分类、命名实体识别和问答系统等任务中表现出色。
ERNIE是一个基于BERT的句子分类工具，集成了HuggingFace的Transformers库，支持多种BERT模型进行句子分类。它提供了用户友好的API，便于快速实现，并且可以针对不同的分类任务进行定制。
ERNIE是百度发布的知识增强的预训练模型，旨在提升中文自然语言处理（NLP）任务的性能，超越BERT等现有模型。它结合了大规模的知识图谱数据，增强了模型的理解能力，在各项中文NLP任务中表现优异，支持多种自然语言处理任务。
TinyR1-32B-Preview 是 DeepSeek-R1-Distill-Qwen-32B 的再次蒸馏版本，属于 Qwen 系列模型。该模型在保持较高性能的同时，通过轻量化设计，使其特别适合资源有限的环境。它适用于多种自然语言处理任务，如文本生成、问答系统、对话系统和自然语言理解等。
PALBERT是一个旨在提升ALBERT模型推理能力的项目。通过改进ALBERT的思考方式，PALBERT增强了模型在处理复杂问题时的推理能力，使其在自然语言处理任务中表现更加出色。
本项目为开发者提供从基础到高级的RAG（检索增强生成）应用实现指南。通过多个Jupyter Notebook，项目详细介绍了RAG的架构搭建、多查询技术、自定义路由与查询构建、高级检索与重排等内容。开发者可以逐步学习RAG的核心概念，并实践从简单到复杂的实现过程。
TESS-2是一款大规模通用扩散语言模型，为自然语言处理任务带来全新视角。它基于创新的扩散模型架构，旨在提升模型的通用性和适应性，支持多种语言任务，如问答、文本生成等。同时，TESS-2提供完整的训练和推理脚本，使得用户可以轻松复现和扩展模型。
用Langchain, ColBERT, Ragatouille 和 ChromaDB构建高级 RAG 系统，有效地提取 Mixtral 8x7B 生成高质量答案所需的所有相关上下文。该系统整合了多种先进技术，能够高效处理信息并生成准确的答案，适合多种应用场景。
KitchenAI提供了一种无缝的方式，将AI代码转化为生产就绪的API，旨在为AI开发者和应用开发者提供便利。用户只需将其AI技术与KitchenAI的API集成，即可轻松创建、测试和部署。
Pebble AI是一个智能伴侣，旨在通过主动阅读、观看和记忆来提高学习效率。它提供嵌入式问题、网络高亮和笔记、文档问答、观看YouTube视频时的问题、间隔重复的AI测验以及AI维基百科等功能，帮助用户更好地吸收信息并加深记忆。
《自然语言处理：基于预训练模型的方法》随书代码，提供多种基于预训练模型的自然语言处理方法，支持文本分类、命名实体识别、问答等任务，包含详细的使用示例和文档，易于扩展和集成到其他项目中。
一个开源免费的 GPT 模型提示集合项目，包含多种用于 GPT 任务的提示，适合进行创意探索或对话/文本灵感的获取，能够提高 GPT 的使用效率和实验效果。
出门问问提供的超大规模语言模型，基于其通用的表示与推理能力，支持多轮交互，能够大幅度提高生产效率和数据处理能力，被广泛应用于问答系统、自然语言处理、机器翻译、文本摘要等领域
LangChain是一个用于构建基于大型语言模型（LLM）应用的框架，它简化了复杂任务的实现，并支持多种集成和扩展。
Frame Semantic Transformer是一个基于T5模型的框架语义解析器，利用FrameNet进行深度语义分析，支持多种自然语言处理任务，具备灵活的模型训练和微调能力，能够高效地进行推理。
ReaderLM-v2是一款增强文本理解能力的语言模型，支持多种语言，能够快速响应并高效提取信息。
长颈鹿版LongLLaMA是一个专门针对上下文长度达到100K的情况下，保持模型性能的研究项目。它提出了一种新的训练目标，以有效处理长文本中的相关与无关的key-value空间结构，从而解决模型的分心问题，确保在处理超长文本时的高效性和准确性。
Hugging Face Transformers 是一个广泛使用的开源NLP框架，专注于大规模预训练语言模型的实现与部署。它支持BERT、GPT-3、T5等数百种顶级模型，涵盖文本分类、情感分析、命名实体识别等多种NLP任务，并支持多模态任务。该库提供简洁的API接口，便于快速加载、微调和优化模型，适用于学术研究与工业应用，社区驱动更新迅速，是自然语言处理领域的重要工具。
TigerBot 是一个基于 BLOOM 的多语言多任务大规模语言模型（LLM），在模型架构和算法上进行了多项优化，旨在提供高效的自然语言处理能力，支持多种语言和任务，具有强大的可扩展性。
BMTools是面壁智能开发的一个大模型工具学习平台，专注于问答系统的构建和训练，填补了国产大模型在该领域的空白，支持多种中文应用。
由百川智能开发的一个开源可商用的大规模预训练语言模型，支持中英双语，基于Transformer结构，训练于约1.2万亿tokens，具有70亿参数，提供4096的上下文窗口长度，在标准的中文和英文权威benchmark（C-EVAL/MMLU）上均取得同尺寸最好的效果。
基于MindSpore的易于使用和高性能的自然语言处理(NLP)和语言模型(LLM)框架，与Huggingface的模型和数据集兼容，支持多种NLP任务。
transformers_zamba2是一个为自然语言处理打造的先进工具库，提供数千个预训练模型，支持文本分类、问答、翻译等多种语言任务，让NLP技术更易用。该库不仅可以处理文本数据，还支持视觉和音频模态，适用于多种应用场景。
轩辕模型是一种开源的自然语言处理模型，旨在提供高效的文本生成和理解能力，支持多种语言，并可定制化模型参数，适用于多种文本处理任务。
