Reasoning-Self-Evolution-Survey – 大模型推理能力深度调研

GradientJ旨在使NLP应用更易获取，提供创建、微调和管理NLP应用的综合解决方案，充分利用大语言模型的能力。

一个用于搭建类似Perplexity的问答引擎的项目，结合了多种先进的技术和模型。

LangChain Go 是 Go 语言实现的 LangChain，旨在简化 Go 语言中使用大语言模型（LLM）的开发。它提供了直观的 API，支持与多种 LLM 服务（如 OpenAI、Anthropic 和 Gemini）进行交互，并提供了高级功能，如提示工程和响应处理。开发者可以通过简单的 API 调用实现文本生成、翻译、摘要和代码生成等功能。

Pocket LLM是一个平台，旨在使复杂的大语言模型和其他先进的人工智能技术对所有人都可访问。它提供定制化、私密的人工智能解决方案，这些解决方案在普通硬件上训练，具有超低延迟推理，消除了对GPU、TPU或定制ASIC的需求。用户可以在没有高级配置或GPU的情况下，仅使用CPU构建和部署数十亿参数的模型。

PAI-RAG是一个基于大语言模型和多向量数据库的知识库问答系统，提供灵活定制的高效信息检索功能，适用于各种自然语言处理任务，具有良好的扩展性。

Nanbeige-16B（南北阁-16B）是南北阁大模型实验室研发的160亿参数规模的大语言模型，采用了2.5T Tokens进行预训练，数据包含大量互联网高质量语料、各类书籍、代码等领域脱敏文本，在各个权威测评数据集上都取得了不错的效果。本次发布包含有 Base、Chat 以及扩展上下文长度的 Base-32k、Chat-32k 版本。

Alibaba LangEngine 是一个基于 Java 的 AI 应用开发框架，旨在赋予大语言模型（LLM）数据感知和Agent能力，支持多种应用场景和集成外部 API，主要应用于个人助理、文档问答、聊天机器人等场景。

Globe Explorer 是一个用于探索和发现热门话题的平台，提供研究资源并促进用户反馈。它利用大语言模型（LLMs）理解用户查询，并生成可视化的主题页面，让用户以搜索引擎无法理解的方式探索信息。

该团队专注于金融领域的强化学习（RL）和大语言模型（LLM）的应用，提供数据收集和量化分析的工具和资源。

mini_qwen是一个从头开始训练的1B参数的大型语言模型(LLM)项目，包括预训练(PT)、微调(SFT)和直接偏好优化(DPO)3个部分。该项目基于Qwen2.5-0.5B-Instruct模型，通过扩充模型隐藏状态层数、隐藏状态维度和注意力头数，增加参数量到1B，并进行参数随机初始化。支持中英文，预训练和微调仅需要12G显存，直接偏好优化仅需要14G显存。使用flash_attention_2进行加速，使用deepspeed在6张H800上进行训练，探究了尺度定律(scaling law)、复读机现象与微调阶段的知识注入。

哔哩哔哩自研大语言模型，提供多样化的对话和角色扮演功能，支持多种评测基准，具有领先的性能表现

直接偏好优化 (DPO) 是一种新算法，旨在改变大语言模型（LLM）与人类反馈的对齐方式，提供强化学习的替代方案，从而提高模型对人类偏好的理解和响应能力。

Qwen-72B-Chat是阿里巴巴云开发的大型语言模型，参数规模为720亿，训练数据超过3万亿个token。它在自然语言理解和数学任务上表现优异，支持系统提示增强、工具使用和长上下文理解（高达32K tokens），适合多种自然语言任务。该模型在多个基准测试中表现优异，甚至在某些中文评估中超越了GPT-3.5和GPT-4。

Recommender AI Agent 是一个结合了大语言模型的推荐系统，能够提供个性化和互动式的推荐体验。它通过用户的自然语言查询生成推荐，并能根据用户的反馈实时调整推荐结果。此外，该系统支持多种推荐算法的集成，以提高推荐的多样性和准确性。

一个可以与本地大语言模型聊天的网页应用，让你在本地运行AI模型，保护隐私的同时享受智能对话体验