Social Learning官网 – 模仿人类社交学习的AI技术

Social Learning 是 Google 推出的一种 AI 技术，旨在模仿人类通过社会互动学习的方式。该框架由教师模型和学生模型组成，教师模型通过自然语言向学生模型传授知识，学生模型则通过这些互动来学习和改进。这种方法减少了对传统机器学习中大量数据和复杂算法的需求，并更好地保护用户隐私。Google 已在语言翻译和图像识别等任务中测试了该框架，但具体研究主要聚焦于大型语言模型（LLMs），如垃圾邮件检测、数学问题和问答。

Social Learning的特点:

1. 使用自然语言在 AI 模型之间共享知识
2. 包括教师模型和学生模型
3. 减少对大量数据和复杂算法的需求
4. 更好地保护用户隐私
5. 特别针对大型语言模型（LLMs）设计
6. 提供两种教学方法：合成示例和合成指令
7. 在垃圾邮件检测、基础数学问题和问答等任务上进行了评估

Social Learning的功能:

1. 作为一个研究框架，已在特定基于文本的任务上测试，如垃圾邮件检测、数学问题和问答
2. 具有扩展到包括语言翻译和图像识别在内的其他 AI 任务的潜力

相关导航

ml-engineering开源项目 – 帮助训练大型语言和多模态模型

一系列开放的方法，可帮助成功训练大型语言模型和多模态模型，包含丰富的脚本和技术材料，基于作者的实践经验，并提供持续更新的知识库。

chatgpt-corpus开源项目 – 中文语料库，助力大模型训练

ChatGPT 中文语料库，包含对话、小说和客服等多种类型的中文语料，旨在为大型语言模型的训练提供丰富的数据支持，支持多种文本格式，适合多种场景应用。

RAGEN开源 – 首个开源DeepSeek-R1强化学习框架

RAGEN 是 DeepSeek-R1 强化学习训练框架的首个开源复制品，专注于训练大型语言模型（LLM）推理代理。它支持多轮统一处理，避免批量大小不稳定，提供世界建模能力，并帮助智能体进行规划。特别适用于交互式和随机环境中的多步任务训练，如 Sokoban 谜题和 FrozenLake 环境。

ToolBenc开源项目 – 高质量指令调优数据项目

清华大学构建的开源、大规模、高质量的指令调优数据项目，旨在帮助开发者构建具备通用工具使用能力的大型语言模型。

Linear-MoE开源项目 – 高效训练大型语言模型的混合专家库

Linear-MoE 是一个基于 Megatron-Core 的线性混合专家模型库，专注于为高效训练和部署大型语言模型提供强大支持。它集成了多种线性注意力机制，支持多种模型架构，并具备高效的分布式训练能力，助力大规模模型开发。此外，Linear-MoE 还提供了丰富的预训练和微调脚本，极大地简化了开发流程。

mosaicml/examples开源项目 – 帮助用户理解和使用机器学习工具

MosaicML 提供的示例项目，旨在帮助用户更好地理解和使用其机器学习工具和框架。该项目包含多种模型训练示例，特别是针对大型语言模型（LLM）的应用。通过高效的资源管理和优化建议，集成了 FSDP（Fully Sharded Data Parallel）以提升训练性能，并提供详细的文档和使用指南，方便开发者快速上手。

训练语言模型进行高效推理论文 – 通过强化学习优化LLM推理效率

该项目旨在通过强化学习训练大型语言模型（LLM），使其在推理任务中更高效。研究在奖励函数中引入长度惩罚，鼓励模型减少token使用，同时保持准确性，从而降低推理成本。通过参数α控制效率与准确性之间的权衡，提供了灵活的调整空间。项目不仅提供了理论支持，还开源了代码和数据，方便进一步开发和应用。

nanotron开源项目 – 简化大型语言模型训练的开源工具

nanotron是一个开源工具，旨在简化大型语言模型的训练过程，提供了一种高效的3D并行训练方法，从而更好地利用计算资源。

Reward Feature Models (RFM)论文 – 个性化偏好建模方法

Reward Feature Models (RFM) 是一种在强化学习从人类反馈 (RLHF) 中捕捉个体偏好的方法，特别适用于大型语言模型 (LLMs) 的训练。它通过学习跨用户共享的通用奖励特征和用户特定的权重来实现个性化。训练过程分为两个阶段：训练阶段学习共享特征和初始用户权重，适应阶段使用有限反馈快速调整新用户权重。研究表明，RFM 在用户内泛化性能上与 Variational Preference Learning (VPL) 相当，同时在用户间泛化能力上表现更优。

潜在空间推理训练官网 – 高效推理训练方法

该论文提出了一种在潜在空间（latent space）中进行推理训练的方法，不需要特殊训练数据，且能处理难以用语言描述的推理任务。3.5B 的参数达到了 50B 参数模型的推理基准性能。

Liger-Kernel开源项目 – 高效Triton内核提升LLM训练性能

Liger-Kernel 是一款专为大型语言模型（LLM）训练设计的高效 Triton 内核。它通过一行代码即可集成到现有训练流程中，显著提升模型性能，降低内存使用，并支持更长上下文长度、更大批量大小和庞大词汇量。

Post-Training-Data-Flywheel开源项目 – 优化后期训练的数据工具

为大型语言模型(LLMs)提供高质量、大量数据的搜索、选择和合成，以优化模型的后期训练