HoME（Hierarchy of Multi-Gate Experts）论文 – 快手提出的多任务学习模型

HoME是快手开发的一种创新多任务学习模型，旨在解决推荐系统中的Mixture of Experts（MoE）范式中的专家崩溃、退化和欠拟合问题。通过引入专家归一化和Swish机制、层次掩码机制以及特征门和自门机制，显著提高了模型的稳定性和效率。该模型已广泛应用于快手的短视频推荐服务，每天服务4亿活跃用户。

HoME（Hierarchy of Multi-Gate Experts）的特点:

1. 专家归一化和Swish机制：通过替换ReLU为Swish，调整专家输出分布，解决专家崩溃问题。
2. 层次掩码机制：通过任务分组和元专家网络，增强任务间共享效率，减少专家退化。
3. 特征门和自门机制：确保稀疏任务的梯度流动，支持更深层次的MoE训练，解决专家欠拟合。

HoME（Hierarchy of Multi-Gate Experts）的功能:

1. 部署在快手的短视频服务中，每天服务4亿活跃用户。
2. 线下实验显示AUC和GAUC指标较基准模型有显著提升。
3. 线上AB测试显示播放时间和互动指标改善，如点击、点赞、评论、收藏等。

相关导航

MLoRA开源 – 多领域点击率预测模型

MLoRA（多领域低秩自适应网络）是由阿里巴巴开发的用于提升多领域点击率（CTR）预测的模型。它借鉴了大语言模型（LLM）中的高效参数微调技术，引入了低秩自适应（LoRA）来解决数据稀疏和分布不均的问题。MLoRA为每个领域添加了专门的LoRA模块，使其参数高效且易于与各种CTR预测模型集成。该模型在多个公开数据集和阿里巴巴电商平台的A/B测试中表现出色，展示了其在实际应用中的优越性能和实用性。

Awesome-Diffusion-Inference开源项目 – 扩散模型推理的精选资源

该项目汇集了精选的扩散模型推理论文，涵盖了多种技术，包括采样、缓存以及多GPU支持，为研究者和开发者提供了丰富的学习和应用资源。

Swizzle官网 – 构建全栈web应用的平台

Swizzle是一个构建web应用的平台，提供前端、后端、数据库、文件存储等所有所需功能，并集成了一个理解整个项目的AI，使得构建和解决问题的速度前所未有地快。

Voiceflow ai官网 – 协作式AI助手构建平台

Voiceflow是一个团队协作的AI助手构建平台，旨在设计、开发和发布聊天及语音助手。团队可以使用低代码工具共同设计对话流程，测试和发布AI助手，并利用知识库对助手进行定制化训练。通过API或嵌入网站，团队可以轻松上线AI助手，同时平台还提供分析工具以优化助手性能。

iRe-VLA Framework论文 – 提升机器人控制任务的VLA模型

iRe-VLA Framework 是一个通过在线强化学习（RL）和监督学习（SL）迭代来提升视觉-语言-行动模型（VLA）在机器人控制任务中性能和泛化能力的框架。它兼顾了训练稳定性和计算效率，在多个模拟和真实世界基准测试中表现优异，如MetaWorld、FrankaKitchen和真实世界Panda操作任务。

OpenGPTs开源项目 – 开源可定制的 GPT 模型项目

OpenGPTs 是一个开源实验项目，旨在提供可定制的 GPT 模型，紧跟 OpenAI 的前沿技术。它允许用户根据自己的需求创建和调整模型，以便进行更灵活的应用和创造性实验。

Awesome Reinforcement Learning for Cyber Security开源项目 – 强化学习在网络安全中的应用资源汇总

这是一个专注于应用于网络安全的强化学习资源的精心整理列表，包含研究论文、实用实现和相关工具，旨在帮助研究人员和开发者在这一领域获得最新的信息和技术支持。

CodeAssist官网

CodeAssist（适用于Intellij）是一个为编程提供人工智能助手/聊天机器人/联合驾驶的工具。它可以根据您想要进行修改的描述来生成或更改代码。安装后，您可以通过点击左下角的“CodeAssist”选项卡来打开它。CodeAssist适用于所有流行的编程语言。

AgentEvals开源项目 – 一站式代理性能评估工具

AgentEvals 提供了一站式解决方案，专注于代理轨迹评估，支持多种评估工具，如代理轨迹和图轨迹评估。它兼容 Python 和 TypeScript，适应不同的开发环境，并与 LangSmith 集成，便于实验跟踪和结果管理。

JAXSeq开源项目 – 基于JAX的大型语言模型训练工具

JAXSeq建立在Huggingface的Transformers库之上，可用JAX训练非常大的语言模型，目前支持GPT2，GPTJ，T5和OPT模型。它结合了JAX的高效计算能力与Huggingface的丰富模型资源，提供了一个灵活且高效的训练平台，适用于不同规模和类型的语言模型的训练与微调。

OpenBioMed开源项目 – 生物医药AI工具平台

OpenBioMed是一个Python深度学习工具包，专注于AI驱动的生物医药研究。它提供了灵活的多模态数据处理API，涵盖分子、蛋白质、单细胞、自然语言和知识图谱等多种数据类型。OpenBioMed集成了20多种工具，支持从传统AI药物发现任务到新兴的多模态挑战的广泛应用。此外，它还提供了易于使用的接口，用于构建工作流和开发基于大语言模型（LLM）的智能代理，以解决复杂的生物医学研究任务。

Node Llama.cpp开源项目 – node.js的Llama.cpp绑定

Node Llama.cpp 是一个为 llama.cpp 提供的 Node.js 绑定，旨在简化与 C++ 代码的交互，支持高效的机器学习模型调用，并易于集成到现有的 Node.js 应用程序中。

OmniServe开源项目 – 高效统一的LLM服务框架

OmniServe是一个集成了QServe和LServe优化的统一LLM服务框架，旨在通过低位量化和系统协同设计提高大型语言模型服务的效率和性能。它支持多种模型，显著降低部署和运行成本，并加速推理速度。

LightGBM 中文文档开源项目 – LightGBM 的中文翻译文档

LightGBM 中文文档项目旨在提供 LightGBM 的中文翻译文档，帮助中文用户更好地理解和使用 LightGBM。该项目涵盖了 LightGBM 的安装、配置、使用和优化，提供了详细的 API 文档和示例代码，并且持续更新和维护，紧跟 LightGBM 的最新版本。该项目由社区驱动，欢迎贡献和反馈。