MMD-critic开源项目 – 模型可解释性的批评工具

MMD-critic是一个用于机器学习模型可解释性的批评框架，利用最大均值差异(MMD)进行评估，支持对模型进行详细分析和批评。

MMD-critic的特点:

1. 提供模型解释的框架
2. 支持对机器学习模型进行批评
3. 利用最大均值差异进行评估

MMD-critic的功能:

1. 评估不同模型的可解释性
2. 分析模型在各种数据集上的表现
3. 生成模型输出的批评报告

相关导航

pyreft开源项目 – 基于表示的微调方法

PyrEFT 是一系列基于表示微调（ReFT）的方法，它在冻结的基础模型上操作，学习对隐藏表示的任务特定干预，提供了一种比传统参数高效微调（PEFT）方法更强大的替代方案。

TensorLeap官网 – 深度学习模型调试与可解释性的工具

TensorLeap是一个专注于深度学习模型调试和可解释性的工具，旨在提高神经网络开发的透明度和效率，帮助数据科学家和组织加速开发周期，确保模型的可靠性。

Seg-Zero开源项目 – 无监督精准图像分割

Seg-Zero通过认知强化实现推理链引导的分割，使模型在没有监督数据的情况下也能推理出精准的分割结果。该方法利用强化学习进行训练，无需显式监督推理数据，不仅在域内数据上表现优异，还在域外数据上优于传统的监督微调方法。此外，Seg-Zero能够生成推理链，揭示模型的思考过程，增强模型的可解释性。

LISA开源项目 – 学习可解释的技能抽象

LISA（Learning Interpretable Skill Abstractions）旨在通过强化学习任务来学习可解释的技能抽象，从而提高模型的可解释性。

Backpack Language Models官网 – 解决语言模型中的偏见问题

斯坦福大学的研究者提出了一种名为Backpack的模型，以解决语言大模型中存在的偏见问题。该模型通过调整（sense vector）来干预模型的输出，使模型的行为更容易预测和控制，同时保持丰富的表现力。

B-cos Networks开源项目 – 对齐是可解释性的关键

B-cos Networks旨在通过对齐实现模型的可解释性，提供最先进的性能，适用于各种机器学习任务。

Harmonic Loss论文 – 提升模型可解释性的新型损失函数

Harmonic Loss 是一种新型的损失函数，旨在替代传统交叉熵损失函数，用于训练神经网络和大型语言模型。它通过引入尺度不变性和有限收敛点等特性，提升模型的可解释性并加速收敛。研究表明，Harmonic Loss 在减少模型泛化延迟（'grokking'现象）和数据效率方面表现优异，并在算法、视觉和语言数据集上验证了其有效性。

Finding Transformer Circuits with Edge Pruning开源项目 – 通过边缘修剪识别变压器电路

论文介绍了通过边缘修剪找到变压器电路的技术，旨在有效识别和分析变压器电路，从而提高模型的可解释性。该技术可以帮助研究人员和开发者更好地理解变压器模型的结构及其工作原理。

Cosmos-Transfer1开源 – NVIDIA开发的虚拟世界生成AI模型

Cosmos-Transfer1是NVIDIA Cosmos世界基础模型系列中的一员，专注于通过多模态输入生成高度可控的虚拟世界，主要用于机器人和自动驾驶车辆的Sim2Real（从模拟到现实）训练。该模型支持多种输入模式如分割图、深度图、LiDAR扫描等，并具备自适应空间控制和4K视频上采样功能，参数规模为7B，适配80GB H100硬件。