可解释Transformer模型

CRATE是一个完全数学可解释的白盒Transformer模型，旨在通过统一多种模型架构实现高效的稀疏率降低，已在真实世界数据集ImageNet-1K上取得接近的性能。它整合了Transformer模型、自注意力、扩散模型和降噪技术，并通过展开迭代优化导出深层网络层。

KTransformers是由清华大学KVCache.AI团队与趋境科技联合开发的开源项目，专注于优化大型语言模型（LLM）的推理性能，特别是在资源受限的环境中高效运行LLM。该项目支持单GPU（24GB显存）或多GPU环境，支持DeepSeek-R1和V3的671B满血版模型，预处理速度最高可达286 tokens/s，推理生成速度最高可达14 tokens/s。KTransformers通过高级内核优化和放置/并行策略，提供高达3至28倍的加速效果，并支持Q4_K_M量化版本，最低仅需14GB显存和382GB内存。

ColossalAI是一个开源的分布式AI大模型训练框架，旨在降低大规模AI大模型的训练成本和复杂度。它通过先进的并行计算技术，让开发者在有限硬件资源下也能高效训练超大规模大模型。支持多种并行策略、混合精度训练、内存优化等技术，广泛应用于大规模模型训练、科研实验和企业部署。

Yi是一个专为高效语言模型设计的开源框架，支持从零开始训练的大型语言模型。它包含两款双语模型Yi-6B及Yi-34B，均自研训练，参数规模分别为6B和34B。Yi通过优化算法与资源管理，提供从实验到部署的完整流程，支持多种语言的文本生成、对话系统和问答任务。

Aquila语言大模型是在中英文高质量语料基础上从0开始训练的开源语言模型，具备更高效的训练效率和优秀的性能。