复现OpenAI模型

这个研究项目致力于复现并理解 OpenAI 的 O1 模型，重点是开发新的训练方法，并深入探究大型语言模型 (LLMs) 中复杂推理的底层原理。目前已经发布了三篇研究论文。

FastLLM是一个动态策略选择的深度学习模型训练代码库，集成了Deepspeed、Megatron、FlashAttention、CudaFusionKernel和编译器技术，旨在优化大规模语言模型的训练效率，提供更加灵活和高效的训练方案。

YaRN是一个高效的上下文窗口扩展工具，旨在提高大型语言模型的上下文处理能力。

哈佛大学出品的新论文，旨在提升LLM在TrucefulQA数据集上的正确率。该项目通过改进模型的输出和修正机制，使得大型语言模型在处理特定数据集时表现更佳。

LLM Compressor 是一个专注于大型语言模型压缩的工具库，支持训练中和训练后的压缩技术。它与 PyTorch 和 HuggingFace Transformers 兼容，设计灵活易用，便于快速实验。此外，它还专门为 vLLM 提供量化优化功能，支持将 Hugging Face 格式的模型转换为 safetensors 格式，特别适用于量化 Hugging Face 上新发布的小模型。通过集成多种压缩算法（如 GPTQ、SparseGPT 和 SmoothQuant），LLM Compressor 在保持模型精度的同时，显著提升推理效率和资源利用率。

ORGANA是一个灵活且人性化的机器人系统，旨在通过自然语言与化学家进行交互，使用大型语言模型进行推理和规划，提供及时的报告和分析结果，具备3D视觉感知能力，能够准确操作实验对象和监控实验进展，同时通过并行执行实验提高实验效率。

该项目研究大型语言模型（LLMs）在推理过程中如何可能侵犯用户隐私，分析潜在的隐私泄露风险，并提供对隐私保护的讨论和建议。