低成本AI训练

s1是一个基于小型高质量数据集s1K和'预算强制'方法训练的高性能推理模型，旨在通过简单测试时间扩展技术与大型模型竞争。项目强调数据质量优于数量，仅用1,000个样本微调Qwen2.5-32B-Instruct模型，训练成本低至6美元。在竞赛数学问题（如MATH和AIME24）上表现优异，超越OpenAI o1-preview达27%。核心创新是测试时动态控制模型计算努力的'预算强制'技术，通过延长或缩短推理过程提升准确性。

Sky-T1-32B-Preview是由UC Berkeley Sky Computing Lab的NovaSky团队开发的开源32亿参数语言模型，基于Qwen2.5-32B-Instruct训练，使用17,000个验证正确的响应数据进行监督微调。该模型以仅450美元的低成本（19小时/8个H100 GPU）实现与商业模型o1-Preview相当的推理性能，特别擅长数学推理和代码生成任务，同时保持指令跟随等基础能力。项目完全开源模型权重、训练代码和数据，旨在推动学术研究和开源社区发展。

Light-R1是一个以不到1000美元的成本，从零开始训练出超越现有数学大模型的AI项目。它仅需6小时训练时间，并在AIME24等数学竞赛中超越了DeepSeek-R1-Distill-Qwen-32B。项目提供完整的训练数据和代码，帮助用户低成本复现AI模型。