ScratchLLMStepByStep开源项目 – 从零开始编写大语言模型的教程

gigaGPT是一个用于训练具有数百亿参数的大型语言模型的代码库，仅有500多行代码。它受到Andrej Karpathy的nanoGPT启发，但专为Cerebras硬件优化，能够扩展到GPT-3规模的模型。gigaGPT旨在提供一个干净、高效和可用的代码库，而不是追求训练最先进的模型。

Q是一个先进的AI语音聊天机器人，基于最新的GPT模型。它具有可定制的角色和语音聊天、图像识别与生成等功能，不仅是聊天机器人，更是一个拥有自己思想的人类助手！

《理解深度学习》是由Simon J.D. Prince编写的一本关于深度学习的专业书籍，内容涵盖深度学习的理论基础、性能评估、卷积网络、Transformers、图神经网络、生成对抗网络（GANs）、扩散模型（Diffusion Models）、强化学习等主题。书中提供了深入的理论和实践指导，并附有大量练习题，适合初学者和有经验的研究人员。

RWKV Infinite Context trainer 是一个用于训练任意上下文大小的工具，能够处理超过10k的上下文长度，同时在几乎恒定的VRAM内存消耗下运行。

《对齐手册》主题是如何使用不同技术来微调语言模型，以使其更符合人类和AI的偏好。

OpenAI的ChatGPT代码解释器的本地版，支持自定义环境，增强的数据安全性。

SeekAI 是一个专为 AI 工具导航设计的平台，旨在帮助用户轻松找到最适合的 AI 解决方案。该平台由来自斯坦福大学的 AI 领域教授和 Google 的工程师组成的团队运营，所有展示的工具都经过他们的筛选。网站主要包括「AI 工具」、「GPTs」和「AI 工具排名」三大板块，用户可以在此找到符合需求的 AI 工具，并了解相关工具的优势和详细介绍。

该教程是连接基础微积分与深度学习实践的桥梁，适合希望摆脱“黑箱”使用框架、深入理解模型数学本质的开发者。

DeepSeek R1 是一个从零开始构建的高效推理模型项目。它使用 Qwen 作为基础模型，通过 GRPO 算法进行初步训练，并结合 Supervised Fine-Tuning (SFT) 和改进的强化学习方法，显著提升了模型的推理能力和语言一致性。项目提供了全流程的代码实现、详细的训练过程描述和手绘流程图，使得即使是初学者也能轻松上手。

PowerChat 是一个以隐私为首的强大AI助手，利用先进的GPT模型为用户提供即时回答和互动对话。用户可以在安全私密的环境中与AI助手进行交流，询问问题、请求信息，享受流畅的对话体验。

kan-gpt是一个结合Kolmogorov-Arnold Networks（KAN）特性的GPT模型，使用PyTorch框架实现。该项目在Tiny Shakespeare数据集上进行了训练和测试，表现优于传统的MLP-GPT模型。作为一个开源项目，kan-gpt不仅便于社区贡献和进一步研究，还为自然语言处理任务提供了新的解决方案。

DPO（Direct Preference Optimization，直接偏好优化）是一种离线优化方法，直接利用偏好数据训练策略，无需显式奖励模型。该项目是基于论文《Direct Preference Optimization: Your Language Model is Secretly a Reward Model》的参考实现，支持因果 HuggingFace 模型和自定义数据集，提供了一种无需显式奖励模型的离线优化方法。特别适合语言模型对齐任务，研究表明其在控制生成情感、摘要质量和单轮对话响应上表现不亚于或优于现有方法。

tiny-grpo是一个强化学习项目，专注于GRPO（引导强化策略优化）算法的实现。它的设计目标是简单易用，适合那些希望快速开始强化学习项目的用户。项目提供了完整的训练脚本和依赖配置，支持单机多GPU训练，特别适合初学者和教育场景。

Toolformer是训练语言模型学会使用API的研究，展示了如何通过流动的语言结构来实现API调用的学习。

本项目为2024年PyCon会议准备，提供关于现代深度学习基础知识及PyTorch的深入教程材料，旨在帮助参与者掌握深度学习的核心概念和实用技能。