awesomeMLSys开源项目 – 机器学习入门资源整理

News in AI是一个专注于人工智能的在线平台，提供最新的AI新闻、视频、工具和图像，旨在为用户提供全面的人工智能相关信息和资源。

本书指导您从零开始构建前沿的AI应用，涵盖真实案例、最佳实践及额外的源代码，帮助您今天就能解锁AI的力量！

Adrenaline 是一款代码分析工具，帮助用户深入了解代码库。用户可以通过导入 GitHub 存储库或粘贴代码片段来使用该工具，Adrenaline 将分析代码并提供详细的信息和问题解答。

一个关于学习低级设计（LLD）的资料集合，涵盖了基础的面向对象编程（OOP）概念、设计模式、UML 图、面试题目以及相关书籍推荐等内容。

LLMs-from-scratch 是一个资源库，提供构建大型语言模型（LLM）所需的实践经验和基础知识。该项目通过逐步指导、清晰的文字、图表和示例，帮助用户深入了解LLM的内部工作原理，并创建自己的LLM。内容包括文本数据处理、注意力机制实现、模型预训练与微调等，适合初学者和进阶用户。

一个使用简单、原始的 C/CUDA 进行LLM培训的项目，旨在提供轻量级的实现，减少对大型库的依赖。

Humy.ai是一个无需编写代码即可创建和部署训练有素的AI助手的产品。用户只需定义助手的行为，上传数据（如网页、常见问题、文档、文章），即可嵌入为聊天气泡或与通信渠道同步，从而获得洞察并优化性能。

以爱丽丝漫游“可微分”仙境为比喻，向读者介绍神经网络领域的入门书，涵盖自动微分优化函数、序列、图、文本和音频处理的设计技术。

基于微博开源的Rill Flow项目，旨在搭建大模型应用的技术平台，支持多种大模型的集成与管理，提供用户友好的界面用于模型训练和推理，兼容多种数据源与格式，支持分布式计算以提高模型训练效率，并具有丰富的监控与日志功能。

Hugging Face发布的新型agent框架，摒弃传统JSON操作，采用代码驱动方式，展现出显著的性能优势。

torchtune是一个用于训练、微调和实验大型语言模型（LLM）的PyTorch库。它利用最新的PyTorch API实现内存效率和性能优化，并支持YAML配置以简化训练和评估流程。torchtune适用于微调LLM以用于文本生成、问答和对话生成等任务，并支持量化、剪枝等后训练技术，以针对特定用例优化模型。此外，torchtune与Hugging Face Transformers、torchao和EleutherAI的LM Eval Harness等工具集成，提供了丰富的功能和灵活性。

用纯C语言编写的GPT模型，旨在从零开始构建深度学习模型，教育开发者如何从底层构建复杂系统。该项目帮助开发者深入理解深度学习的基本原理，并提供了高效的内存管理和性能优化，从而让学习者能够在实践中掌握相关技术。

GPT Core用于创建和训练先进的大型语言模型(LLM)，着重强调了其快速性能，可以在仅20分钟消费级GeForce RTX™ 4090上将自定义的1.23亿参数LLM预训练到约3.5的验证损失。

OpenAI Usage Insights是一款强大的Chrome扩展，能够提供对OpenAI使用情况的深入可视化。用户只需安装此扩展并授权访问其OpenAI账户，即可轻松监控和分析使用数据。

本书以 MySQL 的挑战为案例，探讨了问题分析与解决策略。作者凭借 20 年的问题解决经验，通过系统的逻辑分析，深入研究了 MySQL 的各种问题，并提出了优化策略。书中不仅涵盖了 MySQL 的逻辑推理、计算机科学基础、内部机制、性能测试等内容，还重点介绍了 MySQL 8.0 的改进、组复制的进展以及性能优化技术。全书分为五个部分，逐步引导读者从基础到深入，理解 MySQL 的问题解决方法，并探讨了如何通过优化策略提升 MySQL 的可扩展性、吞吐量和响应速度，最终实现高可用性故障转移。

PocketPal AI 是一款可在手机上直接运行小型语言模型的开源客户端，支持离线使用，兼容多种模型，并提供模型管理、参数调整和性能指标查看等功能。它允许用户在手机等设备上运行 GGUF 格式的 deepseek 模型文件，充分利用闲置设备，实现单机离线使用的AI助手。无需网络，开源免费，无限使用，支持安卓和iPhone。

用大型语言模型重新思考自动驾驶，使用GPT-3.5作为默认的大型语言模型(LLM)，介绍了LLM在驾驶场景中的闭环交互能力以及通过记忆能提升性能的方法

Intel研究院开源的AI模型优化工具，支持将千亿参数大模型压缩至1/20体积，在Intel第四代至强处理器上实现3.8倍推理加速，量化精度损失＜0.5%。该工具提供统一API，支持主流深度学习框架（如TensorFlow、PyTorch、ONNX Runtime和MXNet）上的模型压缩技术，包括量化、剪枝、蒸馏和神经架构搜索。