CachedEmbedding开源项目 – 动态管理嵌入表内存

Pocket LLM是一个平台，旨在使复杂的大语言模型和其他先进的人工智能技术对所有人都可访问。它提供定制化、私密的人工智能解决方案，这些解决方案在普通硬件上训练，具有超低延迟推理，消除了对GPU、TPU或定制ASIC的需求。用户可以在没有高级配置或GPU的情况下，仅使用CPU构建和部署数十亿参数的模型。

PyTorch是一个开源的深度学习框架，广泛用于计算机视觉和自然语言处理等领域。

translate 是一个基于 PyTorch 的机器翻译库，提供了 Seq2Seq 模型。它依赖于 Facebook 的 FairSeq 库，并支持将模型导出到 Caffe2，以满足生产环境中使用 C++ 的需求。该库适用于多种语言的翻译任务，并提供了高效的训练和推理功能。

Epoching-Blog是一个集成了PyTorch、fastai和HuggingFace的自然语言处理实战教程，旨在帮助用户通过实践深入理解深度学习及其在NLP领域的应用。项目提供了丰富的代码示例和详细的教程，适合希望提升NLP技能的学习者。

这是一个专注于深度学习项目和教程的仓库，提供了各种深度学习技术的实际实现和深入见解。通过全面的教程、神经网络的实际实现、真实场景中的深度学习应用示例、易于理解的代码片段和笔记本，以及支持TensorFlow和PyTorch等流行深度学习框架，帮助用户深入学习和应用深度学习技术。

traiNNer是一个基于PyTorch的深度学习框架，旨在实现图像和视频的超分辨率、恢复以及图像到图像的翻译。它提供了灵活的模型结构，支持多种功能，适用于不同的图像处理需求。

fastbook 是一个介绍深度学习和 fastai 库的项目，旨在帮助用户学习和使用 fastai 这个深度学习开源库。项目以 Jupyter Notebooks 形式发布，内容涵盖从基础到高级的深度学习技术，强调实践编码和现实应用，而不是理论概念。它还计划以 MOOC（大规模开放在线课程）形式发布，提供丰富的示例代码和教程。

建立在HuggingFace模型和PyTorch Fully Sharded Data Parallelism基础上的训练套件，旨在优化吞吐量，简化在资源受限环境中训练中型模型的分布式方案设置工作流程，尤其适用于学术集群。

OVT-B是一个用于开放词汇多目标跟踪的新型大规模基准，旨在评估和促进多目标跟踪算法的发展。该数据集支持多种跟踪算法的评估，并提供开放词汇的跟踪能力，以适应各种应用场景。

hl-gauss-pytorch是一个基于PyTorch实现的高斯直方图损失函数（HL-Gauss），为回归任务提供了全新的视角，能够有效提升模型的性能。

makeMoE 是一个从头开始实现的稀疏专家混合语言模型，基于 PyTorch 框架，采用自回归字符级语言模型架构。该项目灵感来源于 Andrej Karpathy 的 makemore 项目，旨在通过稀疏专家混合架构实现高效的语言模型训练和推理。它涵盖了模型的基本组成、自注意力机制、专家网络、Top-k 路由、噪声 Top-k 路由等核心组件的代码实现，并提供了模型的初始化方法、训练循环以及文本生成示例。makeMoE 不仅适用于研究和学习稀疏专家混合语言模型的实现，还可作为自回归字符级语言模型的参考实现，适用于自然语言处理领域的实验和开发。

torchtitan是一个基于PyTorch的大型语言模型（LLM）训练库，专注于简化大规模模型的训练过程。它支持多种并行技术，如FSDP2、Tensor Parallel、Pipeline Parallel和Context Parallel，并提供了详细的文档和调试工具。torchtitan旨在展示PyTorch最新的分布式训练特性，并适用于研究新的并行技术和探索分布式训练中的最佳实践。项目目前处于预发布状态，支持从头开始预训练Llama 3.1 LLM，并提供了丰富的功能模块和灵活的配置选项。

FlashAttention是一个开源的推理加速工具，专为AI大模型设计，通过优化注意力机制的计算流程，显著提升推理速度，尤其适合需要实时响应的场景。其v2版本比v1快2倍，比标准注意力机制快5-9倍，在A100上达到225 TFLOPs/s的训练速度，并已在大多数LLM库中得到广泛应用。

typical-sampling 是一个为 Jax、PyTorch 和 TensorFlow 打造的先进自然语言处理工具，支持典型采样算法，旨在优化模型训练和推理过程，提供易于集成的 API 以提升开发效率。

TorchCP是一个基于PyTorch的Python工具箱，旨在支持深度学习模型的保形预测研究，提供多种分类和回归方法。

该项目是一个处理大规模航拍照片配准的算法，基于SURF特征、RANSAC算法和PyTorch autograd，能够高效地对历史航拍照片进行拼接和分析。