大型语言模型（LLM）学习课程开源项目 – 系统学习LLM的构建与应用

大规模机器学习是一个网站，提供来自顶尖科技公司的机器学习系统的见解，涵盖分布式训练、特征存储、设备模型部署、对抗样本的稳健性、行业角色等主题。

这是一个利用神经网络技术，精准检测音乐节拍（BPM）的项目，能够分析多种风格的音乐，并为音乐制作和推荐系统提供实时节拍数据。

Griffin是一种将门控线性RNN与局部注意力混合在一起的新模型架构，表现优于以往模型，能够处理长上下文并扩展到14B参数。该模型在训练数据量减少的情况下，仍能保持优异的表现，显著改善预测能力，并保留了Transformer架构在合成任务上的许多优点。

包含了从计算机视觉、自然语言处理到生物计算、气象预测等各个领域的模型，这些模型结合了幻方萤火超算集群的特点，使用并行训练、高效算子、高性能存储等方式，大幅提升原有模型的性能，节省训练时间。

clueai是一个开源的自然语言处理工具，用户可以在短时间内快速定制和部署自己的NLP API，旨在简化自然语言处理的集成过程，支持多种语言和模型，适合开发者和研究人员使用。

PyTorch是一个开源的深度学习框架，广泛用于计算机视觉和自然语言处理等领域。

Anima是第一个开源的基于QLoRA的33B中文大语言模型，旨在支持大规模中文处理，促进社区参与与贡献，具备高效的模型训练与推理能力。

Talklab是一个基于人工智能的聊天分析平台，提供基于客户聊天的详细见解和可操作的报告，包括情感评分和行为标签。用户可以通过主题搜索对话，并使用自然语言提示过滤选定的聊天记录，从而降低客户流失率，提高客户满意度。

Jlama是一个纯Java实现的大规模语言模型推理引擎，支持多种模型格式，能够提供高性能和低内存占用，易于集成到各种应用中。

该项目提供了Vision Transformer在Tensorflow中的完整实现，支持多种数据集和任务，易于扩展和修改，并包含详细的使用示例和文档，帮助用户快速上手并深入了解模型的应用与性能。

Paper-Reading是一个专注于自然语言处理（NLP）领域的论文阅读列表，涵盖了对话系统、文本摘要、主题建模等多个子领域。该项目旨在为研究人员和开发者提供一个全面且易于导航的论文资源库，帮助用户及时了解NLP领域的最新研究成果。项目会定期更新，确保收录的论文具有相关性和时效性。

PAI-RAG是一个基于大语言模型和多向量数据库的知识库问答系统，提供灵活定制的高效信息检索功能，适用于各种自然语言处理任务，具有良好的扩展性。

LLM Giraffe🦒可以用来扩展LLM的上下文长度，它实现了将LLAMA v1 2K的上下文长度扩展为4K和16K，支持长文本处理，优化上下文管理，易于集成到现有的LLM工作流中。

AI Collective Bundle Onetime为用户提供了访问所有领先的LLM和文本生成AI模型的机会。用户无需再支付额外费用，即可在一个平台上使用当前及未来的最佳AI模型，方便快捷，提升工作效率。

Report mAIstro是一款能够根据用户需求生成定制化报告的工具，通过自然语言指令将信息整合成结构化报告，从而提高决策效率。

一个开源的LLM训练与推理一体化平台，让大模型的开发和部署变得简单高效。