Deci官网 – 深度学习开发平台，提升推理效率

Deci是一个深度学习开发平台，旨在加速边缘或云端推理，帮助开发者更快实现产品化，并最大化硬件潜力。它提供了一系列模块，包括基础模型和自定义模型，支持模型训练、优化和部署，适用于多个行业，如汽车、智能零售和视频分析等。

Deci的特点:

1. 智能架构搜索引擎AutoNAC，自动生成高效模型
2. SuperGradients™ PyTorch训练库，缩短开发周期
3. Infery优化与推理引擎SDK，提升模型性能
4. DataGradients™数据集分析工具，优化数据使用
5. 支持灵活的部署环境，适应多种操作需求

Deci的功能:

1. 优化生成式AI模型
2. 在边缘设备上运行
3. 减少云计算成本
4. 缩短开发时间
5. 最大化数据中心利用率

相关导航

Roboflow官网 – 赋予软件识别图像和视频中物体的能力

Roboflow是一个综合平台，旨在帮助软件识别和分析图像和视频中的物体，适用于开发者和工程师，简化数据集创建、模型训练和生产部署的过程。

飞桨PaddlePaddle官网

开源深度学习平台

PoplarML官网 – 简化机器学习模型部署

PoplarML是一个平台，允许用户轻松部署生产就绪且可扩展的机器学习系统，工程投入极少。它提供命令行工具，支持将ML模型部署到GPU集群，并兼容Tensorflow、Pytorch和JAX等流行框架。用户可以通过REST API端点调用模型，实现实时推断。

Intel Extension for Transformers

Intel Extension for Transformers 是一个开源项目，旨在使客户端 CPU 上的大型语言模型（LLM）微调成为可能，特别是在没有 GPU 的情况下。它支持在 CPU 上进行 QLoRA 微调，适用于笔记本电脑环境，并通过优化的性能提升模型训练效率。该项目与 HuggingFace Transformers 兼容，支持 4 位推理，并利用 Intel 神经压缩器提供丰富的模型压缩技术，如量化、剪枝和蒸馏，显著提高了英特尔平台上的推理效率。此外，它还支持自动化的仅限权重的 INT4 量化流程，兼容多个流行的大语言模型，如 Llama2、Llama 和 GPT-NeoX。

DataEase开源项目 – 一款开源的数据可视化分析工具

DataEase 是开源的数据可视化分析工具，帮助用户快速分析数据并洞察业务趋势，从而实现业务的改进与优化。它支持多种平台和数据源，使用简单，适合各类用户。

Pokemon Red RL开源项目 – 使用强化学习玩Pokemon Red

通过强化学习算法，自动玩Pokemon Red，并优化游戏策略，支持自定义训练和测试环境，同时提供数据可视化功能以分析训练结果。

AI Collective官网 – 整合多种AI模型的强大平台

AI Collective是一个在线平台，允许用户访问所有领先的LLM（大型语言模型）和文本生成AI模型，旨在为用户提供多样化的AI工具和解决方案，提升工作效率和创造力。

RAGoon开源项目 – 提升语言模型性能的高级库

RAGoon是一个用于批量生成嵌入、极速基于Web的RAG和量化索引处理的高级库，旨在提升语言模型的性能。它通过搜索查询、网页抓取和数据增强技术，为用户提供上下文相关的信息，帮助更好地理解和利用数据。

NASA-Earth-Data开源项目 – 提供NASA地球科学数据产品的综合列表

NASA-Earth-Data是一个全面的NASA地球科学数据产品列表，旨在为研究人员和分析人员提供丰富的地球科学数据，支持数据研究和分析，便于与各种数据处理工具集成，具有用户友好的界面，方便用户浏览和获取所需的数据产品。

goaiadapt官网 – 强大的AI数据处理平台

GoAIAdapt是一个AI软件平台，提供创建或导入数据集、应用机器学习算法和部署强大人工智能模型的前沿解决方案。

OntoCraft官网 – AI平台，简化企业数据管理

OntoCraft 是一个AI驱动的平台，通过提供连接的数据生态系统，帮助企业简化数据管理，消除技术债务。它利用AI生成以实体为中心或语义的数据模型，并生成基于AI的商业词汇表，同时使用数据联邦技术架起数据生产者与消费者之间的桥梁。该平台加速构建去中心化数据生态系统的进程，并通过集成的数据市场实现数据现代化的货币化。

Sample tesing官网 – 自动获取预览环境，便于测试

Sample Testing项目可以为每个Git分支自动生成多个预览环境，灵活配置独立的资源和端点，适用于生产、质量保证或单纯的测试和处理。

FAMIE开源项目 – 多语言信息抽取的快速主动学习框架

FAMIE是一个快速的主动学习框架，专注于多语言信息抽取，旨在提高数据处理和模型优化的效率。它支持多种语言的信息抽取，提供用户友好的界面和灵活的模型配置，结合高效的数据标注工具，适用于快速迭代和评估不同的学习策略。

Search and Learn开源项目 – 探索搜索与学习在AI中的潜力

一个致力于探索搜索和学习两大通用方法在人工智能领域强大潜力的项目，旨在展示通用搜索和学习方法在大规模计算下的强大能力，特别是在优化大型语言模型的测试时计算方面。

min-LLM开源项目 – 最小化代码以训练大语言模型

min-LLM是一个轻量级的框架，旨在通过最小化代码来简化大语言模型（LLM）的训练过程。它提供了一个高效的训练流程，支持快速原型开发，并且易于集成和扩展，适合研究人员和开发者使用。

Awesome-Prompt-Adapter-Learning-for-Vision-Language-Models-视觉开源项目 – 语言模型的Prompt/Adapter学习工具

为视觉-语言模型（例如CLIP）提供精心策划的Prompt/Adapter学习方法列表，包含最新的研究进展和代码实现，促进模型的高效学习和应用

MOSS开源项目 – 开源双语对话语言模型

MOSS是一个支持中英双语和多种插件的开源对话语言模型，具有多轮对话能力和插件使用能力。

LLM Pruning Alternative-一种新型模型修剪方案

这是一个新的简单替代方案，基于计算输入激活的权重大小和范数之间的逐元素乘积。

OpenAI API 更新官网 – 增强API灵活性与效率

OpenAI在2023年7月13日发布了一系列API更新，包括功能调用能力、更新后的模型版本、扩展上下文长度、成本降低以及旧模型的弃用计划。这些更新旨在提升开发者使用API的灵活性和效率，特别是在需要与外部系统交互或执行特定任务的应用程序中。

XAIreason开源项目 – 增强AI推理能力的开源框架

XAIreason是一个专为推理任务设计的开源框架，为开发者提供构建逻辑性强AI系统的工具，通过增强模型的推理能力，支持复杂问题的高效求解。它具备推理引擎、知识整合、模型优化、可视化支持和兼容性强等特点，适用于决策系统、知识问答和透明AI等多种场景。

Minions开源项目 – 本地小模型与云端大模型高效协作

Minions是一个通信协议，旨在实现本地小模型与云端大模型之间的高效协作，能够显著降低云端处理成本，同时灵活适配多种模型以满足不同需求。该项目结合了最新的研究成果，支持Ollama和OpenAI等前沿技术，极大地提升了模型的处理效率和灵活性。

LLMPruner开源项目 – 大语言模型裁剪工具

LLMPruner是一款专为大语言模型设计的裁剪工具，旨在优化模型性能并减少其参数量。它支持多种模型架构，并提供可视化工具，方便用户了解模型结构和裁剪效果，易于与现有机器学习工作流集成。

Awesome-LLM-Post-training开源项目 – 大型语言模型后训练资源库

这是一个专注于提升大型语言模型（LLM）推理能力的资源库，涵盖了与LLM后训练相关的最新论文、代码实现、基准测试和资源。项目旨在帮助研究人员、开发者和爱好者深入理解如何通过后训练方法（如微调、强化学习等）增强LLM的推理、规划、决策和泛化能力。此外，它还提供了模型对齐、可扩展适应和推理时优化等新兴方向的研究资源。

TransMLA开源项目 – 将GQA转化为更强大的MLA方法

TransMLA是一种将GQA（如LLaMA-3和Qwen-2.5）转化为更强大的MLA（多头潜在注意力）的方法，旨在复制R1能力并探索MoE、MTP、混合精度量化和训练/推理加速等先进技术。

DistillFlow开源项目 – 多策略蒸馏框架

支持多策略蒸馏，动态资源分配，微调等功能的蒸馏框架，适合学习或与现有架构集成。

降低改造和使用大语言模型的成本-通过技术手段降低大语言模型成本

该项目探讨了通过量化、剪枝和蒸馏等手段来降低改造和使用大语言模型（LLM）的成本。

Vision-R1开源项目 – 强化学习提升多模态推理

Vision-R1是首个探索如何有效利用强化学习（RL）提升多模态大语言模型（MLLM）推理能力的项目。通过冷启动初始化和RL训练，该项目显著提升了模型的推理能力，并仅用7B参数实现了与70B+参数模型相当的性能。此外，Vision-R1还提供了完整的推理流程和代码，助力研究者快速上手。