Llama-2-Onnx开源项目 – 优化的Llama 2模型

Llama 2 模型的优化版本，包含一系列解码器层，使用不同的投影大小和架构变化以提高效率。
Llama-2-Onnx的特点:
1. 优化的Llama 2模型
2. 不同的投影大小，提高计算效率
3. 包含自注意层和前馈多层感知器的解码器层
4. 相较经典变换器模型的架构改进

Llama-2-Onnx的功能:
1. 在深度学习项目中使用优化的Llama 2模型进行自然语言处理
2. 利用ONNX格式进行跨平台部署和推理
3. 在研究中对比不同变换器架构的性能表现

相关导航

Adaptive官网 – 提升企业AI能力的先进工具

Adaptive是一个先进的AI工具，旨在改变企业利用大型语言模型（LLMs）的方式。它提供了一整套工具，通过强化学习技术对开放模型进行微调和部署，增强其性能，确保满足特定的业务需求，同时保护用户隐私。Adaptive特别适合希望通过优化模型适应性、快速推理和基于实时反馈的持续改进来提升生成AI能力的企业。

ELMo-keras开源项目 – Keras实现的ELMo模型

ELMo-keras是Ilias Chalkidis在Keras上重新实现的ELMo（Embeddings from Language Models）模型。该项目旨在通过Keras框架提供深度上下文化的词表示，便于模型的构建和训练。ELMo-keras支持与TensorFlow后端的兼容性，并允许用户自定义模型架构和超参数。该项目适用于多种自然语言处理任务，如文本分类、命名实体识别等，并可以轻松集成到现有的NLP管道中，以提升文本理解能力。

Wikipedia-Utils开源项目 – 面向自然语言处理的维基百科文本预处理工具

Wikipedia-Utils是一个专门为自然语言处理设计的工具，旨在高效地对维基百科文本进行预处理。它支持多种文本处理功能，能够处理大规模的维基百科数据，并且易于集成到现有的自然语言处理工作流中。该工具还提供丰富的API接口，方便用户根据需求进行定制化操作。

ChatGLM Efficient Tuning开源项目 – 高效微调ChatGLM-6B

ChatGLM Efficient Tuning 是一个基于 PEFT（Parameter-Efficient Fine-Tuning）技术的高效微调项目，专注于对 ChatGLM-6B 模型进行微调。该项目通过多种微调方法，如 freeze、ptuning 和 lora，提供了一种资源节约且高效的微调方案，适用于多种自然语言处理任务，如对话生成和文本分类。

makeMoE开源项目 – 稀疏专家混合语言模型实现

makeMoE 是一个从头开始实现的稀疏专家混合语言模型，基于 PyTorch 框架，采用自回归字符级语言模型架构。该项目灵感来源于 Andrej Karpathy 的 makemore 项目，旨在通过稀疏专家混合架构实现高效的语言模型训练和推理。它涵盖了模型的基本组成、自注意力机制、专家网络、Top-k 路由、噪声 Top-k 路由等核心组件的代码实现，并提供了模型的初始化方法、训练循环以及文本生成示例。makeMoE 不仅适用于研究和学习稀疏专家混合语言模型的实现，还可作为自回归字符级语言模型的参考实现，适用于自然语言处理领域的实验和开发。

Orion-14B系列模型 – 多语言大型语言模型

Orion-14B系列是OrionStarAI开发的开源多语言大型语言模型，拥有140亿参数，基于2.5T多语言语料库训练，支持中文、英语、日语、韩语等多种语言。该系列模型在自然语言处理任务中表现出色，特别在日语和韩语测试集上表现突出。模型支持长文本处理、高效推理，并可作为其他模型的预训练基础。

Reor开源项目 – 本地运行的人工智能笔记应用

Reor是一款在本地运行模型的人工智能笔记应用程序，专注于保障用户隐私与安全，同时提供智能的笔记整理和分类功能。它支持多种笔记格式，并具备自然语言处理能力，便于快速搜索与管理笔记。

Deploifai官网 – 高效易用的AI模型部署平台

Deploifai是一个允许用户高效、轻松地部署和管理AI模型的平台，提供无缝的生产环境模型部署体验。

Assert AI官网 – 智能计算机视觉技术

Assert AI 是一家专注于将普通摄像头转变为智能观察者的前沿计算机视觉公司，能够几乎自主地执行复杂的视觉任务。

图神经网络实战课程开源项目 – 全面学习图神经网络的实战课程

本课程使用PyTorch Geometric，深入讲解图神经网络的深度学习技术，内容涵盖从基础架构到最新研究进展的全面知识，适合对图神经网络感兴趣的研究者和开发者。通过本课程，学员可以掌握图神经网络的核心概念和实践技能，并能够应用这些知识解决实际问题。

Sapiens官网 – 提升人类视觉任务的精度和效率

Sapiens 是由 Meta 开发的一种新型人类视觉模型，旨在通过深度学习技术模拟人类视觉感知。它基于大量图像数据和高级算法，支持 1K 高分辨率推理，适合多种人类相关的视觉任务。该项目在二维姿态估计、身体部位分割、深度估计和表面法向量预测等任务上表现出色，尤其在野外数据上的泛化能力显著。Sapiens 通过预训练于超过 3 亿张野外人类图像，展示了卓越的性能，并通过简单微调适应各种任务。

gpt4all.cpp开源项目 – 轻量级的C++自然语言生成库

一个用于生成自然语言文本的C++库，基于LLaMA和Stanford Alpaca，但资源开销很小，可以在本地消费级GPU上运行。