自回归变换器

一种通过哨兵令牌压缩自回归变换器上下文的方法，提高模型效率。

Janus是一个多模态理解和生成一体的模型，能够同时理解图片内容并生成新图像。它通过解耦设计来满足理解和生成任务对视觉编码器的不同需求，采用统一的自回归变换器架构处理各种模态的输入。

GPT-NeoX是一个基于Transformer架构的大规模开源语言生成模型，能够生成高质量的自然语言文本，支持多种应用场景，包括对话系统、文本创作、内容生成等。该模型在大规模数据集上进行预训练，并可以根据特定任务进行微调，具有强大的文本理解与生成能力，适合开发者用来构建个性化的AI应用。此外，GPT-NeoX还支持大规模模型并行，基于DeepSpeed库优化了内存使用，具有高效的训练和推理性能，灵活的架构支持多种训练配置，是一个开放源码、社区驱动的项目。

ChatGLM-6B-API是基于清华大学开源的对话语言模型ChatGLM-6B和FastAPI构建的API，能够在本地部署并提供API接口，方便用户进行对话生成和自然语言处理。

BreveAI 提供了一种独特的大型语言模型（LLM）方法，能够与现实世界数据整合，优先考虑任务效率。它采用开源模式，提供易于使用的API，定价透明，较当前LLM价格低30%，且准确率高40%。

一个汇集了可通过API访问的免费大型语言模型（LLM）推理资源的列表，方便开发者获取和使用各种大型语言模型的API。

ScaleLLM是一个面向大型语言模型高性能推理的系统，经过仔细设计，能够满足产业级环境的需求。

Midjourney API由The Next Leg提供，是一个非官方的API，允许用户与流行的AI图像生成工具Midjourney进行交互。用户只需注册订阅计划，获取API密钥，即可开始向Midjourney API发送请求，进行各种图像生成和创意项目。

NLP-Knowledge-Graph项目致力于将自然语言处理、知识图谱和对话系统三大技术进行深度研究与应用。该项目不仅支持构建和优化对话系统，还提供多种数据处理与分析工具，具备强大的可扩展性，允许用户自定义模块，并支持多语言处理，满足不同领域的需求。

AnglE是最新的文本嵌入模型，旨在优化文本嵌入，作为新一代的语义文本相似度方法，取得了新的最先进(SOTA)结果。它提供了预训练模型，包括语言模型(LLM)和数据集。

Lightning + Colossal-AI 是一个结合了Colossal AI和Lightning AI强大功能的大规模分布式模型训练框架，旨在简化模型训练和部署过程，同时优化内存使用和计算效率，具有强大的可扩展性，适用于多种硬件配置。

一个基于FastAPI的Llama2嵌入服务，旨在提供高效的文本嵌入功能。该服务通过RESTful API接口，支持多种输入格式，能够快速生成文本嵌入，方便用户集成到现有的应用程序或机器学习管道中。

FastML是一个终极的MLOps基础框架，旨在加速机器学习项目的开发与部署。它提供了全面的数据处理、预处理、建模和部署脚本，为用户从创意到生产的旅程提供了简化的解决方案。

Aigur.dev 是一个免费的开源库，允许用户组合和调用完全类型化的生成AI管道。用户可以通过声音生成图像，或通过图像创作诗歌！该项目使生成AI的应用场景更加丰富多彩。

该框架将3D感知集成到预训练的2D扩散模型中，增强了得分蒸馏的鲁棒性和3D一致性，旨在解决2D扩散模型无法捕捉3D一致性的问题。

本项目提供了一份关于大型预训练基础推荐模型的文献综述，探讨了推荐系统的基础模型及其演变，包括ID嵌入的必要性、替代方案，以及推荐系统向生成范式转变的可能性。此外，还研究了如何利用大型语言模型增强推荐系统的性能，并论述了多模态推荐系统的未来发展方向。