LMDeploy开源项目 – 大模型高效部署工具

AMOD是一个用于在业务应用中高效部署和使用大型语言模型的平台。用户可以选择模型，选择API架构，并通过实时端点进行部署，适用于多种业务场景。

Composable Prompts是一个顶尖平台，旨在快速构建、测试和部署基于大型语言模型（LLMs）的任务和API。它为LLMs的世界带来了组合、模板、测试、缓存和可视化等功能，使开发者能够高效地创建强大的提示，重用它们，并在不同环境中进行测试。同时，它通过智能缓存优化性能和成本，并允许轻松切换模型和运行环境。

DeepCompressor是一个专为大型语言模型和扩散模型设计的模型压缩工具箱，支持多种数据类型的假量化，旨在提高模型的推理速度和效率。

Zasper是一款为数据科学家设计的超级集成开发环境，具有出色的性能，能够比Jupyterlab节省75%的内存和CPU资源，并支持高效的本地运行。

6DGS是一个基于3D高斯点云模型的项目，旨在从单幅图像中进行物体的6D姿态估计。该技术在机器人视觉和增强现实等领域具有重要应用价值。

一个专注于从NLP和计算机视觉（CV）的基础知识到视觉语言模型（VLM）前沿技术的系列教程，提供学习路线图，涵盖Word2Vec等基础知识，并逐步深入视觉语言模型技术，适合初学者和有经验的开发者。

Findernest提供全面的解决方案，包括科技咨询、云计算、数据处理和人工智能，涵盖从人员招聘到AI与网络安全的各项服务，旨在为全球企业推动卓越和执行力。

Sublayer AI 是一个将生成式人工智能引入产品开发流程的平台，帮助快速构建高质量软件，利用专门从事软件开发的AI代理，降低传统软件开发服务的成本。项目负责人可以在每一步都保持控制，审查、修改和批准工作的进展。

LangCore是一个SaaS平台，旨在为AI应用提供控制面板，帮助开发者管理API使用情况，监控反馈，并防止滥用。只需一行代码即可快速集成，简化开发流程，提高用户体验。

Scira 是一个极简主义的 AI 驱动搜索引擎，支持多种 AI 模型（如 Grok 2.0、DeepSeek、Claude 等），能够快速检索互联网信息，涵盖学术、编程、天气、地图导航、视频搜索等多种功能。它提供深度研究模式（Extreme 模式），可自主制定研究计划、进行内容分析并生成详细报告。Scira 基于 Vercel AI SDK，开源且高度可定制，适合学术、行业研究及日常信息查询。

该项目通过模拟登录QQ空间，获取用户的历史消息列表，并对数据进行分析，最终将爬取的说说存储在指定目录中。需要注意的是，对于仅自己可见的说说工具无法获取。项目推荐使用Python虚拟环境进行安装，以避免依赖冲突。该工具仅供学习和技术研究使用，不得用于任何商业或非法行为。

uv 是一个用Rust编写的Python包安装程序和解析器，速度比pip快10-100倍，支持多种项目管理任务，极大提升开发效率。

该项目提供了用于Google扫描对象数据集的MuJoCo模型，旨在支持物体识别和机器人操作任务。它包含多种真实物体的详细几何数据，并与MuJoCo仿真环境无缝集成，适用于多种物理仿真和机器人研究。

Latte是一个先进的AI视频编辑器，专为社交媒体内容创作者设计，简化视频制作过程，自动生成字幕，优化长视频为短片，节省时间和成本。

基于ColossalAI的软件缓存方法来动态管理CPU和GPU内存空间中的极大嵌入表，能够在单个GPU上高效训练包括91.10 GB嵌入表的DLRM模型，仅需分配3.75 GB的CUDA内存，适用于大规模数据集。