LM Studio官网 – 在本地运行大语言模型

LM Studio是一个可以在个人计算机上离线运行大语言模型的工具，支持与本地文档的交互，并提供内置的聊天用户界面或兼容OpenAI的本地服务器接口。

LM Studio的特点:

1. 离线运行大语言模型
2. 与本地文档进行聊天交互
3. 内置聊天用户界面
4. 兼容OpenAI的本地服务器

LM Studio的功能:

1. 在计算机上运行大语言模型进行文本生成
2. 通过聊天界面与本地文档进行信息查询
3. 使用本地服务器接口进行API集成

相关导航

Manifold开源项目 – AI驱动的工作流自动化平台

Manifold 是一个强大的AI驱动的工作流自动化平台，旨在简化复杂任务并提高效率。它集成了多种AI模型，支持文本生成、图像生成和检索增强生成（RAG）。平台提供强大的语义搜索能力，结合PGVector和SEFII引擎，支持多种流行AI端点，如OpenAI、llama.cpp、Anthropic等，扩展性强。Manifold 使用 Vue+Go+Python 开发，支持 OpenAI 兼容接口、本地 llama.cpp 和 mlx，以及 PGVector 作为向量数据库进行 RAG 工作，并提供 Docker 镜像部署。

KLEE-CLIENT官网 – 安全本地化的桌面AI客户端

KLEE-CLIENT是一个专注于数据隐私的桌面AI工具，支持完全离线运行开源大语言模型（如DeepSeek/Llama等），内置RAG知识库和Markdown笔记系统。提供免费隐私模式（无限本地对话）和Pro订阅模式（12美元/月解锁云模型），未来计划推出团队协作和企业级功能。所有数据处理均在本地完成，确保零数据收集，适合医疗、法律等敏感领域使用。

Cray-LM开源项目 – 开源的LLM训练与推理平台

一个开源的LLM训练与推理一体化平台，让大模型的开发和部署变得简单高效。

Jan开源项目 – 开源离线大语言模型运行工具

Jan 是一个开源的 GPT 替代工具，支持在本地计算机上 100% 离线运行主流开源大语言模型，如 Mistral、Llama、Mixtral 等。它提供了一个高颜值且操作便捷的图形用户界面，用户无需编写代码即可轻松安装、管理和使用这些模型。Jan 兼容 Windows、Mac 和 Linux 系统，并支持多种硬件架构，包括 Nvidia GPU、Apple M 系列、Apple 英特尔、Linux Debian 和 Windows x64。此外，Jan 还支持与外部人工智能服务（如 ChatGPT 或 Google）的连接，并允许用户根据特定需求定制人工智能模型，将其集成到日常工具和应用程序中。

LLMFarm开源项目 – 支持iOS和MacOS的离线大语言模型

LLMFarm是一个基于GGML库构建的项目，支持在iOS和MacOS平台上离线运行多个大语言模型，提供用户友好的界面和高效的模型加载与推理功能。

TinyLM开源项目 – 浏览器中的轻量级AI推理框架

TinyLM是一个在浏览器中运行AI模型的轻量级推理框架，支持多种模型，如DeepSeek、Llama 3.2等，完全兼容OpenAI接口，无缝对接现有应用，并提供详细的进度跟踪和中断支持，以提升用户体验。

思绪四散：关于o1类LLMs的欠思考现象论文 – 揭示LLMs推理缺陷并提出改进策略

该项目研究揭示了o1类大型语言模型（LLMs）在复杂推理任务中存在的‘欠思考’现象，即模型倾向于频繁切换不同推理思路而未能深入探索有前景的路径。研究通过三个挑战性测试集（MATH500、GPQA Diamond和AIME）和两个代表性开源o1类模型（QwQ-32B-Preview和DeepSeek-R1-671B）的实验，系统分析了这一问题。研究发现错误回答比正确回答使用更多令牌且思路切换频率更高，超过70%的错误回答包含至少一个正确思路。为量化欠思考，研究引入了ξ_UT指标，并提出‘思路切换惩罚（TIP）’解码策略，通过阻止过早的思路转换来提升模型在挑战性数据集上的准确率。实验结果显示TIP策略显著提高了模型性能，且无需微调模型。

Brexa官网 – 最简单的销售管理平台

Brexa 是一个集销售、预约调度、开票、在线聊天和客户管理于一体的简单CRM系统，提供全面的平台和多个功能，以帮助企业高效管理客户关系。

Andsend官网 – 推动客户关系与销售管道

Andsend是全球首个客户关系代理，通过识别机会并草拟令人信服的邮件和LinkedIn消息，帮助用户轻松维护对话并达成交易。用户只需审核并发送，轻松掌控，毫不费力。

personal-ai开源项目 – 本地化个人AI助手

Personal AI 是一个利用 Apple Shortcuts、Cloudflare Workers 和 Llama 3 组装的本地 AI 助手，无需额外硬件或月费。它通过 Apple Shortcuts 提供 ASR、TTS 和 HTTP 请求功能，并通过 Cloudflare Workers 处理文本和函数调用。该助手支持与 Llama 3 的集成，比所有 AI 可穿戴设备更快，并且可扩展以支持更复杂的函数调用和内存管理。