本地部署AI模型

Huginn 是一种新型语言模型架构，基于循环深度设计，允许在测试时扩展计算量，而无需增加模型参数或上下文窗口长度。该模型通过在连续潜在空间中迭代循环进行隐式推理，从而提升语言模型在推理任务上的表现。Huginn 的训练数据达 8000 亿个标记，涵盖代码、数学、科学文本和通用文本等多种类型，并提供 35 亿参数的版本，适合在普通硬件上部署。

OpenBuddy-Llama3.1-8B-v22.1-131k 是由 OpenBuddy 团队开发的 AI 模型，基于 Meta 的 Llama3.1-8B 模型训练，支持多种语言，包括中文、英文、日文、韩文、法文、德文等。其上下文长度达 131072 tokens，通过 2500 万条合成数据训练，展现出与 GPT-3.5 Turbo 相似的认知和推理能力。该模型特别针对中文问答和跨语言翻译进行了优化，未来计划进一步提升中文编码效率和长文处理能力。

AingDesk是一款免费开源的AI助手，基于MIT许可，适用于个人和公司，无使用限制。它支持一键部署DeepSeek等数百种主流AI模型，解决本地部署复杂、云服务排队和知识文档管理困难等问题，提供智能知识库、智能体助手、深度联网能力、便捷分享协作等功能。未来计划包括服务器端部署、多模型同时会话和知识库增强。