MnnLlmApp-基于MNN开源项目 – LLM的安卓离线应用

MnnLlmApp是一个基于MNN-LLM框架的Android手机应用，支持各类大型语言模型（LLM）在手机上离线运行，能够处理多模态任务，包括文本生成、图像生成和音频转文本等。该应用在安卓平台上具有优秀的CPU性能，预填充速度相较于其他框架大幅提升，支持多种模型，完全在设备本地运行，确保数据隐私和处理效率。

MnnLlmApp的特点:

1. 支持多种多模态任务：文本生成文本、图像生成文本、音频转文本、文本生成图像
2. 在安卓平台上，CPU性能优秀，预填充速度较llama.cpp提高了8.6倍，较fastllm提升了20.5倍
3. 支持多种模型：Qwen、Gemma、Llama（TinyLlama与MobileLLM）、Baichuan、Yi、DeepSeek、InternLM、Phi、ReaderLM、Smolm等
4. 完全在设备本地运行

MnnLlmApp的功能:

1. 在手机上离线运行大型语言模型
2. 生成文本、图像及音频的多模态应用
3. 利用高效的CPU性能进行快速的数据处理

相关导航

Nesa开源项目 – 以加密方式运行AI模型

Nesa 以端到端加密的方式运行 AI 模型，确保数据隐私和安全，适用于各种敏感数据处理场景。

imandra.ai官网 – 赋能AI的逻辑推理平台

Imandra是一个推理即服务的平台，赋予AI逻辑推理能力，适用于构建大型语言模型的思维模型、正式验证论证和结果，以及可审计的逻辑推理。

BoltAI官网 – 在Mac应用中直接访问ChatGPT

BoltAI提供即时访问ChatGPT的能力，用户可以在任何Mac应用中与ChatGPT互动，消除了上下文切换的需要，从而提升工作流程和生产力。

Breaking Prompt官网 – 创新的新闻获取工具

Breaking Prompt 是一款利用大型语言模型（LLMs）为用户提供各类最新新闻洞察的工具，涵盖商业、科技、政治等多个领域。通过精心设计的提示，帮助用户深入理解最新动态，让用户始终走在信息前沿。

Awesome-Story-Generation开源项目 – 收集故事生成相关的优秀论文

该项目汇集了关于故事生成/叙事的大量优秀论文，主要集中在大型语言模型（LLMs）时代的研究。

Cupiee官网 – 情感AI与Web3的交汇

Cupiee是一个开创性的情感AI平台，结合了人工智能和区块链技术，为匿名情感分享和治疗提供安全、支持的环境。用户可以在这里探索自我，进行情感治愈，获得重视和理解。

DeepSeek-R1官网 – 专注于推理、数学和编码的尖端语言模型

DeepSeek-R1 是由 DeepSeek AI 开发、通过 NVIDIA NIM 平台支持的大型语言模型，拥有 6710 亿参数，专注于推理、数学和编码任务。它采用链式思维方法和测试时间扩展技术，能够生成文本、解决复杂推理问题、辅助编码和数学任务，并进行自然语言对话。模型提供精简版本，适合不同硬件环境使用，广泛应用于 AI 研究、教育、编码辅助等领域。

天工AI搜索官网 – 首个AI搜索产品

天工AI搜索是昆仑万维推出的首个AI搜索产品，利用100亿参数级的大型语言模型‘天工’，提供精准、个性化的对话式回答。它集成了搜索、对话、写作、文档分析、绘图和PPT制作等多种功能，适合学习、工作和生活。

imodelsX开源项目 – 可解释的自然语言处理模型

imodelsX是一个专注于自然语言处理的可解释性模型，利用大型语言模型为数据集提供自然语言解释，增强NLP任务的透明度，并支持多种提示和模型选择。

BigCode模型 – 开源代码生成AI项目

BigCode 是一个由 Hugging Face 和 ServiceNow 联合领导的开源科学合作项目，专注于负责任地开发和使用大型语言模型（LLM）进行代码相关应用。该项目提供了多种模型和数据集，如 StarCoder2 系列模型和 The Stack v2 数据集，涵盖超过 600 种编程语言，支持代码生成、代码补全、文本摘要等功能。BigCode 的目标是通过开源和开放科学推进人工智能的发展，特别是在代码生成和理解领域。