llama4micro是一个在单片机上运行的LLaMA模型,专为资源受限的环境设计,支持15M参数模型,内存占用约60MB,能够以每秒约2.5个token的速度生成文本,特别适合生成小故事,优化用于单片机平台。
BIG-Bench是一个用于评估神经网络模型性能的基准测量工具,旨在提供全面的评估方法,通过多个任务和指标来衡量AI模型的能力。
Fable Wizard 是一个个性化儿童故事生成器,允许父母在几秒钟内为孩子创造独特而神奇的寓言。每个故事都是实时创作,旨在激发和吸引孩子的想象力,确保每次阅读体验都是新鲜且沉浸的。
允许用户通过统一的 API 访问多平台的生成式模型,litellm的国内版,旨在简化模型调用和集成流程,提升开发效率。
基于LLaMA衍生的本地模型,风格偏向ChatGPT的聊天模式,能够接入流行的ChatGPT开源界面Chatbot UI。该项目旨在提供高效的自然语言处理功能,支持多种语言的输入和输出,可在本地运行,无需依赖互联网,特别适合低资源环境。
AubAI是一个开源的Flutter/Dart包,旨在为移动应用提供先进的本地生成式AI(gen-AI)模型,包括离线文本生成等功能。