所有AI工具AI开发框架AI开源项目AI编程工具

TinyLM开源项目 – 浏览器中的轻量级AI推理框架

TinyLM是一个在浏览器中运行AI模型的轻量级推理框架,支持多种模型,如DeepSeek、Llama 3.2等,完全兼容OpenAI接口,无缝对接现有应用,并提供详细的进度跟踪和中断支持,以提升用...

标签:

AI交流(进群备注:TinyLM)

TinyLM是一个在浏览器中运行AI模型的轻量级推理框架,支持多种模型,如DeepSeek、Llama 3.2等,完全兼容OpenAI接口,无缝对接现有应用,并提供详细的进度跟踪和中断支持,以提升用户体验。

TinyLM的特点:

  • 1. 支持多种模型,如DeepSeek、Llama 3.2等
  • 2. 完全兼容OpenAI接口,无缝对接现有应用
  • 3. 提供详细的进度跟踪和中断支持,提升用户体验

TinyLM的功能:

  • 1. 在浏览器中运行DeepSeek模型进行推理
  • 2. 使用OpenAI兼容接口与现有应用集成
  • 3. 在浏览器中运行Llama 3.2模型进行推理
  • 4. 利用进度跟踪功能监控模型推理进度
  • 5. 在浏览器中运行NomicEmbed和KokoroTTS模型进行推理

相关导航

暂无评论

暂无评论...