llama-cli开源项目 – 自托管LLaMA/alpaca模型API与CLI工具

llama-cli是一个用Go语言编写的自托管解决方案，提供简单的LLaMA/alpaca模型API和命令行界面（CLI）。它允许用户在本地环境中托管和交互LLaMA/alpaca模型，并支持将这些模型集成到自定义应用程序中进行推理。该项目以高性能和高效为目标，适合在各种环境中部署。

llama-cli的特点:

1. 自托管LLaMA/alpaca模型的解决方案
2. 简单易用的API
3. 命令行界面（CLI）进行交互
4. 用Go语言编写，确保高性能和效率
5. 支持LLaMA和alpaca模型

llama-cli的功能:

1. 运行API服务器以在本地托管LLaMA/alpaca模型
2. 使用CLI与托管的模型进行交互
3. 将API集成到自定义应用程序中进行模型推理
4. 在各种环境中部署自托管解决方案

相关导航

lazydocker开源项目 – 简洁的终端 Docker 管理工具

Lazydocker 是一个基于 Go 语言开发的命令行界面 Docker 管理工具，使用 gocui 库构建。它通过一个简洁的终端界面，让用户可以实时查看 Docker 容器、镜像、网络等信息，并提供交互式的操作方式。Lazydocker 支持启动、停止容器，查看日志、容器详情，管理镜像和网络等操作，支持 Docker Compose 配置的管理，并具有高度可定制化的特点。

Maestro开源项目 – 加速多模态模型微调的工具

一个专为加速多模态模型（如 PaliGemma、Florence-2 和 Qwen2-VL）微调的工具，简化配置、数据加载、重现性和训练循环的设置。

CitationHelper开源项目 – 自动显示Google Scholar引用次数

CitationHelper 是一个命令行工具，旨在帮助用户每次打开命令行时轻松查看Google Scholar的引用次数。它通过自动化的方式显示引用次数，无需手动查询，支持多人引用次数查询，方便用户对比不同作者的学术影响力。

ngrid开源项目 – 终端表格数据浏览工具

ngrid 是一个用于在基于文本的终端环境中交互式浏览大型表格数据集的工具。它类似于数据版的 'less' 命令，使得在命令行中直接查看和导航大型表格变得轻松。

leetgo开源项目 – LeetCode刷题命令行工具

leetgo 是一个命令行工具，旨在帮助用户更高效地管理 LeetCode 代码，简化常用的 LeetCode 操作，提升解题效率。它支持自动生成题目描述、样例代码和测试代码，并允许用户通过模板引擎自定义配置生成的代码文件。此外，leetgo 还支持本地测试和调试代码，自动生成竞赛题目并一键提交，同时兼容 leetcode.com 和 leetcode.cn。它还支持从浏览器中自动读取 LeetCode 的 Cookie，并可以在用户喜欢的编辑器中打开生成的代码文件。

SiLLM开源项目 – 简化Apple Silicon上大语言模型的训练与推理

基于 MLX 框架的 Silicon LLM 训练和推理工具包，简化了在 Apple Silicon 上训练和运行大语言模型的过程，旨在为开发者提供高效、易用的工具，以应对资源有限的设备上的大语言模型需求。

HuggingFace Model Downloader开源项目 – HuggingFace模型下载工具

HuggingFace模型下载器，从HuggingFace网站下载模型/数据集的实用工具，提供了多线程下载LFS文件的能力，并通过检查SHA256校验和确保已下载模型的完整性

cobra开源项目 – 强大的现代CLI应用程序库

Cobra是一个用于创建强大现代CLI应用程序的库，提供了一个简单的接口，使得Go语言开发者能够轻松构建类似于`git`和`go`工具的命令行工具。它支持子命令管理、POSIX兼容的标志、智能建议、自动生成帮助信息，非常适合用于管理复杂的CLI应用。

Classified开源项目 – 数据质量分类工具

LLM预训练数据质量分类工具，支持本地或Huggingface Hub数据集的多维度评估，可总结数据集质量、筛选数据集或训练自定义分类器

HF-LLM.rs开源项目 – 命令行工具访问Hugging Face LLM

HF-LLM.rs 是一个命令行工具，旨在便捷地访问 Hugging Face 托管的大型语言模型（LLM）。该工具支持用户选择不同的模型，提供输入提示功能，以及实时输出流和聊天模式，适合开发者和研究人员使用。

PDFMathTranslate开源项目 – PDF文档翻译工具，支持双语对照

一个 PDF 文档翻译及双语对照工具，能够保留文档中的公式、图表、目录和注释等排版，支持多种语言及多种翻译服务。

htpdate开源项目 – 通过web服务器同步时间的工具

htpdate是一个利用web servers来进行时间同步的工具，通过向不同网站发出请求，计算服务器返回时间的中位数，并用作时间同步。

WizModel官网 – 无代码机器学习推理平台

WizModel 提供统一的 API，让用户可以轻松地进行机器学习模型推理，无需编写复杂代码，适合生产环境使用。用户可以通过演示界面体验模型，支持多种工具的直接 API 查询。

YaRN开源项目 – 高效的上下文窗口扩展工具

YaRN是一个高效的上下文窗口扩展工具，旨在提高大型语言模型的上下文处理能力。

gem-assist开源项目 – AI终端助手

gem-assist 是一个强大的AI终端工具，旨在提升命令行操作的效率和智能化程度。它支持在命令行中进行搜索、与本地文件互动以及获取系统信息等功能。通过集成DuckDuckGo搜索引擎，用户可以直接在终端中执行搜索操作；同时，它还能与本地文件进行智能对话，帮助用户快速获取文件内容或执行相关操作；此外，gem-assist 还提供了系统信息获取功能，方便用户随时查看系统状态。

暂无评论

暂无评论...