所有AI工具AI开发框架AI开源项目
local-llm-function-calling开源项目 – 本地LLM快速接入function call
local-llm-function-calling 是一个专为本地部署的大语言模型(LLM)设计的工具,旨在快速接入 function call 功能。它允许开发者将本地部署的 LLM 与应用程序或系统无缝集成,从...
标签:AI开发框架 AI开源项目DeepSeek支持 function call功能接入 本地LLM集成工具AI交流(进群备注:local-llm-function-calling)

local-llm-function-calling 是一个专为本地部署的大语言模型(LLM)设计的工具,旨在快速接入 function call 功能。它允许开发者将本地部署的 LLM 与应用程序或系统无缝集成,从而实现更高效的 function call 操作。该项目特别适合需要在本地环境中使用 LLM 并调用特定功能的场景,并且还提供了支持 DeepSeek 的 fork 版本,进一步扩展了其适用性。
local-llm-function-calling的特点:
- 1. 专注于 function call 功能
- 2. 适合与程序或应用集成
- 3. 支持本地部署的 LLM
- 4. 有支持 DeepSeek 的 fork 版本
local-llm-function-calling的功能:
- 1. 与本地部署的 LLM 集成
- 2. 在程序或应用中快速接入 function call 功能
- 3. 通过 fork 版本支持 DeepSeek
相关导航

LLaMA-Factory开源项目 – 高效微调大语言模型的工具
LLaMA-Factory 是一个易于使用的 WebUI 框架,旨在高效微调 100 多种大语言模型(LLM)。它支持多种模型和训练方法,包括 LLaMA、Mistral、Qwen 等,并集成了多种微调方法如 LoRA、QLoRA、PPO、DPO 等。LLaMA-Factory 提供了高级算法如 GaLore、BAdam、DoRA、LongLoRA 等,以及实用技巧如 flashattention、RoPE 缩放等,以优化微调效果。此外,它还支持实验管理工具如 LlamaBoard、TensorBoard、Wandb,以及高效的推理接口如 Gradio UI 和 OpenAI 风格的 API。
暂无评论...