一个Python包,用于存储、检索和动态创建GPT模型的提示。旨在简化管理大型语言模型的过程,使在生产环境中改进语言模型变得更加简单。
LMDeploy是一个开源的大模型部署工具,旨在将复杂模型高效地部署到生产环境中,特别适合急需将AI大模型推向市场的团队。它提供了一系列功能,包括模型量化、推理加速、动态调度、硬件适配和服务封装,帮助用户快速集成和扩展大模型能力。
gigaGPT是一个用于训练具有数百亿参数的大型语言模型的代码库,仅有500多行代码。它受到Andrej Karpathy的nanoGPT启发,但专为Cerebras硬件优化,能够扩展到GPT-3规模的模型。gigaGPT旨在提供一个干净、高效和可用的代码库,而不是追求训练最先进的模型。
Gemini AI是一个强大的人工智能平台,提供多种交互方式,用户可以通过动态对话、自由格式提示以及结构化提示与AI进行互动,探索AI的潜力和创新应用。
LLMonitor是一个开源的监控与评估工具,专为AI开发者设计,旨在通过日志查询和分析提升应用的质量。它为基于大型语言模型的应用提供可观察性和日志记录功能,帮助开发者优化和调试复杂的AI代理和聊天机器人。
Ollama是一个能创建、运行和共享自包含大型语言模型(LLM)的工具,将模型的权重、配置、提示等打包成自包含的文件,可以在任何地方运行。
CSGHub是一个开源的、可信的大模型资产管理平台,旨在帮助用户管理与大型语言模型及其应用(如数据集、模型文件、代码等)生命周期相关的资产。
Open AI Chatbot是基于OpenAI的GPT和Codex模型的应用,能帮助用户在项目协助、研究和满足好奇心等方面。用户只需访问网站注册账户,登录后即可输入查询、提示或请求,获取AI生成的响应,轻松解决各种问题。
adapt-demos是一个轻量级的工具集,旨在快速和轻松地演示大型语言模型(LLM)的功能,支持多种模型的比较与安全过滤,便于用户保存对话记录,简化AI模型的演示过程。
Repopack是一款功能强大的工具,可将整个存储库打包成一个 AI 友好文件,适用于大型语言模型 (LLM) 和其他 AI 工具。
Memobase是为生成式AI应用打造的用户画像记忆系统,能够帮助AI记住用户的各种信息,从而显著提升用户体验和留存率。
Llumnix是一个针对大型语言模型(LLM)多实例服务的高效且易于使用的请求调度层,支持动态调度、内存碎片化减少、加载均衡优化,并且易于与现有的多实例部署平台集成。
AICommit是一个基于人工智能的JetBrains IDE插件,通过提供智能化功能如提交信息生成、代码优化、解释、文档生成、代码转换和翻译,提升编码工作流的效率。
字节跳动提供 DeepSeek R1、OpenAI o1、GPT-4o、Claude 3.5 和 Gemini 1.5等领先大模型