Helicone AI官网 – 开源的AI应用监控平台

Tiktokenizer是一个专为开发者设计的平台，旨在追踪用户的AI token使用情况。它实现了用户使用情况的无缝监控，确保AI应用用户的透明和公平计费过程。开发者可以轻松将其集成到AI应用开发过程中，通过将请求和主体转发给OpenAI的Chat API，开发者可以在单个请求中接收AI响应并追踪使用情况。Tiktokenizer会在每次请求中自动监控用户的token，并与OpenAI的Moderations API集成，提供实时的token使用信息。开发者还可以定期刷新token以进行订阅，并通过使用API向用户展示token消耗情况。预构建的代码片段使得实现过程简单高效。

Prompt Dress是一款Chrome浏览器扩展，帮助用户存储、管理和使用AI提示，通过直观的用户界面、动态提示支持、一键插入、序列预热和简单的组织功能，使AI交互更加高效。

ProbSem是一个利用大型语言模型(LLMs)为查询字符串分配上下文条件概率分布的框架，默认支持所有OpenAI引擎和HuggingFace CausalLM模型。

这个项目展示了如何借助MLX在Mac上运行微软的2.7B小语言模型Phi-2以及Mixtral 8x7B混合专家模型，支持在Apple M2 Ultra上进行高效的模型训练和推理，提供简化的模型权重下载和加载流程，同时兼容Python环境。

DeepBI充分利用大语言模型的能力来探索、查询、可视化和共享来自任何数据源的数据，用户可以使用DeepBI洞察数据并做出数据驱动的决策。

《解构大语言模型：从线性回归到通用人工智能》配套代码，提供了大语言模型的实现与分析，展示了线性回归与语言模型之间的关系，并支持多种数据集与训练配置，易于扩展与自定义。

SymbiotAI致力于帮助人类和AI模型协作，共同创造一个更美好的世界。用户只需注册一个账户，即可开始与AI模型进行合作。

EurekaLabsAI的n-gram语言模型：基于统计学原理的文本生成工具，通过学习字符序列的概率分布来生成新文本，适用于自然语言处理和机器学习的基础训练。

The Prompt Index是一个提供丰富AI提示和提示工程资源的网站，拥有广泛的AI提示数据库和支持性社区，供提示爱好者分享和合作创建最佳AI提示，适用于各种应用。用户可以探索全面的AI提示数据库，根据类别、最新性和受欢迎程度筛选提示，找到所需内容，还可以加入活跃的社区，注册并提交自己的提示。

一款用于评估和红队任何大型语言模型（LLM）应用的简单且模块化工具，由AI验证基金会开发，集成了基准测试和红队测试，帮助AI开发者、合规团队和AI系统所有者评估LLMs和LLM应用。

AI Prompt Studio是一款软件应用，旨在通过管理提示词、触发词和元数据，增强用户在人工智能图像生成方面的工作流程。它帮助提示工程师组织和优化创建扩散图像的结果，用户可以轻松比较、检查和分享生成的图像。该工具还提供复杂的词汇分析，帮助识别质量标签，并允许自定义图像布局。

lite_llama是一个轻量级推理框架，旨在优化大型语言模型的性能，提供高达3.4倍的推理加速，支持最新的模型和流式输出功能，基于Triton实现，适用于各种需要高效推理的应用场景。

PromptChainer是一个强大的工具，允许用户使用预构建模板和代码库来创建个性化的工作流程，从而构建和扩展先进的AI支持应用程序和流程。

Pezzo是一个先进的AI平台，旨在彻底改变开发者构建、测试、监控和部署AI功能的方式。它简化了AI开发流程，使其更快、更高效和更具成本效益。通过提供提示管理、可观察性、故障排除和协作工具，Pezzo使团队能够将AI驱动的功能交付速度提高至传统方法的10倍。

Portkey 使得你的AI应用的生产化变得轻而易举，提供统一的API管理多个AI提供商，确保应用的可靠性，并提供实时监控和调试功能。

Platea AI帮助团队快速运行并行测试，结合多个提示和模型，快速达到所需的提示水平。它还允许用户轻松管理和操作快速创建的提示版本。

Baron AI是终极AI接口，用户可以在任何应用中通过热键轻松启动ChatGPT，还能创建专家角色显著提升响应质量。用户可以轻松保存、重用和分享常用提示，免去复制粘贴的麻烦。Baron支持Windows、Mac和Linux，用户能够通过配置个人资料和提示引擎来定制对话，提升每次互动的上下文和质量。

NisusAI 是一个平台，通过无编码方式简化生成AI助手的创建，提供文档、模型和提示管理，快速开发和可扩展性，以变革商业流程。我们被微软初创企业项目接受。

nele.ai帮助企业快速、安全地实施AI技术，如ChatGPT，同时确保数据隐私，并简化提示管理。

Humanloop是一个为AI工程师及其团队设计的平台，旨在快速构建稳健的生产级应用，利用前沿的语言模型。用户可以在一流的操作环境中管理提示，评估工作流程，控制代理，并微调自有的语言模型，以创建差异化且可靠的AI应用。

Agenta 是一个专为构建生产级语言大型模型 (LLM) 应用程序而设计的开源平台。它提供了端到端的工具，涵盖 LLMOps 工作流的各个阶段，包括构建、部署和监控。Agenta 帮助工程团队和产品团队更快地构建稳定的 LLM 应用程序，提供提示游乐场、自定义工作流、LLM 评估、提示管理、LLM 跟踪和监控等功能。

Athina AI是一款旨在帮助开发者监控和评估其大语言模型（LLMs）应用程序的工具，专注于生产环境中的性能监控、故障检测以及提示管理。通过Athina，开发者可以实时跟踪LLMs的表现，及时发现并修复模型的幻觉问题，从而提升应用的可靠性和用户体验。

PRST.ai是一个自托管的AI自动化工具，专注于提升任何AI工具的提示管理能力。用户可以无缝集成和管理外部AI工具，自定义提示而无需编码，并根据API使用量定制定价，从而完全掌控他们的AI旅程。该工具支持安全数据管理、用户反馈捕获、高级分析和企业级设置，具备灵活的API和用户界面。

dottxt-ai/prompts 是一个专门用于生成和管理提示（prompts）的库，使用 Jinja 模板来渲染提示，并且支持大型语言模型和提示工程。它提供灵活的提示管理功能，使得用户能够方便地创建和定制用于自然语言处理的提示。

Superpower ChatGPT 是一个聊天机器人平台，提供多种功能以帮助用户管理聊天记录和提示，并自定义语言和风格。它具有聊天管理、提示管理、语言风格定制及实用工具等特点，旨在提升使用者的聊天体验。