AI应用监控

Helicone是一个开源平台，用于记录、监控和调试AI应用。它支持一行代码集成，提供使用情况追踪、LLM指标、提示管理等功能，适合开发者和团队使用。

Tiktokenizer是一个专为开发者设计的平台，旨在追踪用户的AI token使用情况。它实现了用户使用情况的无缝监控，确保AI应用用户的透明和公平计费过程。开发者可以轻松将其集成到AI应用开发过程中，通过将请求和主体转发给OpenAI的Chat API，开发者可以在单个请求中接收AI响应并追踪使用情况。Tiktokenizer会在每次请求中自动监控用户的token，并与OpenAI的Moderations API集成，提供实时的token使用信息。开发者还可以定期刷新token以进行订阅，并通过使用API向用户展示token消耗情况。预构建的代码片段使得实现过程简单高效。

Prompt Dress是一款Chrome浏览器扩展，帮助用户存储、管理和使用AI提示，通过直观的用户界面、动态提示支持、一键插入、序列预热和简单的组织功能，使AI交互更加高效。

ProbSem是一个利用大型语言模型(LLMs)为查询字符串分配上下文条件概率分布的框架，默认支持所有OpenAI引擎和HuggingFace CausalLM模型。

这个项目展示了如何借助MLX在Mac上运行微软的2.7B小语言模型Phi-2以及Mixtral 8x7B混合专家模型，支持在Apple M2 Ultra上进行高效的模型训练和推理，提供简化的模型权重下载和加载流程，同时兼容Python环境。

DeepBI充分利用大语言模型的能力来探索、查询、可视化和共享来自任何数据源的数据，用户可以使用DeepBI洞察数据并做出数据驱动的决策。

《解构大语言模型：从线性回归到通用人工智能》配套代码，提供了大语言模型的实现与分析，展示了线性回归与语言模型之间的关系，并支持多种数据集与训练配置，易于扩展与自定义。

SymbiotAI致力于帮助人类和AI模型协作，共同创造一个更美好的世界。用户只需注册一个账户，即可开始与AI模型进行合作。

EurekaLabsAI的n-gram语言模型：基于统计学原理的文本生成工具，通过学习字符序列的概率分布来生成新文本，适用于自然语言处理和机器学习的基础训练。

The Prompt Index是一个提供丰富AI提示和提示工程资源的网站，拥有广泛的AI提示数据库和支持性社区，供提示爱好者分享和合作创建最佳AI提示，适用于各种应用。用户可以探索全面的AI提示数据库，根据类别、最新性和受欢迎程度筛选提示，找到所需内容，还可以加入活跃的社区，注册并提交自己的提示。

一款用于评估和红队任何大型语言模型（LLM）应用的简单且模块化工具，由AI验证基金会开发，集成了基准测试和红队测试，帮助AI开发者、合规团队和AI系统所有者评估LLMs和LLM应用。

AI Prompt Studio是一款软件应用，旨在通过管理提示词、触发词和元数据，增强用户在人工智能图像生成方面的工作流程。它帮助提示工程师组织和优化创建扩散图像的结果，用户可以轻松比较、检查和分享生成的图像。该工具还提供复杂的词汇分析，帮助识别质量标签，并允许自定义图像布局。

lite_llama是一个轻量级推理框架，旨在优化大型语言模型的性能，提供高达3.4倍的推理加速，支持最新的模型和流式输出功能，基于Triton实现，适用于各种需要高效推理的应用场景。

PromptChainer是一个强大的工具，允许用户使用预构建模板和代码库来创建个性化的工作流程，从而构建和扩展先进的AI支持应用程序和流程。