luactor是一个用纯Lua编写的Actor模式框架,受到skynet和其他博客文章的启发,结合了gevent和公司项目的经验。该框架旨在提供轻量级且易于集成的并发编程解决方案,适用于构建高性能和可扩展的并发应用程序。
一个处理流式生成的JSON的库,能够从首个token开始解码,非常适合时间敏感的应用。
Toolhouse是一个云基础设施平台,旨在为大型语言模型(LLMs)提供动作和知识,简化函数调用过程,仅需三行代码即可实现。
LLM-Engines是一个统一的大规模语言模型推理引擎,支持多种开源模型(如VLLM、SGLang、Together)和商业模型(如OpenAI、Mistral、Claude),通过不同引擎验证推理的准确性,旨在提供高效和灵活的语言处理解决方案。
这是一个Python模块,旨在修复损坏的JSON,特别适用于LLM输出的病态JSON文件。它能够自动检测和修复常见的JSON格式错误,并支持多种输入格式。
SingleStore Kai™ 允许在现有的MongoDB应用中对JSON数据进行最高100倍的快速分析。它提供易于使用的MongoDB API,使开发者能够使用熟悉的MongoDB命令来实现他们应用的实时分析。
在实际场景用Langchain开发LLM应用的示例,使用JavaScript实现。该项目提供了多种实际应用的示例,展示了如何将Langchain与大型语言模型集成,支持多种语言处理功能,并且易于扩展和自定义。
jc可以将常见的命令行工具、文件类型和常见字符串的输出转换为 JSON、YAML 或Dict。能将输出管道传输到 jq 等工具,并简化自动化脚本。