plb2开源项目 – 编程语言性能基准测试

在桌面上运行大语言模型的桌面应用，提供了强大的语言处理功能，包括文本生成、语法纠正、改写句子、摘要生成、数据提取等，注重隐私保护，所有任务都在本地设备上处理，不会共享数据给外部服务器。

Terminal GPT (tgpt) 是一个可以在终端中直接使用的ChatGPT工具，无需API密钥，支持多种命令行操作，易于安装和配置，适合开发者与终端用户使用。

VILA 是一个开源视觉语言模型 (VLM) 系列，旨在优化效率和准确性，适用于边缘、数据中心和云计算环境。它采用交错图像-文本预训练方法，支持多图像处理，并具有强大的上下文学习能力，能够快速学习新概念。VILA 在视频理解、多图像推理等任务中表现出色，广泛应用于研究和工业领域。

Casbin是一个支持ACL、RBAC、ABAC等授权模型的开源授权库，适用于Java、Go、Rust、C++、PHP等多种编程语言，致力于提供灵活的策略管理和高性能的访问控制解决方案，已获得近10k的star。

该项目是一个精选论文列表，专注于为多模态大语言模型（MLLM）提供高效的Token合并、减少、重采样和丢弃方法。通过整合多篇相关论文，帮助开发者和研究人员理解和实现高效的Token管理策略，从而优化多模态大语言模型的Token处理效率。

react-llm是一个易于使用的无头React Hooks库，允许在浏览器中通过WebGPU运行大型语言模型（LLM）。只需调用useLLM()，即可在不离开浏览器的情况下使用Vicuna 13B，并支持自定义系统提示。

AIOpsLab是一个全面的框架，用于设计、开发和评估自主的AIOps（人工智能运维）代理，支持构建可重复、标准化、互操作和可扩展的基准测试。它能够部署微服务云环境、注入故障、生成工作负载并导出遥测数据，同时协调这些组件并提供接口与代理进行交互和评估。AIOpsLab还内置了一个基准测试套件，包含一系列问题，用于在交互环境中评估AIOps代理。该套件可以轻松扩展以满足用户特定需求。

Stagehand 是一个基于 AI 的 Web 自动化框架，旨在通过自然语言实现更高效、更可靠的 Web 自动化。它构建在 Playwright 之上，提供了三个简单的 AI API（`act`、`extract` 和 `observe`），使开发者能够轻松创建持久且自修复的自动化工作流。Stagehand 支持多种 LLM 模型，并具有可自定义的模型配置，帮助开发者构建可靠的 Web 自动化工具。

Moonshine是一个预训练的遥感模型，旨在减少所需的标记数据量和训练计算资源。它适用于多种遥感应用，能显著提高模型的泛化能力，帮助用户在资源有限的情况下依然能够获得高效的学习效果。

这个开源项目提供了一个免费指南，用于学习创建ChatGPT3提示，适用于机器学习领域。

Woodpecker是一种用于多模态大语言模型的幻觉修正工具，旨在提高生成文本的准确性和可靠性。它支持多种输入类型和数据源，集成简单，易于使用，能够有效地纠正生成过程中出现的错误信息。

ComfyUI-SUPIR是一个为ComfyUI设计的SUPIR图像放大封装器，能够将低分辨率图像放大到高分辨率，同时保持细节和真实感。它基于SUPIR模型，支持多种复杂的退化情况处理，如模糊、噪声、压缩等，实现高质量的图像复原。该工具可以作为ComfyUI的自定义节点，与其他节点组合，实现去噪、增强、风格迁移等功能。

smolagents是由Hugging Face开源的一款轻量级AI Agent构建工具，核心逻辑仅约一千行代码，功能完整且易于使用。它支持40+主流LLM，并能通过几行代码快速构建强大的AI Agent系统。smolagents与Hugging Face Hub无缝集成，支持自定义模型下载和工具分享，同时提供安全解释器和沙箱环境，确保代码执行的安全性。

深言科技联合清华大学NLP实验室开源的语鲸-8B模型，其能力大致介于ChatGLM2和3之间。该模型支持多种自然语言处理任务，适用于各种应用场景。

MLoRA（多领域低秩自适应网络）是由阿里巴巴开发的用于提升多领域点击率（CTR）预测的模型。它借鉴了大语言模型（LLM）中的高效参数微调技术，引入了低秩自适应（LoRA）来解决数据稀疏和分布不均的问题。MLoRA为每个领域添加了专门的LoRA模块，使其参数高效且易于与各种CTR预测模型集成。该模型在多个公开数据集和阿里巴巴电商平台的A/B测试中表现出色，展示了其在实际应用中的优越性能和实用性。