TrustLLM开源项目 – 大型语言模型可信度研究

TrustLLM专注于LLM（大型语言模型）的可信度研究，制定了不同维度的评估原则，并建立了涵盖真实性、安全性、公平性、鲁棒性、隐私性和机器伦理六个维度的基准评估。
TrustLLM的特点:
1. 真实性评估
2. 安全性分析
3. 公平性检测
4. 鲁棒性测试
5. 隐私性审查
6. 机器伦理考量

TrustLLM的功能:
1. 评估大型语言模型的可信度
2. 制定针对LLM的可信度标准
3. 进行可信度各维度的基准测试
4. 分析和改进LLM在不同维度的表现

相关导航

LLMonitor官网 – AI开发者的开源可观察性工具

LLMonitor是一个开源的监控与评估工具，专为AI开发者设计，旨在通过日志查询和分析提升应用的质量。它为基于大型语言模型的应用提供可观察性和日志记录功能，帮助开发者优化和调试复杂的AI代理和聊天机器人。

验证链减少LLM的幻觉-通过深思熟虑纠正LLM错误反应

开发一种方法，使大型语言模型（LLM）能够经过深思熟虑的推理过程，纠正错误的反应，从而减少产生幻觉（不真实信息）的可能性。该项目旨在通过分步推理和验证机制，提升LLM的准确性和可靠性。

MnnLlmApp-基于MNN开源项目 – LLM的安卓离线应用

MnnLlmApp是一个基于MNN-LLM框架的Android手机应用，支持各类大型语言模型（LLM）在手机上离线运行，能够处理多模态任务，包括文本生成、图像生成和音频转文本等。该应用在安卓平台上具有优秀的CPU性能，预填充速度相较于其他框架大幅提升，支持多种模型，完全在设备本地运行，确保数据隐私和处理效率。

Falcon 2 11B模型 – 高效多语言大型语言模型

Falcon 2 11B 是由阿联酋技术创新研究所（TII）开发的大型语言模型，拥有110亿参数，经过5.5万亿token的训练。该模型在语言理解和生成方面表现出色，支持多种语言，适合研究和商业用途。其性能优于Meta的Llama 3 8B，与Google的Gemma 7B相当，尤其在Hugging Face的评估工具中表现领先。

ReSearch开源项目 – 强化学习让LLM学会搜索推理

ReSearch 是一个开源项目，通过强化学习将搜索操作整合到大型语言模型（LLMs）的推理过程中，使其能够通过搜索工具更有效地回答问题。该项目通过强化学习训练LLM，使其在无监督数据的情况下学会何时以及如何调用搜索工具。基于Qwen2.5-7B模型，从零开始训练，展现了强大的泛化能力，并在HotpotQA等数据集上验证，性能显著提升。

Past Life AI官网 – 探索你的前世

Past Life AI 是一款通过回答测验和上传个人照片，帮助用户发现其前世生活的人工智能应用。利用图像生成和大型语言模型技术，用户将能够看到自己在前世的样子及生活方式。

ChatALL开源项目 – 多AI机器人并发对话工具

ChatALL是一个开源项目，允许用户同时与多个大型语言模型（LLM）进行对话。通过向多个AI机器人发送提示，用户可以发现最佳结果。该项目旨在提供更好的体验，用户只需下载、安装并提问即可。支持多种语言和操作系统，包括Windows、macOS和Linux。所有聊天记录和设置都保存在本地，确保用户隐私安全。

Time-LLM开源项目 – 通用时间序列预测的重新编程框架

Time-LLM 是一个重新编程框架，用于将大型语言模型（LLMs）重新用于通用的时间序列预测，同时保持其骨干语言模型的完整性。

Awesome-Story-Generation开源项目 – 收集故事生成相关的优秀论文

该项目汇集了关于故事生成/叙事的大量优秀论文，主要集中在大型语言模型（LLMs）时代的研究。

DeepSeek-R1官网 – 专注于推理、数学和编码的尖端语言模型

DeepSeek-R1 是由 DeepSeek AI 开发、通过 NVIDIA NIM 平台支持的大型语言模型，拥有 6710 亿参数，专注于推理、数学和编码任务。它采用链式思维方法和测试时间扩展技术，能够生成文本、解决复杂推理问题、辅助编码和数学任务，并进行自然语言对话。模型提供精简版本，适合不同硬件环境使用，广泛应用于 AI 研究、教育、编码辅助等领域。

PomPrix官网 – 简化定价模型的工具

PomPrix是一个基于大型语言模型（如GPT-4）简化定价产品的工具。它旨在帮助企业更轻松地与客户沟通定价信息，提供可预测且更低的成本，同时确保用户体验不受影响。PomPrix还提供灵活的SDK，灵感来源于LangChain，便于快速实现。

codeqai开源项目 – 本地优先的语义代码搜索工具

codeqai是一个本地优先的语义代码搜索和聊天工具，利用矢量嵌入和大型语言模型(LLMs)来提供高效的代码查询和理解。

Tapesearch Chat官网 – 探索超过百万播客的对话内容

Tapesearch Chat 是一个大型语言模型前端，连接了我们超过100万个播客的文字记录。用户可以搜索、探索并深入了解播客内容，提供了前所未有的体验。

gigaGPT开源项目 – 简化大型语言模型训练

gigaGPT是一个用于训练具有数百亿参数的大型语言模型的代码库，仅有500多行代码。它受到Andrej Karpathy的nanoGPT启发，但专为Cerebras硬件优化，能够扩展到GPT-3规模的模型。gigaGPT旨在提供一个干净、高效和可用的代码库，而不是追求训练最先进的模型。

Breaking Prompt官网 – 创新的新闻获取工具

Breaking Prompt 是一款利用大型语言模型（LLMs）为用户提供各类最新新闻洞察的工具，涵盖商业、科技、政治等多个领域。通过精心设计的提示，帮助用户深入理解最新动态，让用户始终走在信息前沿。

Multi-token Prediction for Large Language Models官网 – 提升大型语言模型效率

Multi-token Prediction for Large Language Models 是 Meta 提出的一种新型训练方法，旨在提升大型语言模型的训练效率和性能。该方法允许模型在训练语料的每个位置同时预测接下来的多个 token，每个 token 独立计算交叉熵损失。通过调整前向和后向传播的顺序，该方法显著减少了 GPU 内存占用，且不影响模型运行时间。该方法在编码和自然语言模型上取得了显著的性能提升，推理速度大幅提高，适用于实时应用。

dottxt-ai/prompts开源项目 – 生成和管理提示的库

dottxt-ai/prompts 是一个专门用于生成和管理提示（prompts）的库，使用 Jinja 模板来渲染提示，并且支持大型语言模型和提示工程。它提供灵活的提示管理功能，使得用户能够方便地创建和定制用于自然语言处理的提示。

暂无评论

暂无评论...