自动检测幻觉和偏见

Giskard是一个开源测试框架，专为生成式AI和机器学习模型设计。它集成了130多种评估指标，支持自动化检测生成内容的事实性、安全性及合规性。Giskard可以处理从表格模型到大型语言模型（LLM）的所有内容，并提供企业级测试中心，支持自托管和云部署。它还与Hugging Face、MLFlow、Weights & Biases等平台无缝集成，帮助团队更快、更好地交付机器学习产品。

Xtreme1 是一个为多感官训练数据生成和处理而设计的平台，提供高效的数据标注和管理工具，支持深度学习模型的训练和评估，并且易于集成到现有的工作流程中。用户可以通过友好的界面和丰富的文档快速上手。

CodeTF是Salesforce出品的一站式代码类LLM工具库，提供了一套统一的接口用于Code LLM的训练、推导和微调，支持多种模型，易于扩展和集成。

一个利用代理框架进行视觉任务的库，能够快速生成代码，帮助用户完成图像识别任务，简化视觉问题的解决过程。

llm-numbers是一个每个LLM开发人员都应该了解的工具，提供关键的统计数据和指标，帮助开发者深入理解模型性能。它支持多种语言模型的评估，并易于集成到现有的机器学习工作流中。此外，llm-numbers还提供可视化工具，以便展示模型数据，让开发者更直观地分析结果。

Showllable 是一个开源项目，旨在提供一个简化的方式来展示和分享机器学习模型。它支持多种模型格式，提供用户友好的界面，允许实时预览和分享功能，集成常用的可视化工具，并支持跨平台使用。

FederatedScope是一个全面的联邦学习平台，提供便捷的使用体验和灵活的定制选项，适用于学术界和工业界的各种联邦学习任务。

Ludwig v0.8是一个开源的低代码框架，旨在帮助开发者轻松构建先进的机器学习模型，特别是优化用于使用私有数据构建定制的大型语言模型（LLM）。它提供了一种声明式接口，使得模型的构建过程更加高效和简便。

OpenDelta是一个开源框架，旨在实现高效的参数调优（Delta Tuning），支持多种机器学习模型和任务，具有易于集成和扩展的特点，能够优化计算资源的使用。

SearchArray是一个基于Pandas的扩展数组，提供了词法匹配功能（如BM25），可以将Pandas的字符串列转换为词项索引，从而实现高效的短语和单词评分。

基于 MLX 框架的 Silicon LLM 训练和推理工具包，简化了在 Apple Silicon 上训练和运行大语言模型的过程，旨在为开发者提供高效、易用的工具，以应对资源有限的设备上的大语言模型需求。

ml-calibration是一个用于测量校准和绘制可靠性图表的工具包，提供了可视化方法来评估模型的校准程度，并生成可靠性图表以帮助分析模型的可靠性。该工具包支持多种校准方法的比较，易于集成到现有的机器学习工作流中。

大型语言模型(LLM)的chat模板，用于支持transformers的chat_template功能，旨在为不同模型提供一致的输入格式，提供了多个流行模型的示例模板。该项目为开发人员提供了便捷的工具，简化了与不同语言模型的交互流程，确保输入格式的一致性，提高了开发效率。

AdaTest 是一个用于自适应测试的工具，旨在发现并修复自然语言机器学习模型中的缺陷，支持多种语言模型并提供自动化缺陷修复建议。

LLMOps是一个灵活、稳健且高效的Python工具包，专为大型语言模型(LLM)的运营设计。它提供了模型注册、实验跟踪和实时推理等关键功能，帮助开发者和研究人员更好地管理和优化他们的模型。该工具包支持高效的操作，并具备灵活的集成能力，适用于各种机器学习工作流。

qlora-pipe是一个开源脚本，旨在通过在四块4090 GPU上进行定制训练，以高效的方式训练大型语言模型（LLM）。它支持多块GPU的并行训练，并提供多种配置选项以优化训练流程，确保用户能够根据不同的需求灵活调整训练参数。

一个简洁、易于修改的GraphRAG实现，提供了小型化、快速、清晰的GraphRAG核心功能，同时保持了可扩展性、异步处理和全面类型化

NEXUS是基于RNS-CKKS的安全变换器推理的非交互式协议，旨在为安全深度学习推理提供高效的解决方案，能够有效地保护数据隐私，同时降低通信开销，支持多种深度学习模型的安全推理。