LLM幻觉检测

真实性分离向量 (TSV) 是一种轻量且高效的方法，通过在推理时调整大型语言模型 (LLM) 的潜在空间，增强模型区分真实与幻觉生成内容的能力。它仅需少量标注数据即可实现高性能和泛化性强的幻觉检测，且不更改模型参数，适合实际应用中的信任度提升。TSV 通过两阶段框架训练，第一阶段使用少量标注数据形成紧凑且分离良好的簇，第二阶段通过最优传输算法和基于置信度的过滤扩展示例集。