定义
AI输出接地事实核查是对AI系统生成内容中的事实声明进行验证的过程,通过与权威来源交叉检验来识别和标记幻觉、过时信息或不准确的声明。
深入了解
事实核查是将AI输出从"可能正确"提升到"已验证正确"的关键步骤。LLM会自信地输出不正确的信息(幻觉),在生产环境中这可能导致错误决策、法律风险或信誉损失。接地事实核查通过外部验证来解决这个问题。 核查方法:自动核查(用搜索API获取权威来源并交叉验证声明)、半自动核查(AI标记不确定的声明供人工验证)和分级核查(高风险声明强制验证,低风险声明抽样验证)。搜索API是自动核查的基础设施——没有实时搜索能力,自动核查无法实现。 核查粒度:数字核查(价格、统计、日期是否正确)、存在性核查(声称的功能/产品是否真实存在)、时效性核查(信息是否仍然当前有效)和一致性核查(同一报告中的声明是否自相矛盾)。生产系统通常对所有AI输出实施至少一层自动核查,以数字和时效性核查为优先。
用法示例
AI生成了一篇包含15个数据点的竞品分析。事实核查流程逐一验证:搜索确认12个正确、标记2个价格已过时(上月变更)、1个功能声明不准确。修正后的报告附带验证标记和来源链接。
平台
AI输出接地事实核查在以下平台中相关,所有这些平台都可通过Scavio的统一API访问: