为什么用 LLM 生成置信度分数不可靠

作者认为让 LLM 输出置信度分数没有可靠依据，因为该数字只是逐 token 生成的文本续写，既不反映模型掌握的信息量，也从未针对“置信度是否匹配正确率”做过校准。文章以天气预报的校准为例，指出可信的置信度需要基于信息构建规则并用实际结果持续检验，并给出客服智能体按检索命中、历史正确率等可观测信息建立置信度规则的步骤。