Front Desk
一个开源演示项目,构建基于确定性代码审核的网站客服聊天机器人,让语言模型仅起草回答,所有输出由代码进行句子、数字和词汇三重校验,确保回答不超出预设知识库范围,杜绝幻觉内容
时间轴 (近 90 天)
Front Desk 是一个网站客服聊天机器人演示项目,其核心思路是让语言模型只负责起草回答,最终呈现给顾客的内容由确定性代码审核决定。
Front Desk 演示场景中的虚拟网站只有13条简短条目,涵盖营业时间、价格、蛋糕、过敏原、配送和支付信息,机器人仅掌握这些内容。
Front Desk 的检索步骤由代码从13条条目中匹配最多三条相关条目;如果没有条目匹配,模型不会被调用,顾客会直接收到电话联系方式。
Front Desk 要求语言模型基于匹配条目生成JSON格式回答,包含回答文本、引用的条目ID和依据原文句子,模型被限定为只读选定条目,温度设为零。
Front Desk 的校验环节包含三重独立检查:句子校验(引用句子必须逐字出现在对应条目中)、数字校验(回答中每个数字必须能在引用条目中找到对应,且形式等价规则如'4 pm'等同'16:00'但'$4'不等于'$4.50')、词汇校验(所有承载语义的词语必须出现在模型获取的材料中)。
任何一项校验失败,草稿即被丢弃;第一步失败时顾客看到条目原文或联系方式,后续句子失败时该句被直接截断;机器人不会试图修复回答,而是回退到展示原始条目文字。
开发者编写了24个已知答案的测试问题,其中6个涉及网站从未提及的内容(披萨、会员卡、圣诞营业时间);第一轮测试正确率为17/24,调整为更精确规则后第二轮提升至21/24。
第二轮测试暴露出漏洞:当被问及'你们有会员卡吗?'时,模型回答'不,我们没有会员卡',而网站对此只字未提;由于句子没有数字,数字校验放行,这促使开发者加入词汇校验('loyalty'不在材料中,句子被判定无依据)。
加入校验规则后,开发者新增7个未调优问题,31题在线运行正确28题;其中一个失败源于开发者自身bug(模型输出'$8.00'而网站写的是'$8',数字校验判为不匹配),修复后同样草稿通过29/31。
剩余两个无法被校验机制捕捉的失败案例是:'圣诞节营业吗?'机器人给出常规营业时间(每个词都在网站上但不是用户要的答案);'肉桂卷是纯素的吗?'机器人正确回答'不'但引用的依据指向糕点价格条目而非纯素条目。
还有 1 条时间轴事件
全部知识事实 (11)
Front Desk 提供第二种'引用模式':不配置模型端点时,整个组件只需一个script标签,找到匹配条目后逐字展示或提供电话联系方式,无法编造内容且每次提问零成本;配置模型端点后执行起草和校验流程,校验失败时自动回退到引用模式。
50%待验证Front Desk 演示场景中的虚拟网站只有13条简短条目,涵盖营业时间、价格、蛋糕、过敏原、配送和支付信息,机器人仅掌握这些内容。
50%待验证Front Desk 的检索步骤由代码从13条条目中匹配最多三条相关条目;如果没有条目匹配,模型不会被调用,顾客会直接收到电话联系方式。
50%待验证Front Desk 要求语言模型基于匹配条目生成JSON格式回答,包含回答文本、引用的条目ID和依据原文句子,模型被限定为只读选定条目,温度设为零。
50%待验证Front Desk 的校验环节包含三重独立检查:句子校验(引用句子必须逐字出现在对应条目中)、数字校验(回答中每个数字必须能在引用条目中找到对应,且形式等价规则如'4 pm'等同'16:00'但'$4'不等于'$4.50')、词汇校验(所有承载语义的词语必须出现在模型获取的材料中)。
50%待验证任何一项校验失败,草稿即被丢弃;第一步失败时顾客看到条目原文或联系方式,后续句子失败时该句被直接截断;机器人不会试图修复回答,而是回退到展示原始条目文字。
50%待验证开发者编写了24个已知答案的测试问题,其中6个涉及网站从未提及的内容(披萨、会员卡、圣诞营业时间);第一轮测试正确率为17/24,调整为更精确规则后第二轮提升至21/24。
50%待验证加入校验规则后,开发者新增7个未调优问题,31题在线运行正确28题;其中一个失败源于开发者自身bug(模型输出'$8.00'而网站写的是'$8',数字校验判为不匹配),修复后同样草稿通过29/31。
50%待验证Front Desk 是一个网站客服聊天机器人演示项目,其核心思路是让语言模型只负责起草回答,最终呈现给顾客的内容由确定性代码审核决定。
50%待验证第二轮测试暴露出漏洞:当被问及'你们有会员卡吗?'时,模型回答'不,我们没有会员卡',而网站对此只字未提;由于句子没有数字,数字校验放行,这促使开发者加入词汇校验('loyalty'不在材料中,句子被判定无依据)。
50%待验证剩余两个无法被校验机制捕捉的失败案例是:'圣诞节营业吗?'机器人给出常规营业时间(每个词都在网站上但不是用户要的答案);'肉桂卷是纯素的吗?'机器人正确回答'不'但引用的依据指向糕点价格条目而非纯素条目。
50%