KRISHOKTECH
面向孟加拉语农业咨询场景的生成式AI系统,通过在检索前准入检查、检索中作物绑定与生成后剂量验证等显式授权边界控制生成内容安全性
时间轴 (近 90 天)
孟加拉语农业咨询系统KRISHOKTECH的核心设计思路是在生成过程前后设置显式授权边界,而非单纯依赖生成模型的能力。
KRISHOKTECH在检索之前进行归一化和基于规则的准入检查,对政策覆盖的高风险请求转介(REFER),当治疗意图描述不充分时主动询问(ASK)具体作物。
KRISHOKTECH将检索绑定到单一作物,当文本和图像指示不同作物时,要求用户确认(CONFIRM)。
KRISHOKTECH在生成之后使用一个窄范围的验证器移除检索到的BARI/BRRI证据不支持的剂量声明。
KRISHOKTECH将农业指导保存在外部证据索引中,可以更新而无需重新训练生成器。
研究在200条农民查询和400条压力查询上测试了KRISHOKTECH的控制措施。
在测试的别名过滤器下,KRISHOKTECH的跨作物检索违规从36.5%降至0%。
KRISHOKTECH的不匹配检测在454个文本-图像冲突中捕获了453个。
KRISHOKTECH的剂量验证器在118个插入的剂量错误中捕获了114个。
KRISHOKTECH界面将决策过程呈现为ASK、CONFIRM、REFER和DROP四种状态,并附带相应证据。
还有 4 条时间轴事件
全部知识事实 (14)
孟加拉语农业咨询系统KRISHOKTECH的核心设计思路是在生成过程前后设置显式授权边界,而非单纯依赖生成模型的能力。
50%待验证KRISHOKTECH在检索之前进行归一化和基于规则的准入检查,对政策覆盖的高风险请求转介(REFER),当治疗意图描述不充分时主动询问(ASK)具体作物。
50%待验证KRISHOKTECH将检索绑定到单一作物,当文本和图像指示不同作物时,要求用户确认(CONFIRM)。
50%待验证KRISHOKTECH在生成之后使用一个窄范围的验证器移除检索到的BARI/BRRI证据不支持的剂量声明。
50%待验证KRISHOKTECH将农业指导保存在外部证据索引中,可以更新而无需重新训练生成器。
50%待验证研究在200条农民查询和400条压力查询上测试了KRISHOKTECH的控制措施。
50%待验证在测试的别名过滤器下,KRISHOKTECH的跨作物检索违规从36.5%降至0%。
50%待验证KRISHOKTECH的不匹配检测在454个文本-图像冲突中捕获了453个。
50%待验证KRISHOKTECH的剂量验证器在118个插入的剂量错误中捕获了114个。
50%待验证KRISHOKTECH界面将决策过程呈现为ASK、CONFIRM、REFER和DROP四种状态,并附带相应证据。
50%待验证ASK、CONFIRM、REFER、DROP四种决策状态分别对应:请求信息不足、多模态冲突或模糊匹配、政策覆盖的高风险情形、违反安全规则且无法补救。
50%待验证KRISHOKTECH的剂量验证器采用窄范围设计,只针对剂量声明,不覆盖作物病害识别错误、施药时机建议偏差等其他类型的错误。
50%待验证KRISHOKTECH系统针对孟加拉语和BARI/BRRI证据体系构建,迁移到其他语言和农业体系需要重新设计证据索引和规则。
50%待验证该研究是一项演示性工作,测试规模有限。
50%