LLM-BlockFE
一种基于LLM引导的块级特征工程框架,通过增量式追加不可变代码块构建可执行特征程序,离线生成、线上执行,用于长文本特征提取与风控建模
时间轴 (近 90 天)
LLM-BlockFE 框架让 LLM 在离线阶段将长文本编译成可执行的特征提取程序,线上推理只执行该程序而不再调用 LLM。
LLM-BlockFE 通过增量式追加不可变代码块来构建特征程序,每个代码块一旦写入就不再修改。
LLM-BlockFE 采用块级回滚机制,允许在代码块粒度上回退,并配合深度校准的信用分配来判断哪个代码块该为当前效果负责。
LLM-BlockFE 采用多轨迹交错搜索,同时推进多条独立搜索轨迹,不同轨迹之间共享固定的方向描述以减少重复探索。
LLM-BlockFE 在四个数据集(两个公开数据集加两个私有数据集)上进行了验证。
全量数据对比中,LLM-BlockFE 相对于最强基线,每个数据集上的 AUC 绝对提升在 0.0069 到 0.0358 之间。
在五个已部署的金融风控应用中,LLM-BlockFE 上线后监控显示 KS 绝对提升在 0.02 到 1.56 个百分点之间,对比的是现有手工设计策略。
LLM-BlockFE 搜索结束后程序被冻结并部署,线上推理只需执行该程序提取结构化特征,推理开销与手写特征工程持平。
全部知识事实 (8)
LLM-BlockFE 框架让 LLM 在离线阶段将长文本编译成可执行的特征提取程序,线上推理只执行该程序而不再调用 LLM。
50%待验证LLM-BlockFE 通过增量式追加不可变代码块来构建特征程序,每个代码块一旦写入就不再修改。
50%待验证LLM-BlockFE 采用块级回滚机制,允许在代码块粒度上回退,并配合深度校准的信用分配来判断哪个代码块该为当前效果负责。
50%待验证LLM-BlockFE 采用多轨迹交错搜索,同时推进多条独立搜索轨迹,不同轨迹之间共享固定的方向描述以减少重复探索。
50%待验证LLM-BlockFE 在四个数据集(两个公开数据集加两个私有数据集)上进行了验证。
50%待验证全量数据对比中,LLM-BlockFE 相对于最强基线,每个数据集上的 AUC 绝对提升在 0.0069 到 0.0358 之间。
50%待验证在五个已部署的金融风控应用中,LLM-BlockFE 上线后监控显示 KS 绝对提升在 0.02 到 1.56 个百分点之间,对比的是现有手工设计策略。
50%待验证LLM-BlockFE 搜索结束后程序被冻结并部署,线上推理只需执行该程序提取结构化特征,推理开销与手写特征工程持平。
50%