长文本秒变风控特征：LLM块级特征工程新框架

长文本里的金矿，为什么挖不动？

工业风控系统有个尴尬的现实：真正做决策的是结构化数据模型，因为它们快、稳、好维护。但真正有价值的信息，往往藏在冗长的文本里——合同条款、用户反馈、交易描述、工单记录。

想把这些信息用起来，只有两条路。第一条是人工做特征工程，成本高、周期长、还依赖专家经验。第二条是直接在线上推理时调用大语言模型，但延迟和成本都扛不住，风控场景下几乎不可行。

!

这篇论文提出的思路很直接：让 LLM 在离线阶段把长文本“编译”成可执行的程序，线上只跑程序，不碰 LLM。这就是 LLM-BlockFE 的核心逻辑。

LLM-BlockFE 是怎么工作的？

核心思路：把特征工程变成程序搜索

传统做法是让 LLM 直接输出特征描述或数值，问题在于每次推理都要调用模型，不可持续。LLM-BlockFE 换了个角度：它让 LLM 生成的是代码块，而且是可执行的程序。

具体来说，框架通过增量式追加不可变代码块来构建特征程序。每个代码块一旦写入就不再修改，整个程序像搭积木一样逐步成形。候选特征的质量则由下游模型来评估——这相当于给搜索过程提供了一个客观的反馈信号。

这样做的好处是：搜索结束后，程序被冻结并部署，线上推理时只需执行这段程序来提取结构化特征，完全绕开了 LLM 调用。

什么是可执行的特征程序。 在传统机器学习流程里，特征通常是手动编写的固定代码或配置，而“程序搜索”指的是让搜索算法在代码空间里自动组合出这段特征提取逻辑。LLM-BlockFE 生成的每个“代码块”是一段不可变的、可独立执行的小程序，比如某个正则抽取、某段文本的统计聚合或一次类型转换。多个代码块按顺序拼接成一个完整的特征提取程序。由于代码块不可修改，搜索过程等价于不断追加新块，程序状态清晰可追溯；搜索结束后固化成一段普通代码部署上线，运行时不再需要 LLM，推理开销与手写特征工程持平。

解决贪心搜索的“短视”问题

特征工程搜索有个经典难题：贪心策略容易陷入局部最优。你每一步都选当前看起来最好的代码块，但几步之后可能发现走错了方向，回不了头。

LLM-BlockFE 的应对方案有两个关键设计：

块级回滚机制。 不是整条路径推翻重来，而是允许在代码块粒度上回退，配合深度校准的信用分配（depth-calibrated credit allocation），判断哪个块该为当前效果负责。

多轨迹交错搜索。 同时推进多条独立的搜索轨迹，每条轨迹有自己的探索方向。更重要的是，不同轨迹之间会共享固定的方向描述，减少重复探索。这相当于让多个搜索“分身”并行工作，但彼此知道对方在找什么，避免撞车。

这两点结合起来，既保留了搜索的灵活性，又控制了计算开销。

贪心搜索与局部最优。 贪心搜索是一种逐步决策策略：每一步都在当前状态下选择看起来最优的动作，而不考虑该选择对后续步骤的影响。它的优点是实现简单、每一步计算量小，缺点是无法回溯——一旦某步选错，后续只能在错误的基础上继续，容易卡在局部最优点而非全局最优。特征工程搜索中，每加入一个特征变换就相当于走一步，贪心策略可能过早锁定一个方向，错过需要先“绕路”才能到达的更优组合。LLM-BlockFE 的块级回滚和多轨迹并行，本质上都是为搜索引入一定的回溯与探索能力，以缓解这一固有缺陷。

实测效果：AUC 和 KS 都能涨

论文在四个数据集上做了验证——两个公开数据集加两个私有数据集，覆盖了不同场景。

全量数据对比中，LLM-BlockFE 相对于最强基线，每个数据集上的 AUC 绝对提升在 0.0069 到 0.0358 之间。在风控场景里，AUC 的绝对值提升能做到这个幅度，已经相当可观。

更值得关注的是线上表现。论文提到在五个已部署的金融风控应用中做了上线后监控，KS 绝对提升在 0.02 到 1.56 个百分点之间，对比的是现有的手工设计策略。这不是离线指标的好看，而是真实业务场景里的提升。

KS 在风控里是区分度指标，能涨一个百分点以上，对策略迭代来说是很实在的收益。

AUC 与 KS 的含义。 AUC（Area Under the ROC Curve）衡量模型对正负样本的排序能力：随机取一个正样本和一个负样本，模型给正样本更高分的概率即为 AUC，取值 0.5 表示等同于随机猜测，1 表示完美区分。KS（Kolmogorov-Smirnov）统计量则取正负样本累计分布曲线之间的最大差值，反映模型在某个阈值下能达到的最强区分度。二者都是风控、信用评分领域的核心离线指标。它们对小幅提升非常敏感：在成熟的风控模型中，AUC 提升 0.01 往往意味着坏账率或通过率的实质变化，因此文中 0.0069 至 0.0358 的绝对提升并非可以忽略的数字。

这个框架到底解决了什么？

回到最初的问题：工业风控需要又快又准的模型，长文本里有信息但用不上。

LLM-BlockFE 的价值不在于用了 LLM，而在于把 LLM 用在了正确的位置——离线特征构建阶段。它把 LLM 的语言理解能力“固化”成可执行程序，让线上推理回归高效的结构化模型。

从工程角度看，这种“离线编译、线上执行”的思路其实很有借鉴意义。很多场景下我们并不需要实时调用大模型，而是需要把大模型的能力沉淀到系统里。特征工程只是其中一个切入点。

论文也留了一些开放问题：搜索效率和程序复杂度的平衡、不同下游模型的适配性、以及代码块粒度的选择策略。但整体方向是清晰的——让 LLM 做它擅长的事，让传统模型做它们擅长的事。