OmniSimulator
一种用于训练LLM用户模拟器的框架,通过五维结构化行为推理Schema和教师模型蒸馏,使小模型学会结构化行为推理而非浅层模式匹配,从而提升用户行为模拟的保真度。
时间轴 (近 90 天)
OmniSimulator 训练框架让 8B 级别的小模型在用户模拟任务上达到与 Claude-Sonnet-4.5 竞争的水平。
OmniSimulator 的核心设计是将用户决策拆解为五个维度进行组织的结构化行为推理框架。
OmniSimulator 基于 200 名真实用户三个月的历史交互轨迹构建训练数据,每名用户平均蒸馏约 50 个高质量示例,最终形成 9,881 条训练实例。
OmniSimulator 框架引入教师模型,在既定 Schema 下生成高质量推理轨迹,再将这些轨迹用于训练小模型。
Qwen3-8B 应用 OmniSimulator 后平均得分提升 34.33%。
用户模拟问题的根源不在数据量,而在推理的组织方式。
OmniSimulator 数据选择环节刻意偏向真实行为场景,避免合成数据与真实决策分布脱节。
结构化 Schema 的设计能否泛化到其他行为领域,以及教师模型生成轨迹的质量如何稳定控制,都是后续需要验证的问题。
全部知识事实 (8)
OmniSimulator 训练框架让 8B 级别的小模型在用户模拟任务上达到与 Claude-Sonnet-4.5 竞争的水平。
50%待验证OmniSimulator 的核心设计是将用户决策拆解为五个维度进行组织的结构化行为推理框架。
50%待验证OmniSimulator 基于 200 名真实用户三个月的历史交互轨迹构建训练数据,每名用户平均蒸馏约 50 个高质量示例,最终形成 9,881 条训练实例。
50%待验证OmniSimulator 框架引入教师模型,在既定 Schema 下生成高质量推理轨迹,再将这些轨迹用于训练小模型。
50%待验证Qwen3-8B 应用 OmniSimulator 后平均得分提升 34.33%。
50%待验证用户模拟问题的根源不在数据量,而在推理的组织方式。
50%待验证OmniSimulator 数据选择环节刻意偏向真实行为场景,避免合成数据与真实决策分布脱节。
50%待验证结构化 Schema 的设计能否泛化到其他行为领域,以及教师模型生成轨迹的质量如何稳定控制,都是后续需要验证的问题。
50%