HSTU
Meta提出的生成式推荐系统核心架构,采用线性复杂度注意力变体高效处理超长用户行为序列,支持稠密用户画像特征与稀疏物品嵌入的融合,已在Facebook、Instagram等平台生产环境中验证
时间轴 (近 90 天)
NVIDIA发布了使用Dynamo-Triton推理框架部署基于HSTU架构生成式推荐模型的技术方案
HSTU全称为Hierarchical Sequential Transduction Unit(分层序列转导单元),是支撑生成式推荐的核心架构之一
HSTU最初由Meta在2024年发表的论文《Actions Speak Louder than Words: Trillion-Parameter Sequential Transducers for Generative Recommendations》中提出
HSTU已在Facebook、Instagram等平台的生产推荐系统中得到验证
HSTU采用线性复杂度的注意力变体,使其处理长度超过数千的行为序列时计算量不会出现平方级增长
HSTU将用户的每次交互(点击、购买、停留时长等)视为带有时间戳和上下文的动作令牌,通过分层时序转导机制建模行为依赖关系
HSTU可以同时融合稠密的用户画像特征与稀疏的物品嵌入,适配推荐场景中物品ID的稀疏性和特征异构性
全部知识事实 (7)
HSTU已在Facebook、Instagram等平台的生产推荐系统中得到验证
50%待验证HSTU全称为Hierarchical Sequential Transduction Unit(分层序列转导单元),是支撑生成式推荐的核心架构之一
50%待验证HSTU最初由Meta在2024年发表的论文《Actions Speak Louder than Words: Trillion-Parameter Sequential Transducers for Generative Recommendations》中提出
50%待验证HSTU可以同时融合稠密的用户画像特征与稀疏的物品嵌入,适配推荐场景中物品ID的稀疏性和特征异构性
50%待验证HSTU采用线性复杂度的注意力变体,使其处理长度超过数千的行为序列时计算量不会出现平方级增长
50%待验证HSTU将用户的每次交互(点击、购买、停留时长等)视为带有时间戳和上下文的动作令牌,通过分层时序转导机制建模行为依赖关系
50%待验证NVIDIA发布了使用Dynamo-Triton推理框架部署基于HSTU架构生成式推荐模型的技术方案
50%