JEPA
由Yann LeCun提出的世界模型架构，核心思想是在抽象表示空间（embedding space）中做预测而非重建原始像素，旨在学习世界的因果结构，用于具身智能与机器人学习
核心事实
时间轴 (近 90 天)
潜在世界模型的吸引力在于计算效率高、便于长程推演，Dreamer 系列和基于联合嵌入预测架构（JEPA）的方法都属于这一谱系。
研究建议，真正的突破口可能在于设计能够桥接临床语义与潜空间预测的中间表示，而非更换预测目标。
在EHR序列中，患者状态的高层抽象（如疾病进展、共病负担、治疗反应）缺乏公认的、可计算的表示定义，难以转化为适合JEPA预测的密集潜目标。
JEPA在图像、视频和音频领域已展现出强大性能。
JEPA类方法通常采用非对称架构（如动量编码器、stop-gradient）或正则化项（如VICReg的方差-协方差约束）来防止表示坍缩。
论文指出，JEPA在EHR上的瓶颈不在于预测误差量级，而在于所预测的潜在目标本身是否具有临床意义。
研究表明，即使缩小目标大小，也无法恢复JEPA在EHR上的下游性能。
研究反直觉地发现，目标大小（而非目标异质性）是推高JEPA预测误差的主要因素。
在该研究的多个下游评估任务上，JEPA变体的性能均未能超越标准MLM。
在该研究的实验中，三种JEPA变体均能稳定训练，未出现表示坍缩。
还有 32 条时间轴事件
全部知识事实 (20)
JEPA（联合嵌入预测架构）由 Yann LeCun 于 2022 年在论文《A Path Towards Autonomous Machine Intelligence》中系统提出
85%已验证JEPA（Joint-Embedding Predictive Architecture）是Yann LeCun团队主推的自监督学习框架，在潜在空间预测输入另一部分的表征而非原始内容
75%已验证JEPA在抽象的嵌入空间中进行预测，而非像素级或token级预测，避免了计算浪费
75%已验证世界模型概念源自Yann LeCun提出的自主机器智能架构，核心思想是让AI在内部构建物理世界运行规律的模拟器以预测行动后果
75%已验证Yann LeCun是Meta首席AI科学家，将世界模型视为通向通用人工智能的关键组件
65%已验证DeepMind、Meta AI等机构推出了DreamerV3、JEPA等代表性世界模型工作
65%待验证潜在世界模型的吸引力在于计算效率高、便于长程推演，Dreamer 系列和基于联合嵌入预测架构（JEPA）的方法都属于这一谱系。
50%待验证JEPA在图像、视频和音频领域已展现出强大性能。
50%待验证在EHR序列中，患者状态的高层抽象（如疾病进展、共病负担、治疗反应）缺乏公认的、可计算的表示定义，难以转化为适合JEPA预测的密集潜目标。
50%待验证在该研究的实验中，三种JEPA变体均能稳定训练，未出现表示坍缩。
50%待验证论文指出，JEPA在EHR上的瓶颈不在于预测误差量级，而在于所预测的潜在目标本身是否具有临床意义。
50%待验证在该研究的多个下游评估任务上，JEPA变体的性能均未能超越标准MLM。
50%待验证JEPA类方法通常采用非对称架构（如动量编码器、stop-gradient）或正则化项（如VICReg的方差-协方差约束）来防止表示坍缩。
50%待验证研究建议，真正的突破口可能在于设计能够桥接临床语义与潜空间预测的中间表示，而非更换预测目标。
50%待验证研究反直觉地发现，目标大小（而非目标异质性）是推高JEPA预测误差的主要因素。
50%待验证研究表明，即使缩小目标大小，也无法恢复JEPA在EHR上的下游性能。
50%待验证Quantum-JEPA 使用条件量子玻恩先验（conditional quantum Born prior）来学习未来表征的分布，为 JEPA 引入了一个可训练的量子组件。
50%待验证JEPA 风格的潜在世界模型通常包含编码器、预测器和动作条件模块，其预测目标是低维潜在向量。
50%待验证LFP头的思路源自自监督学习中的世界模型研究传统，如Dreamer系列和JEPA（联合嵌入预测架构）。
50%待验证SPERA是一个引入球面先验的EEG基础模型，采用联合嵌入预测架构（JEPA）在潜空间中进行预测，而非在观测信号上做重建
50%