[KongchangAI]
ConceptJoint-Embedding Predictive Architecture / 联合嵌入预测架构

JEPA

由Yann LeCun提出的世界模型架构,核心思想是在抽象表示空间(embedding space)中做预测而非重建原始像素,旨在学习世界的因果结构,用于具身智能与机器人学习

Timeline (last 90 days)

Sep 8

Yann LeCun在2022年提出了联合嵌入预测架构(JEPA),主张真正的智能需要在抽象表征空间而非像素空间中预测世界的演变

Unverified50%
Sep 5

JEPA与对比学习的本质区别在于JEPA通过预测缺失部分的表征来学习,不依赖显式的数据增强策略

Unverified50%
Sep 5

JEPA架构使用指数移动平均(EMA)教师网络机制来避免表征坍塌问题

Unverified50%
Sep 5

Yann LeCun提出JEPA框架,核心思想是在抽象的表征空间而非像素空间中进行预测,Meta已发布V-JEPA等早期实现

Unverified50%
Sep 5

JEPA是由Yann LeCun等人倡导的一种自监督学习范式

Unverified50%
Sep 5

Mol-JEPA是一个面向分子领域的多模态JEPA(Joint Embedding Predictive Architecture,联合嵌入预测架构)基础模型

Unverified50%
Sep 5

提议的方案分三步:在物理仿真环境中训练JEPA模型、让物理结构从JEPA表征中涌现、将冻结的物理表征作为条件信号接入LLM

Unverified50%
Sep 5

JEPA在抽象的嵌入空间中进行预测,而非像素级或token级预测,避免了计算浪费

Unverified50%
Aug 30

世界模型概念最早可追溯到Yann LeCun在2022年提出的JEPA(Joint Embedding Predictive Architecture)框架

Unverified50%
Jul 17

JEPA(联合嵌入预测架构)由 Yann LeCun 于 2022 年在论文《A Path Towards Autonomous Machine Intelligence》中系统提出

Unverified50%

All Facts (10)

Source Articles