待验证50% 置信事实精确时间

Ethayarajh在2019年的研究发现BERT和GPT-2的上下文Embedding占据一个狭窄圆锥

1

来源数

50%

置信度

长期有效

时效性

2026/10/11

首次发现

来源

0.8相似度阈值失效：Embedding各向异性如何搞垮RAG

涉及实体

Ethayarajhperson BERTmodel GPT-2model

相关事实

待验证2024年研究表明GPT-4和Claude等模型在辅助工具配合下已能独立解决约30%-40%的中等难度CTF题目59% 相似待验证2023年研究者在 GPT-2 中识别出负责间接宾语识别的完整电路，涉及不足1%的注意力头58% 相似待验证机制可解释性入门可从小模型（如 GPT-2 small）的可解释性分析做起，再逐步挑战更复杂的机制57% 相似待验证GPT-2的推理本质上是一连串矩阵乘法、加法、GELU激活、LayerNorm和Softmax运算57% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/998007

API

curl https://kongchang.com/api/v1/knowledge/claims/998007

MCP

get_claim(id=998007)