[控场AI]
人物

Rick

独立开发者,Reddit用户,创建了The Glass Transformer项目,专注于以低成本方式探索Transformer内部机制和可解释性。

时间轴 (近 90 天)

10月23日

Reddit开发者Rick设计了The Glass Transformer项目,用轻量级训练流程在Kaggle上免费跑11分钟观察token流动。

待验证50%
10月23日

Rick生成了超过1000页的追踪数据,记录token在Transformer各层的流动轨迹。

待验证50%
10月23日

Rick建议不必通读全部1000页,看前几页就能抓住模式,剩下的可以交给LLM去排序和分析。

待验证50%
10月23日

Rick承认他的数据“肯定不是金标准”,11分钟训练出的模型与真实大模型在行为上可能存在显著差异,追踪到的token流动模式未必能直接迁移到更大规模。

待验证50%

全部知识事实 (4)

来源文章