人物
Rick
独立开发者,Reddit用户,创建了The Glass Transformer项目,专注于以低成本方式探索Transformer内部机制和可解释性。
时间轴 (近 90 天)
10月23日
Reddit开发者Rick设计了The Glass Transformer项目,用轻量级训练流程在Kaggle上免费跑11分钟观察token流动。
待验证50%
10月23日
Rick生成了超过1000页的追踪数据,记录token在Transformer各层的流动轨迹。
待验证50%
10月23日
Rick建议不必通读全部1000页,看前几页就能抓住模式,剩下的可以交给LLM去排序和分析。
待验证50%
10月23日
Rick承认他的数据“肯定不是金标准”,11分钟训练出的模型与真实大模型在行为上可能存在显著差异,追踪到的token流动模式未必能直接迁移到更大规模。
待验证50%