#可解释性
共 30 篇相关文章
玻璃Transformer：用11分钟训练窥探模型内部机制
Reddit开发者Rick分享“玻璃Transformer”项目：用Kaggle免费11分钟训练追踪token从输入到输出的流动，生成1000+页追踪数据，为Transformer替代架构的快速诊断提供低成本方案。
CausalCoT：用因果图隔离上下文，破解思维链注意力泄漏
CausalCoT 框架通过将问题分解为有向无环图并隔离每个子问题的上下文，切断注意力泄漏路径，使思维链推理真正具备因果性。实验显示因果敏感度平均提升 12 个百分点，最高 21 个百分点，同时保持竞争性预测性能，并支持可预测的测试时干预。
大模型隐喻表征的几何结构：可探测与可调控
研究者利用机制可解释性技术，在多种架构和规模的大语言模型中定位隐喻表征的因果子空间，实现对分类与生成任务中隐喻性的探测与调控，揭示LLM隐喻能力的几何结构。
神经网络原本就是「干净」的？Goodfire可解释性长文解读
Goodfire研究员Nick Camerata提出工作假设：神经网络并非多义纠缠的结，而是本来就「干净」。从猫车神经元重释、递归泛化、Qwen3-32B约90%神经元单职，到四神经元诊断电路，本文解读这篇可解释性长文的核心证据与争议。
AI黑箱其实清晰可见？可解释性研究颠覆认知
Goodfire新研究《Neural Networks Are Already Clean》挑战AI黑箱神话：多义性可能是可视化工具和SwiGLU双负漏洞造成的假象，神经网络通过递归泛化自我组织，本就清晰可读。本文深度解读其对AI可解释性与对齐的启示。
预测市场合约在上市时揭示了什么？交易量与争议风险的可预测性
基于 Polymarket 近 80 万个已结算市场的实证研究显示：仅凭上市时的合约文本与元数据即可预测交易量（样本外 R²=0.747），但平台格式变更会使预测性能大幅下降；争议风险可排序但难以逐案预测。
NarraSpace：多模态场景证据如何提升痴呆症分类可解释性
NarraSpace框架将图片描述中的词语与场景元素链接，构建可检查的痴呆症分类证据。在ADReSS基准上准确率超80%，AUC达91.32%，兼顾性能与可解释性。
Rényi集中度指标：让MLP可解释性度量摆脱网络规模依赖
论文提出基于Rényi散度的α-RC集中度指标，解决Participation Ratio依赖网络规模的问题，为MLP的Kolmogorov-Arnold Geometry分析提供架构无关的度量，值域[0,1]且与PR显式关联。
VERITAS： verbalising模型计算，揭示思维链忠实度的新方法
VERITAS 提出逐层 Jacobian 投影方法，verbalise 模型内部计算，逐 token 追踪推理锚点演化，在 CoT 忠实度检测上平衡准确率超 LLM-as-Judge 28.4%，并提供机制性解释。
稀疏编码革新：ConSDL如何实现跨训练一致的概念发现
SAE 字典在不同训练中波动大？新研究 ConSDL 用逐样本稀疏编码替代线性编码器，在 16 组合成设置中近乎完美恢复字典，真实任务上字典和系数一致性分别提升 17.6% 和 35.9%。
可解释机器学习预测高温下纤维混凝土强度
一项研究利用1204组实验数据比较八种机器学习模型预测高温下纤维增强高性能混凝土抗压强度，梯度提升与XGBoost的R²达0.903，并通过SHAP分析揭示温度是首要影响因素，配套Python图形界面实现快速预测。
可解释性博客沦为机器学习界的食谱文？
一条社交平台吐槽指出可解释性博客正在变成机器学习界的食谱博客：读者被迫读完个人故事才能找到梯度方法等技术细节。本文分析这种叙事化写作的成因、给读者带来的复现与对比成本，并探讨技术博客如何平衡叙事与信息密度。
大模型上下文选择机制需引入排除记录
AI上下文包的选择机制隐藏了关键决策：系统排除了哪些信息、为何排除。本文介绍在解析器模式中引入排除记录的设计提案，区分不可用、过期与有意排除三种状态，并提供可审查的实践清单。
神经网络本就「干净」：可解释性研究的范式转变
神经网络可解释性研究迎来范式转变：作者主张网络本身已是「干净」的，混乱源于观察方式而非模型结构。本文解析新旧范式的分歧、对SAE与电路分析的冲击，以及实践者该如何调整调试心态。
大脑-LLM对齐可被语义分解？SCRIBE框架给出新答案
研究利用SCRIBE可解释语义表示分解LLaMA2-7B与大脑活动的对齐关系，发现共享语义方差占主导，具体性语义属性贡献更大，为AI可解释性与神经科学提供新视角。
别急着生成：让你的模型先学会"读空气"
LLM温度选择长期依赖固定值或启发式校准，缺少可解释的场景表示。新研究提出Scenario-Actor框架，从Transformer隐藏状态提取场景嵌入来动态决定采样温度，在Llama-3.1-8B-Instruct的社交互动、开放指令跟随与多轮对话任务上取得提升。
稀疏自编码器特征评分到底识别了什么？从激活到干预的鸿沟
稀疏自编码器（SAE）特征发现分数能否预测干预效果？新研究给出否定答案：探针与干预归因的量级比可达数百倍，梯度预测符号一致率 91-97%，而探针仅 17-35%。
WorkspaceBench：如何评估大模型全局工作空间的可解释性方法
WorkspaceBench 是一套评估「激活到文本」工具读取大模型全局工作空间能力的基准，含 27 个评估族、3356 道题，覆盖基础读取、多跳计算、联想识别与安全审计，并提供幻觉专项评估。
