#可解释AI
共 17 篇相关文章

保险定价模型的结构稳定性如何量化?新指标MSSD给出答案
保险定价模型频繁更新,结构稳定性如何量化?本文解读最新研究提出的函数透明性概念与均方形状函数距离(MSSD)指标,并介绍GLM、EBM等模型在三个车险数据集上的稳定性基准测试结论。

Born测量注意力:可解释Transformer的量子光学之路
一篇提出Born测量注意力Transformer的研究,实现与softmax模型相当的准确率,并能精确计算词证据,同时可编译到光子和量子硬件,为可解释AI开辟新路径。

HAIDL:将人机交互升级为可复现的结构化数据
论文提出HAIDL交互描述语言与HAIDL-X中间件,将人机交互形式化为结构化数据,支持复现、可解释性、行为分析与自适应AI支持,并在JupyterLab中实现运行时捕获与学习层度量。

AI解码人类基因组调控的局限与突破口
人类基因组98%的非编码调控区域仍是未解之谜。本文分析AI基因组基础模型在黑箱解释、机制洞察与因果推断上的结构性局限,探讨物理感知神经网络、CRISPR扰动数据与多模态整合如何推动可解释基因组AI的发展。

公式可追溯AI:ADE决策引擎如何让俄罗斯方块AI可解释
ADE(Aether Decision Engine)通过公式可追溯流水线让俄罗斯方块AI的每次决策都可审计,平均延迟仅0.18ms,并展示该模式在自动驾驶、金融交易、医疗诊断等领域的通用价值。

DecisionLens:带证据溯源的离线AI决策智能体
DecisionLens 是一个用纯 Python 标准库编写的离线零依赖AI决策智能体,每条结论都附带文件、行号和字段的证据引用,可审计、可调试且绝不编造。本文解析其感知-推理-解释循环、评测设计与离线数据安全特性。

Hide and Seek:无需模型权重的黑盒视觉模型概念解释新方法
Hide and Seek(HnS)是一种新型概念级归因方法,无需访问模型权重或标注数据集即可解释黑盒视觉模型。本文解析其遮蔽-观测的四步原理、在CelebA与COCO-Stuff上的验证结果,以及在图像描述和卫星分割等任务上的通用性。

稀疏弹性网络如何实现可解释的泛癌分类
解析稀疏弹性网络(Elastic-Net)如何用于可解释的泛癌分类与生物标志物发现,探讨其在高维基因数据中的特征选择优势及在精准医疗中的价值与局限。

从对数几率到Shapley值:加权朴素贝叶斯的可解释几何
arXiv新论文为加权朴素贝叶斯分类器构建可解释几何框架,证明对数几率诱导的监督距离精确等于解析Shapley值的ℓ1距离,统一了监督距离、局部解释与预测行为三者关系。

可解释自杀风险评估:从预测走向证据溯源
基于IEEE BigData可解释自杀风险检测挑战赛,一套融合风险评估、证据溯源与因素识别的框架,让AI对社交媒体帖子的自杀风险判断不仅给出结论,还能提供支撑证据与心理社会因素分析,推动心理健康AI走向可解释。

BoT-Feedback:用生物力学证据让AI教练反馈更可解释
BoT-Feedback 提出"思维生物力学"四阶段推理框架,将多模态大模型的动作反馈建立在生物力学证据之上,专家评分提升40%,大幅减少幻觉,让开源小模型逼近大型专有系统。

域偏移下的行人检测:可信度控制的XAI可解释性审计
一项arXiv研究针对自动驾驶行人检测模型,提出可信度控制的XAI可解释性审计方法。研究发现D-RISE等解释的忠实度与检测强度强耦合(相关系数0.70-0.82),且在域偏移下仍具域依赖性,揭示安全攸关感知需要更稳健的解释评估范式。

零样本重建动力系统:极简可解释架构的研究探索
一项关于零样本重建动力系统的研究提出极简可解释架构,探索在无针对性训练下还原系统演化规律。本文解析其核心思路、零样本泛化意义及科学机器学习价值。

合成基准破解可解释AI评估难题:九种XAI方法测试揭示局限
arXiv论文提出基于合成真值的可解释AI(XAI)评估框架,通过受控干预构建已知重要性的数据集,在图像、表格、时间序列三大领域测试九种主流XAI方法,揭示现有技术的显著局限。

AI·rete·RAG:用Rete规则引擎决策,RAG解释理由
开源项目 AI·rete·RAG 提出一种混合架构:用 Rete 规则引擎做确定性决策,用 RAG 解释决策理由。本文解析其神经符号思路与可解释AI的工程价值。

多阶段规则链框架:让机器推理走向可解释的认知泛化
一篇arXiv论文提出多阶段规则链框架,通过确定性规则发现、模式组合与结构抽象三个求解器协同,在ARC-AGI-2基准上实现超95%准确率,为可解释的认知泛化与机器推理提供新思路。
科技前沿