[控场AI]

#可解释AI

共 17 篇相关文章

保险定价模型的结构稳定性如何量化?新指标MSSD给出答案
·4 分钟

保险定价模型的结构稳定性如何量化?新指标MSSD给出答案

保险定价模型频繁更新,结构稳定性如何量化?本文解读最新研究提出的函数透明性概念与均方形状函数距离(MSSD)指标,并介绍GLM、EBM等模型在三个车险数据集上的稳定性基准测试结论。

阅读全文 →
Born测量注意力:可解释Transformer的量子光学之路
·3 分钟

Born测量注意力:可解释Transformer的量子光学之路

一篇提出Born测量注意力Transformer的研究,实现与softmax模型相当的准确率,并能精确计算词证据,同时可编译到光子和量子硬件,为可解释AI开辟新路径。

阅读全文 →
HAIDL:将人机交互升级为可复现的结构化数据
·5 分钟

HAIDL:将人机交互升级为可复现的结构化数据

论文提出HAIDL交互描述语言与HAIDL-X中间件,将人机交互形式化为结构化数据,支持复现、可解释性、行为分析与自适应AI支持,并在JupyterLab中实现运行时捕获与学习层度量。

阅读全文 →
AI解码人类基因组调控的局限与突破口
·7 分钟

AI解码人类基因组调控的局限与突破口

人类基因组98%的非编码调控区域仍是未解之谜。本文分析AI基因组基础模型在黑箱解释、机制洞察与因果推断上的结构性局限,探讨物理感知神经网络、CRISPR扰动数据与多模态整合如何推动可解释基因组AI的发展。

阅读全文 →
公式可追溯AI:ADE决策引擎如何让俄罗斯方块AI可解释
·7 分钟

公式可追溯AI:ADE决策引擎如何让俄罗斯方块AI可解释

ADE(Aether Decision Engine)通过公式可追溯流水线让俄罗斯方块AI的每次决策都可审计,平均延迟仅0.18ms,并展示该模式在自动驾驶、金融交易、医疗诊断等领域的通用价值。

阅读全文 →
DecisionLens:带证据溯源的离线AI决策智能体
·7 分钟

DecisionLens:带证据溯源的离线AI决策智能体

DecisionLens 是一个用纯 Python 标准库编写的离线零依赖AI决策智能体,每条结论都附带文件、行号和字段的证据引用,可审计、可调试且绝不编造。本文解析其感知-推理-解释循环、评测设计与离线数据安全特性。

阅读全文 →
Hide and Seek:无需模型权重的黑盒视觉模型概念解释新方法
·5 分钟

Hide and Seek:无需模型权重的黑盒视觉模型概念解释新方法

Hide and Seek(HnS)是一种新型概念级归因方法,无需访问模型权重或标注数据集即可解释黑盒视觉模型。本文解析其遮蔽-观测的四步原理、在CelebA与COCO-Stuff上的验证结果,以及在图像描述和卫星分割等任务上的通用性。

阅读全文 →
稀疏弹性网络如何实现可解释的泛癌分类
·4 分钟

稀疏弹性网络如何实现可解释的泛癌分类

解析稀疏弹性网络(Elastic-Net)如何用于可解释的泛癌分类与生物标志物发现,探讨其在高维基因数据中的特征选择优势及在精准医疗中的价值与局限。

阅读全文 →
从对数几率到Shapley值:加权朴素贝叶斯的可解释几何
·5 分钟

从对数几率到Shapley值:加权朴素贝叶斯的可解释几何

arXiv新论文为加权朴素贝叶斯分类器构建可解释几何框架,证明对数几率诱导的监督距离精确等于解析Shapley值的ℓ1距离,统一了监督距离、局部解释与预测行为三者关系。

阅读全文 →
可解释自杀风险评估:从预测走向证据溯源
·5 分钟

可解释自杀风险评估:从预测走向证据溯源

基于IEEE BigData可解释自杀风险检测挑战赛,一套融合风险评估、证据溯源与因素识别的框架,让AI对社交媒体帖子的自杀风险判断不仅给出结论,还能提供支撑证据与心理社会因素分析,推动心理健康AI走向可解释。

阅读全文 →
BoT-Feedback:用生物力学证据让AI教练反馈更可解释
·5 分钟

BoT-Feedback:用生物力学证据让AI教练反馈更可解释

BoT-Feedback 提出"思维生物力学"四阶段推理框架,将多模态大模型的动作反馈建立在生物力学证据之上,专家评分提升40%,大幅减少幻觉,让开源小模型逼近大型专有系统。

阅读全文 →
域偏移下的行人检测:可信度控制的XAI可解释性审计
·6 分钟

域偏移下的行人检测:可信度控制的XAI可解释性审计

一项arXiv研究针对自动驾驶行人检测模型,提出可信度控制的XAI可解释性审计方法。研究发现D-RISE等解释的忠实度与检测强度强耦合(相关系数0.70-0.82),且在域偏移下仍具域依赖性,揭示安全攸关感知需要更稳健的解释评估范式。

阅读全文 →