相关文章推荐
俊逸的草稿本
·
js给数组添加数据的方式/js ...
·
6 月前
·
忐忑的豆芽
·
利用Tushare获取股票数据(全面详细,照 ...
·
12 月前
·
爱搭讪的烤红薯
·
python ...
·
1 年前
·
慷慨大方的烤地瓜
·
SQLAlechmy_1_4_11 - ...
·
1 年前
·
才高八斗的柳树
·
VBA中调用VLookup,数据量较大,经常 ...
·
1 年前
·
Code
›
归因方法的新评估方案及其在深度神经网络上的应用 - CSDN文库
https://wenku.csdn.net/pdf/10w9c52cy2
爱健身的跑步鞋
5 月前
收藏
20.94MB
PDF
举报
评估方案
可视化方法
立即下载
开通VIP(低至0.43/天)
送3个月
身份认证 购VIP最低享 7 折!
领优惠券(最高得80元)
10223
0
走向更好的理解归因方法
0
SukrutRao,MoritzB¨ohle,BerntSchieleMaxPlanckInstituteforInformatics,
SaarlandInformaticsCampus,Saarbr¨ucken,Germany
0
{sukrut.rao,mboehle,schiele}@mpi-inf.mpg.de
0
图1.
左:DiFull和ML-Att的示意图。在DiFull中,我们在图像网格上评估模型(第一列)。关键是,我们为每个子图像使用单独的分类头,这些头
部不可能受到其他子图像的影响;这为可能和不可能的归因提供了“地面真相”(第二列)。对于ML-Att,我们在不同的网络层评估方法;这
里我们展示了Grad-CAM和IntGrad的结果。此外,我们展示了平滑IntGrad(S-IntGrad)的结果,我们发现其表现良好(第5.2节)。右:我
们AggAtt评估的可视化。通过将归因按照其性能分位数范围排序,并在许多样本上进行聚合,我们可以获得方法性能的整体视图。因此,Agg
Att可以反映归因方法的最佳和最差情况。
0
摘要
0
深度神经网络在许多视觉任务上非常成功,但由于其黑盒特
性,很难解释。为了克服这个问题,提出了各种事后归因方
法来确定对模型决策最有影响力的图像区域。评估这些方法
是具有挑战性的,因为没有地面真相的归因存在。因此,我
们提出了三种新的评估方案,以更可靠地衡量这些方法的忠
诚度,使它们之间的比较更加公平,并使视觉检查更加系统
化。为了解决忠诚度问题,我们提出了一种新的评估设置(
DiFull),在这种设置中,我们精确控制输入的哪些部分可
以影响输出,以区分可能和不可能的归因。为了解决公平性
问题,我们注意到不同的方法应用于不同的层次,这会扭曲
任何比较,因此在相同的层次上评估所有方法(ML-Att)
,并讨论这如何影响它们在定量指标上的表现。为了更系统
地可视化,我们提出了一种方案(AggAtt),以定性评估
方法在完整数据集上的表现。我们使用这些评估方案来研究
一些广泛使用的归因方法的优点和缺点。最后,我们提出了
一种后处理平滑步骤,显著提高了一些归因方法的性能,并
讨论了其适用性。
0
1.简介
0
深度神经网络(DNN)在许多计算机视觉任务上非常成功
。然而,它们的黑盒特性使得很难解释和信任它们的决策。
为了揭示模型的决策过程,已经提出了几种旨在为单个输入
特征分配重要性值的方法(参见第2节)。然而,由于缺乏
地面真相的重要性值,以整体和系统的方式比较和评估这些
归因方法一直是困难的。在这项工作中,我们采取了三个方
面的方法来解决这个问题。特别是,我们关注这些评估的三
个重要组成部分:可靠地测量方法的模型忠诚度,确保方法
之间的公平比较,并提供一个允许对其归因进行系统化视觉
检查的框架。首先,我们提出了一种评估方案(DiFull),
它允许区分可能和不可能的重要性归因。这实际上为输入特
征是否可能影响模型输出提供了地面真相注释。因此,它可
以突出显示归因方法的不同失败模式(图1,左)。其次,
公平评估要求在相同的基础上比较归因方法。然而,我们观
察到不同的方法解释DNN的深度不同(例如,完整网络或
仅分类头)。因此,一些方法实际上解决了一个更容易的问
题(即,解释一个更
本内容试读结束,
登录后
可阅读更多 下载后可阅读完整内容,剩余9页未读,
立即下载
面向对抗样本的深度神经网络可解释性分析.docx
这种方法可以使深度神经网络内部的神经元学习到可以抵抗对抗噪声干扰的特征,从而在某个语义概念出现时产生响应、不出现时不产生响应。 实验结果表明,该训练方式可以使深度神经网络内部的特征表示与人类所理解的...
指标异常归因方法和算法包括哪些
4. 基于神经网络的方法:包括多层感知器、循环神经网络、卷积神经网络等神经网络模型的应用。 5. 基于深度学习的方法:包括自编码器、变分自编码器、生成对抗网络等深度学习模型的应用。 6. 基于贝叶斯网络的方法...
定量归因方法有哪些?
定量归因方法是一种衡量不同营销渠道对转化的贡献的方法。以下是几种常见的定量归因方法: 1. 最后互动模型(Last Interaction Model):将转化归因给最后一个与用户互动的渠道。这种方法偏向于认为最后一个触点对...
加性特征归因方法(additive feature attribution method)
这种方法通过比较模型在某个特征被改变前后的输出差异,来评估该特征对输出结果的重要性。如果在改变某个特征的取值后,输出结果发生了较大的变化,则可以认为该特征对输出结果有重要影响。 加性特征归因方法能够...
异常归因方法中的HotSpot 方法
异常归因方法是指通过堆栈跟踪,找到引发异常的代码位置。HotSpot虚拟机在异常处理方面有以下几个特点: 1. 堆栈跟踪:当程序出现异常时,HotSpot会在堆栈中记录异常的信息,包括异常类型、异常消息和异常发生的...
金融工程-多因子模型的业绩归因评价体系.pdf
传统的业绩归因评价方法通常只考虑了投资组合的总体业绩表现,而对具体的投资因子表现与贡献没有进行深入分析。因此,多因子模型的业绩归因评价体系通过对每一个投资因子的表现与贡献进行分析,能够更为全面地评估...
Barra归因是什么意思
Barra归因是一种基于多因子模型的投资组合业绩归因方法。它通过将投资组合的超额收益分解为不同因子的贡献,来解释投资组合的业绩表现。Barra归因方法基于Barra模型,该模型使用多个因子来描述资产的特征和风险。...
brison归因模型csdn
Brison归因模型是一种用于评估资产组合的风险和收益的分析工具。该模型为投资者提供了一种方法,通过分解投资组合的绩效,准确测量不同因素对组合表现的贡献。 Brison归因模型的核心思想是将投资组合的回报分解为多...
ab实验:科学归因与增长的利器pdf
总而言之,《科学归因与增长的利器》是一本以AB 实验为基础,介绍了如何应用科学归因分析在增长领域取得成功的电子书。通过理解和应用书中的方法和技巧,读者可以更好地评估和优化增长策略,提升业务指标。
brision多期归因
brision多期归因是一种用于分析和识别投资组合绩效的方法。多期归因分析旨在解释投资组合在不同时间段内的收益。这种方法结合了定量和定性分析,以确定投资组合绩效的来源和影响因素。 在brision多期归因中,首先...
你知道campisi归因模型吗
Campisi于1986年提出,旨在说明人们在评估他人行为时如何根据情境、个人特质和行为的结果来做出归因。 该模型将归因分为三个层次:情境归因、人格归因和行为归因。情境归因是指将他人行为归因于外部因素,如环境、...
python 多维度归因分析
在Python中,多维度归因分析是一种用于分析和解释数据的方法。它可以帮助我们理解不同维度对于某个结果的影响程度。多维度归因分析的基本思想是通过对数据进行分解和比较,找出各个维度对于结果的贡献度,并进行综合...
python 栅格数据随机森林归因
Python栅格数据随机森林归因是一种用于分析栅格数据的机器学习方法。它基于随机森林算法,通过对栅格数据进行训练和预测,来识别和量化不同特征对目标变量的影响程度。 在Python中,可以使用scikit-learn库中的...
归因模型有哪些,具体介绍一些常用的归因模型
归因模型是指用来分析和评估不同营销渠道和广告在引起转化和购买行为中的贡献度的模型。以下是常见的几种归因模型: 1. 最后点击/最后非直接点击归因模型(Last Click/Last Non-Direct Click Attribution Model):...
“星火”多因子系列(四):《基于持仓的基金业绩归因:始于brinson,归于barra》
《基于持仓的基金业绩归因:始于Brinson,归于Barra》是...综上所述,《基于持仓的基金业绩归因:始于Brinson,归于Barra》介绍了基于持仓的基金业绩归因方法的起源和发展,并强调了其在投资决策和业绩优化中的重要性。
kpi 算log归因
而log归因是一种统计分析方法,用于确定某个变量对结果的影响程度。在企业管理中,KPI算log归因表示通过对关键绩效指标进行log归因分析,来确定不同因素对业绩的影响程度。 具体来说,通过KPI的log归因分析,可以...
brinson绩效归因模型原理和实践
Brinson绩效归因模型是一种常见的资产组合绩效归因模型。该模型的基本原理是将资产组合的业绩拆解成三个部分:资产配置效应、...因此,在实际运用时需要考虑实际情况,综合运用不同的模型和方法来进行绩效评估和归因。
随机森林是归因分析的一种吗
在归因分析中,可以使用随机森林模型来评估各个因素对特定结果(如转化)的影响程度。通过分析随机森林模型中各个特征的重要性(如特征重要性指标),可以得出各个因素对结果的相对贡献程度。 所以,虽然随机森林...
barra业绩归因 源码
barra业绩归因是一种顶层的投资组合分析方法,旨在解析投资组合的收益来源。它通过对投资组合和市场指数之间的相对表现进行分解,揭示了投资组合业绩的各种来源,包括选股能力、行业配置、交易成本等方面。 barra...
barra模型归因结果
Barra模型归因是一种常用的投资组合分析方法,用于解析投资组合的绩效来源。它通过综合考量不同因素的贡献,从而确定投资组合的相对优势和劣势。 Barra模型归因的结果通常可以分为三个主要部分: 1. 市场回报归因:...
cpongm
粉丝: 4
资源:
2万+
上传资源 快速赚钱
我的内容管理
快来上传第一个资源
我的收益
登录查看自己的收益
我的积分
登录查看自己的积分 登录后查看C币余额
我的收藏
我的下载
下载帮助
会员权益专享
图片转文字
PDF转文字
PDF转Word
PDF加水印
全年可省5,000元
立即开通
最新资源
电力电子与电力传动专业《电子技术基础》期末考试试题 电力电子技术期末考试题:电力客户与服务管理专业 电力系统自动化《电力电子技术》期末考卷习题精选 电力系统自动化专业《电力电子技术》期末考试试题 电子信息专业《电子技术》期末考试试题解析 电子与信息技术专业《电子技术》期末考试试题概览 电子信息工程《电子技术》期末考卷习题集 电子信息工程专业《电子技术》期末考试试题解析 电子信息工程《电工与电子技术》期末考试试题解析 电子信息工程专业《电子技术基础》期末考试计算题解析 电子技术期末考试题试卷(试卷B)——电子技术应用专业 电子科技专业《电力电子技术》期末考试填空题精选 2020-21秋《电力电子技术》电机电器智能化期末试题解析 电气工程及其自动化专业《电子技术》期末考试题(卷六) 电气工程专业《电子技术基础》期末考试试题解析 电气自动化专业《电子技术》期末考试试题解析
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
推荐文章
俊逸的草稿本
·
js给数组添加数据的方式/js 向数组对象中添加属性和属性值[通俗易懂]-腾讯云开发者社区-腾讯云
6 月前
忐忑的豆芽
·
利用Tushare获取股票数据(全面详细,照着敲就可以)-CSDN博客
12 月前
爱搭讪的烤红薯
·
python 社区发现算法_liuhongyue的博客-CSDN博客
1 年前
慷慨大方的烤地瓜
·
SQLAlechmy_1_4_11 - Alex-GCX - 博客园
1 年前
才高八斗的柳树
·
VBA中调用VLookup,数据量较大,经常卡死,耗时较长-求解决? - 知乎
1 年前