【天天播资讯】原创 | 一文读懂机器学习中的shapley值方法

2023-01-19 09:14:49 来源: 程序员客栈

作者:贾恩东


(资料图片仅供参考)

本文约2000字,建议阅读9分钟

本文为你介绍更公平分配利益权重的一种算法——Shapley值方法。

本篇文章是数据派一文读懂系列的新年第一篇原创,在这里祝贺大家新年学业有新成就,生活有新气象!这次带大家了解一种有趣的从数学角度计算合作博弈贡献从而更公平分配利益权重的算法——Shapley值方法。

相信大家在日常生活中都接触过这样一个现象,那就是1+1不等于2。好了,不开玩笑,作者想说的是,很多时候多个主体分别产生的影响和共同产生的影响是不具备严格加性的。有句俗语,一个和尚挑水吃,两个和尚抬水吃,三个和尚没水吃。分开的三个和尚每个每天都挑水,但放在一起“协作”反而就没有水产出了。这里是一个关于协作的负面例子,但更多的是协作的正面例子,就是1+1大于2的效应。以下用一个案例具体来说明。

某公司有三个程序猿,分别是屌丝A,大佬B,美女C,如果大家不合作,A每个季度可以完成3个项目,B每个季度可以完成10个项目,C每个季度只能完成1个项目。但是老板小王为了充分挖掘员工潜力,合理配置公司资源,让A,B,C尝试了各种合作模式。王老板观察发现,屌丝都是潜力股,美女都是催化剂:屌丝A和大佬B合作每个季度可以完成15个项目,合作效果提升还行;屌丝A和美女C合作每个季度可以完成50个项目,合作效果爆炸;大佬B和美女C合作每个季度仅完成了12个项目,看来对大佬来说不影响拔刀的速度就不错了;ABC一起合作每个季度可以完成70个项目。最终王老板拍板让ABC以后就一起工作,按照小组完成的项目数额外发放项目奖金。请问聪明的读者,按照最公平正义的分配方法,哪位员工获得的奖金是最多的呢?

说A的同学:明显屌丝是潜力股,虽然单独工作表现一般,但是和美女一起合作,大大激发了工作热情,肯定是A贡献最多!说B的同学:应该是大佬贡献最大,因为单独来看,大佬本身能力是最强的!说C的同学:应该是美女贡献最大,虽然美女单独工作没什么效率,但显然对团队的影响无法替代!

请先别急,我们接下来使用理性的数学思维分析这个问题,可以顺便推导出shapley值的公式。

设想我们顺序将ABC放到合作队伍中(合作队伍一开始为空),那么合作的组合会有3!=6 种,如下表:

加入顺序

A加入的贡献

B加入的贡献

C加入的贡献

A+B+C

3-0=3

15-3=12

70-15=55

A+C+B

3-0=3

70-50=20

50-3=47

B+A+C

15-10=5

10-0=10

70-15=55

B+C+A

70-12=58

10-0=10

12-10=2

C+A+B

50-1=49

70-50=20

1-0=1

C+B+A

70-12=58

12-1=11

1-0=1

表中的贡献计算方法可以举个例子来说明,B+C+A的顺序组合中,A的贡献是ABC的合作扣除BC的合作,即70-12=58;B的贡献就是B加入空的贡献,即10-0=10。其他类推。

但最终的加入顺序只有一种,而各个顺序都是等可能的。因此, A的贡献可以计算期望:(3+3+5+58+49+58)/6=176/6 B的贡献可以计算期望:(12+20+10+10+20+11)/6=83/6 C的贡献可以计算期望:(55+47+55+2+1+1)/6=161/6

这些贡献期望加在一起,(176+83+161)/6=70也恰是ABC的整体合作效果,验证了我们计算的合理性。做个简单除法,得出最终A的贡献占比是29.33%,B的贡献占比是13.83%,C的贡献占比是26.83%。A的贡献是最多的,C也很多,B最少。同学你猜对了吗?

我们接下来把问题抽象化。假设有n 位合作人,任何一种合作组合例如第1位和第2位合作组合记为{1,2},是一个有序集合的概念,对于组合 s 来说,它的收益表现记作 v(s)。假如某集合 s 包含 第 i 位合作人,则第 i 位 合作人在这种情形下的贡献为 v(s)−v(s\textbackslash{i}),解释为集合 s 的效益减去 集合 s 扣除第 i 位合作人后的新集合的效益。

因此我们可以得到第i 位合作人的贡献期望为:

这里Si 是所有包含 i 的所有子集的集合, P(s)是对应合作顺序组合 s 的出现概率。可以这样计算该概率,首先 s 中 前|s|−1 合作人顺序进入合作集合,然后是合作人 i 加入集合,最后是后 n−|s|个合作人加入合作集合。这样构成了该种顺序组合,这样有(|s|−1)!×1×(n−|s|)! 种,一共则有 n! 种顺序组合,所以有:

最终的shapley值公式即:

到这里,关于shapley值方法的公式就已经推导完毕了。

值得一提的是,Shapley值方法是有严格的公理化体系支持的,感兴趣的同学可以自行检索学习。Shapley值方法很公平,在经济、金融、管理、政治中都有不少的推广应用。比如多方金融投资合作如何分配利润;不同人数的党派团体如何更科学地设置投票通过票数;安全管理团队中按照重要性对事故中的不同责任方进行责任判定等等。在机器学习中,也可以使用Shapley值方法对不同的特征进行重要性评价,进行特征的筛选工作,即使是深度神经网络这种黑盒模型也可以获悉不同特征对于整个算法的贡献分布。

在文章的最后,需要多提一句,Shapley值方法虽然很好,但对于n 值很大的情况,计算很不友好,因为需要获悉所有组合集合的获益,这种组合集合一共有 2^n 种,不论是数据获得还是后续计算,都有不小的成本开销,所以有几种补救办法,有的是将合伙人分成若干组,按照组为最小合作单位进行计算;有的则是只考虑 n−1 大小的组合上增加合伙人带来的边际贡献等。无论是何种方法,本质上都和本文核心内容类似。

编辑:黄继彦

数据派研究部介绍

数据派研究部成立于2017年初,以兴趣为核心划分多个组别,各组既遵循研究部整体的知识分享和实践项目规划,又各具特色:

算法模型组:积极组队参加kaggle等比赛,原创手把手教系列文章;

调研分析组:通过专访等方式调研大数据的应用,探索数据产品之美;

系统平台组:追踪大数据&人工智能系统平台技术前沿,对话专家;

自然语言处理组:重于实践,积极参加比赛及策划各类文本分析项目;

制造业大数据组:秉工业强国之梦,产学研政结合,挖掘数据价值;

数据可视化组:将信息与艺术融合,探索数据之美,学用可视化讲故事;

网络爬虫组:爬取网络信息,配合其他各组开发创意项目。

点击文末“阅读原文”,报名数据派研究部志愿者,总有一组适合你~

转载须知

如需转载,请在开篇显著位置注明作者和出处(转自:数据派THUID:DatapiTHU),并在文章结尾放置数据派醒目二维码。有原创标识文章,请发送【文章名称-待授权公众号名称及ID】至联系邮箱,申请白名单授权并按要求编辑。

未经许可的转载以及改编者,我们将依法追究其法律责任。

点击“阅读原文”加入组织~

标签: 机器学习 这个问题

上一篇 :

下一篇 :

【天天播资讯】原创 | 一文读懂机器学习中的shapley值方法

作者:贾恩东本文约2000字,建议阅读9分钟本文为你介绍更公平分配利益权重的一种算法——Shapley值方法...

01-19 09:14:49

快看点丨确定了!阿兹夫定片降价约50%!医保新增111个药品,降价约60%

1月18日下午,国家医保局在北京召开2022年国家医保药品目录调整新闻发布会。会上透露,超过八成的目录外...

01-19 02:16:09

每日时讯!暴动 辅助机简介

辅助机名称:暴动类型:战术终端原型:军用型战斗试用型炮台未变型时为:圆球形(露西亚携带很方便)能...

01-18 19:10:14

头条:腾讯云成立“全真金融解决方案团队”

记者从腾讯内部获悉,腾讯云日前成立全真互联金融团队。该团队将依托腾讯云实时音视频TRTC、AI、数智人...

01-18 15:54:20

实时:纳微科技:赛谱仪器目前产品中有部分核心部件从国外采购 公司争取两至三年时间实现全部核心部件自主化

每经AI快讯,有投资者在投资者互动平台提问:赛谱仪器就是做蛋白纯化系统的,但是看到NanoSepu在美国采...

01-18 12:45:34

头条:绿盟科技1月18日快速上涨

以下是绿盟科技在北京时间1月18日09:54分盘口异动快照:1月18日,绿盟科技盘中快速上涨,5分钟内涨幅超...

01-18 09:34:52

动态焦点:“出海”!订单排满全年!我国这一产品火爆全球

【“出海”!订单排满全年!我国这一产品火爆全球】国轩高科股份有限公司党委书记董事长李缜:2022年,...

01-18 03:38:27

全球速看:吉林化纤: 吉林化纤股份有限公司关于非公开发行股票解除限售的提示性公告

吉林化纤:吉林化纤股份有限公司关于非公开发行股票解除限售的提示性公告

01-17 19:35:33

全球快资讯:国网浙江电力新一代配电自动化系统在海宁上线

11月17日,国网浙江电力新一代配电自动化系统在海宁正式上线。系统以海宁尖山为试点,覆盖海宁全域,聚...

01-17 16:20:37

新资讯:风电储能EPC单价1.634元/Wh再创新低!一年内降了35.9%

中能建湖南院单价1 634元 Wh中标三峡新能源湖南道县洪塘营风电场10MW 20MWh储能示范项目EPC总承包工...

01-17 13:22:17

【独家】“癸卯新春雅集”亮相成都博物馆

“癸卯新春雅集”昨日开展  1月16日至2月28日,成都博物馆艺术空间经典呈现“癸卯新春雅集”,以蓉城...

01-17 10:08:33

【全球聚看点】宏观赵伟|地方两会,透露的宏观线索?

金选·核心观点地方两会是观察地方经济规划、政策方向的重要窗口。当前31省市已召开2023年两会,经济目...

01-17 03:50:23

世界聚焦:2023重庆中国三峡博物馆春节开放时间+参观须知

开放时间2023年春节开放时间:暂未公布日常参观须知1 开放时间:周二至周日9:00-17:00,16:30停止入...

01-16 18:21:05

看热讯:2023年南昌青山湖区电子消费券最新活动汇总

【南昌青山湖区电子消费券最新活动(持续更新)】注意:消费券活动名额有限,先到先得,领完即止。➤202...

01-16 14:35:04

环球快消息!“监控视频里的人不是我”?偷走铁制品的蒙面贼找到了!

据此,公安机关初步认定,白色轿车驾驶员甘某是实施盗窃的犯罪嫌疑人

01-16 10:09:57

微速讯:1月15日擒牛姐周末复盘

指数看震荡,有回落需求,但是关系暂时不大。周五,大金融继续拉指数,证券,保险大涨,为过完春节的牛...

01-15 22:55:11

天天快看点丨李嘉欣的儿子,到底长得像谁?

网友感叹李嘉欣和许晋亨的儿子真是一点高颜值基因都没遗传到。

01-15 11:12:54

当前聚焦:我国成功发射遥感三十七号等3颗卫星

1月13日15时00分,我国在酒泉卫星发射中心使用长征二号丁运载火箭,成功将遥感三十七号卫星和搭载的试验...

01-14 09:26:59

世界新消息丨苏州的新鲜乌梅几月份成熟 乌梅什么时候成熟

1、乌梅的果实在五月中旬成熟,其大多是生长在南方温暖的地区,每年冬末和初春的时候开花,也就是在二、...

01-13 21:29:58

世界看点:事关4亿车主!定价规则调整,你的车险保费要降了?

资深精算师徐昱琛对中新经纬表示,整体而言,《通知》中对于商车险自主定价系数的调整,对定价更精细的...

01-13 16:26:41

天天微动态丨2023温州雁荡山哪些景点向全国游客免门票开放?

2023温州雁荡山哪些景点向全国游客免门票开放?答:灵峰景区(日景、夜景)、灵岩景区、大龙湫景区、三折瀑...

01-13 12:37:58

快资讯:北京燃气天津南港LNG应急储备项目配套码头工程竣工

(王在御)记者12日从中交一航局获悉,北京燃气天津南港LNG应急储备项目码头工程于11日完成竣工验收,工程...

01-13 08:56:40

【世界速看料】唱多也做多!外资天天扫货不打烊,节前行情怎么看?

每经记者:曾子建每经编辑:叶峰投基Z世代,Z哥最实在。今天,如果没有北向资金的大力支持,可能A股就悬...

01-12 23:34:44

今日热文:德易车:盘点2022年二手车新政 利好行业利好消费者

刚刚过去的2022年,关于二手车的政策频频出台,呈现出利好消费者的氛围。德易车进行了过去一年的政策盘点,...

01-12 17:11:55

全球观天下!商品期货早盘收盘涨跌不一,低硫燃料油涨超5%,燃料油涨超3%

金融界1月12日消息国内期货市场早盘收盘,商品期货涨跌不一,低硫燃料油涨超5%,燃料油涨超3%,沥青、沪...

01-12 11:57:02

环球速看:抢到赚到!美媒列湖人5大交易目标:热火2换2,公牛2换3最划算

抢到赚到!美媒列湖人5大交易目标:热火2换2,公牛2换3最划算,威少,公牛,洛瑞,热火队,步行者队,克拉克森...

01-12 10:27:28

快报:7换3,马刺报价欧文!马刺正式确定,凯尔顿约翰逊更衣室落泪

对于本赛季志在争夺状元签的马刺来讲,基本上已经放弃了这个赛季。他们的目标在赛季之初就已经告诉了世...

01-12 07:41:41

世界快看点丨中文在线:公司改名后不会停牌

同花顺(300033)金融研究中心1月11日讯,有投资者向中文在线(300364)提问,改名后,会停牌吗。公司回...

01-11 21:40:52

环球热讯:夫妻离婚中隐藏财产如何处理

离婚时一方隐藏财产的,在离婚分割夫妻共同财产时,对该方可以少分或者不分。离婚后,另一方发现有上述...

01-11 17:05:27

环球滚动:【港股通】药明生物(02269)涨近7% 麦格理上调其评级至“跑赢大市”

药明生物跟随医药板块走强,最新报72港元,涨6 82%,成交额19 04亿港元。麦格理表示,由于防疫政策优...

01-11 13:14:05

全球短讯!2022年,祁东县域经济“冲”进全省前十!|年终盘点·飞阅祁东

1月10日,记者从祁东县委经济工作会议上了解到,2022年,祁东县经历了重重困难,也收获了满满成果,县域...

01-11 08:40:48

视焦点讯!文旅惠报丨​兰州青城古镇投资50亿打造国家级旅游度假区

文旅巨头行情1、兰州青城古镇投资50亿打造国家级旅游度假区近日,榆中县人民政府与甘肃省城市建设商会成...

01-10 22:32:29

环球消息!2023自贡灯会有学生票吗?

2023自贡灯会有学生票吗?有,第29届自贡灯会有学生票啦!学生优惠票购买条件学生凭本科及以下学生证18...

01-10 18:35:48

环球看热讯:南县武圣宫镇:沟渠治理不停歇 美丽乡村展新颜

进行支沟清淤作业。冬季时值农闲时节,是兴修水利的大好时期。为了完善提升水利设施,保障粮食生产安全...

01-10 15:02:07

每日速读!冀东装备: 2023-1冀东装备2022年度业绩预告

冀东装备:2023-1冀东装备2022年度业绩预告

01-10 13:01:21

环球观速讯丨广弘控股董秘回复:生猪养殖方面,公司持续推进生猪产业规模化发展

广弘控股(000529)01月10日在投资者关系平台上答复了投资者关心的问题。

01-10 12:50:51

今亮点!河西区10岁小孩抚养费包括什么

1、抚养费也称抚育费,是父母或对未成年人负有抚养义务的人,为未成年人承担的生活、教育等费用。2、我...

01-10 12:29:14

环球新资讯:广东省潮州市政府规定产假有多长?

产假最多休178天,包括法定产假98天以及地方规定80天。

01-10 11:40:01

头条:苏宁任性贷逾期9个月多久会上征信

网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构,而有些借贷机构则是会在几天...

01-10 11:27:07

今日热门!国际航班陆续恢复助推机场免税业务复苏 部分门店已正常营业

《证券日报》记者致电多家国际机场询问免税店恢复营业情况,对方大多表示,机场免税店的营业时间随国际...

01-09 16:14:38

世界讯息:发热诊疗站服务全

【抗疫中,我们众志成城⑭】近日,河南省鹤壁市盘活资源、靠前服务,打造群众家门口发热诊疗服务圈,将...

01-09 12:18:15

快讯:2022年12月份江苏新三板企业市值TOP100榜单出炉:超3成企业冲刺北交所

江苏省2022年12月份新三板企业市值TOP100榜单正式出炉。榜单显示,100家企业中,有10家企业市值超20亿元...

01-09 09:45:39

环球热文:中粮家佳康(01610.HK)发布盈警:预计2022年度生物资产公允价值调整前的公司拥有人应占亏损约2.5亿元-4.5亿元

格隆汇1月6日丨中粮家佳康公布,预期集团2022年度生物资产公允价值调整前的公司拥有人应占亏损约为人民...

01-07 01:06:27

全球今热点:1月6日三特索道跌10.02%,东方红新动力混合A基金重仓该股

1月6日三特索道跌10 02%,东方红新动力混合A基金重仓该股

01-06 22:26:51

世界速读:2022年12月金融数据前瞻:社融存量增速或跌破10%

中国网是国务院新闻办公室领导,中国外文出版发行事业局管理的国家重点新闻网站。本网通过10个语种11个...

01-06 20:11:19

世界通讯!注意查收!北京地区核发2022年度这两个资格证书

北京人事考试关于核发北京地区2022年度初、中级卫生专业技术资格证书、护士执业资格证书的通知各位考生...

01-06 17:29:55

每日信息:冰雪运动休闲游迎来小高峰

原标题:冰雪运动休闲游迎来小高峰中国体育报记者王辉进入滑雪季节,中国旅游市场呈现逐步回暖态势,其...

01-06 16:44:37

世界快消息!2023年南宁园博园冬游广西优惠活动详情

冬游广西活动时间:2022年12月1日至2023年2月28日(法定节假日除外)。园博园冬游广西优惠内容:全国各省(...

01-06 13:59:28

精彩看点:海信家电(00921.HK)涨超7%,盘中高见11.22港元创2021年5月底以来新高,近两月股价累涨逾68%

海信家电(00921 HK)涨超7%,盘中高见11 22港元创2021年5月底以来新高,近两月股价累涨逾68%。截至发稿...

01-06 12:10:05

天天热点评!青岛食品1月5日快速上涨

以下是青岛食品在北京时间1月5日13:44分盘口异动快照:1月5日,青岛食品盘中快速上涨,5分钟内涨幅超过2...

01-05 14:45:41

【快播报】央企改革板块1月4日涨0.1%,岳阳林纸领涨,主力资金净流出15.08亿元
世界微资讯!如果网贷逾期26天还不起后果会怎么样
【世界独家】长远锂科预计2022年净利润翻倍
当前通讯!剧情绝佳的五本仙侠幻情品质小说,萌动你的少女心!
世界热讯:2022年我国煤炭市场分析及2023年展望
天天通讯!中国五矿2022年营收和利润双创新高
世界聚焦:装了电热毯怎么用床笠?
时讯:同样是“美人出浴”,王祖贤、林青霞、刘亦菲的差别有多大?
每日消息!ST太安(002433):职工代表监事换届选举
【聚看点】原神:盘点可攻可辅的角色,别再压仓库了,赶紧拿出来辅助更强!
天天观热点:1-11月,我国集成电路产量2958亿块,同比下降12%
环球今日报丨全面回暖百花齐放 开年第一周24只新产品发售
世界微动态丨形容我负人的句子(精选191句)
环球微速讯:住在50层以上是一种什么感觉?
世界观速讯丨光未然小学:传承黄河精神 厚植爱国情怀
焦点速递!网贷如何申请停息挂账还本金
环球速递!写夏天风景的作文200字左右(通用12篇)
今日要闻!果洛工伤认定标准有哪些
环球焦点!佛山可开抗病毒小分子药物阿兹夫定片等​医疗机构信息汇总表
【聚看点】赵梅玲离任东吴医疗服务股票 年内下跌21%
焦点播报:网贷逾期23年影响个人征信吗
环球信息:十三部门出手治理非学科类校外培训
今头条!可孚医疗(301087.SZ)拟1亿元至2亿元回购股份 回购价不超60元/股
【世界速看料】中钢协:发运至青岛港62%品位干基粉矿到岸价为116.11美元/吨
全球新资讯:连花清瘟进价8.62元卖70元,湖北一中医门诊部被查
全球最资讯丨黄陂8大景区免门票,欢迎全国人民来打卡!
【天天播资讯】长安汽车(000625)12月28日主力资金净卖出8.29亿元
精彩看点:暖冬、库存、需求齐施压,欧洲天然气盘中跌至俄乌冲突爆发前水平
每日快播:澳大利亚运输合同范本(优选13篇)
全球头条:国家文物局:三年来整改火灾隐患24万项 重大文物火灾数量明显下降
当前观点:南非业余球赛贡献奇景 获胜一方球员集体躺倒在地送上安慰球
世界快讯:诚迈科技:融资净买入668.56万元,融资余额3.83亿元(12-27)
环球热文:盛航股份(001205.SZ):“SH MARIA”和“SH SARAH”两艘外贸化学品船舶已正式投入运营
天天新资讯:2022全国理性饮酒宣传周活动在京启动
世界微头条丨报告显示:当前科学研究呈现八大趋势
环球今热点:12.27早盘:专精特新的炒作思路
环球速讯:国产大飞机C919开启验证飞行
快看:放心“买买买”!海口市市场监管局美兰分局举办放心消费创建单位授牌仪式
新动态:“阳”康了,是否要做个肺部CT检查?
【全球新视野】明牌珠宝: 股票交易异常波动公告
资讯:通讯:中泰合作水上光伏项目助力泰国迈向低碳社会
环球消息!我市交通秩序有序恢复 车流量明显回升
每日时讯!北京大兴机场临空区中央公园一期开工 构建新国门生态地标
热推荐:百济神州(06160.HK)早盘继续活跃,升约6%
环球即时看!开远市推进“干部规划家乡行动”建美丽乡村
视焦点讯!国家药监局:进一步加强疫情防控药品质量安全监管,保障药品安全形势总体稳定
全球今热点:彰显央企担当 新钢集团向新余市民免费发放25000粒布洛芬
每日热文:又见用户数据大规模泄露,智能汽车须加固信息安全锁
世界短讯!正大国际期货:科技在外汇盈利中的作用|客席专栏
世界观速讯丨南方锅炉计划向共青农村商业银行股份有限公司德安支行申请700万贷款
X 广告
资讯
X 广告

Copyright ©  2015-2022 东方畜牧网版权所有  备案号:沪ICP备2020036824号-8   联系邮箱:562 66 29@qq.com