机器学习可不可靠,能不能用?
这种质疑声从机器学习诞生开始就一直存在,伴随机器学习走过了坎坷的很多年,见证机器学习实现了一次又一次成功。
以深度学习为核心的这一代人工智能已经取得了巨大成功,但仍然面临诸多挑战。
从历史发展来看,专家系统的可解释性相对较好,但是在复杂系统中的准确度较差。
与此同时,深度或强化深度学习则在复杂系统中的准确率较高,但可解释性较差。
可解释机器学习近几年取得哪些突破?
都有哪些可用的工具?
可解释性机器学习突破是人工智能理论及伦理道德一盏明灯,是人工智能产业落地的基石。
目前,可解释机器学习研究路径主要有三种方式:
一是是从认知生物学和认知心理学两个层次探讨人工智能解释以及数学理论和方法。
二是主要以深度学习+因果模型、深度学习+推理和智能人机交互结合起来,可从注意力机制、记忆网络、迁移学习、深度强化学习等手段与人类的知识相结合,试图解释人工智能的本质,弥补可解释性的缺陷。
三是物理信息机器学习,主要通过物理学与人工智能的跨界新范式,来揭开人工智能“黑盒”的钥匙。
从理论上来看,可解释性机器学习理论框架和工作流程已经初步形成。主要从可解释机器学习需求、挑战、困难和机遇作为切入点,初步提出了可解释机器学习理论体系和流程。
总体来说,从可解释性的视角重新审视机器学习的工作原理,内容涵盖从传统机器学习到深度学习,再到因果关系推断与对抗式学习的主流机器学习方法。
从不可知论、依赖模型方法或内在可解释性构建了机器学习可解释方法论,从全局可解释性和局部可解释性两个方面回答机器学习“是什么”、“为什么”以及“如何做”等方面的问题。
从操作层面和工具层面来说,目前以下几个算法(框架)能够支持可解释机器学习实现:
(1)SHAP是一种博弈论的方法,可用于解释任何机器学习模型的输出。该方法利用博弈论中的经典Shapley值及其相关扩展,将最优信用分配与局部解释联系起来。
(2)LIME不关注整体复杂的模型行为,而是关注局部区域,用线性近似来反映被预测实例周围的行为。
(3)Expl人工智能nable Boosting Machine是一种基于树的、循环梯度提升的广义加成模型,具有自动互动检测功能。一般情况下,EBM具有和最先进的黑箱模型一样的准确性,同时还能够保持完全可解释。
(4)Distillation,即知识蒸馏。在机器学习中,知识蒸馏是将知识从一个大模型转移到一个小模型的过程。在模型解释的背景下,大模型是黑箱模型,也是教师模型。较小的模型是解释者,即学生模型。学生模型试图模仿教师模型的行为,并且是可解释的。
(5)Counterfactual分析描述的是为改变模型预测所需的最小的输入特征变化。这里我们提出了很多 “如果 “问题。如果我们增加这个特征或减少那个特征呢?
(6)lnterpret机器学习是一个开源的软件包,能够将最先进的机器学习解释技术整合在一起。
(7)OmniX人工智能是一个用于可解释人工智能(X人工智能)的Python库,提供全方位可解释人工智能和可解释机器学习功能,以解决实践中解释机器学习模型所做决策时的许多困难。
《可解释机器学习:黑盒模型可解释性理解指南》一书作为较为早期的一部研究可解释机器学习的作品,为业界探索可解释方法提供了一定的帮助。
《可解释机器学习:黑盒模型可解释性理解指南》这本书英文版作者Christoph Molnar从2018年开始撰写本书,并于2019年正式出版。
当时,可解释性机器学习主题在学术界声名鹊起,并受到了广泛的关注。
2021年,本书译文出版了,在国内掀起了对该领域的研究热潮,本书也好评不断。
本书带来了那些亮点?
随着该领域的快速发展,作者也及时对内容作了修订,形成了你眼前的第2版。
相比第1版,第2版重构了整个章节框架和知识体系,使机器学习可解释性的理论体系更加全面、完善和深入,同时给出了目前已经实现各个方面的编程语言和工具。
本书技术框架见图1所示。
本书从理论和实践的角度填补了这一新兴主题文献方面的空白,使读者能够快速使用可解释性机器学习的工具和代码。
图1 可解释机器学习理论体系
本书展现的内容
本书分四部分:
第一部分(第1~3章),介绍可解释机器学习的基本概念、数据集;
第二部分(第4 章),从内在可解释性模型(即白盒方法)方面展开了讨论,主要包括线性回归、逻辑回归、决策树等一系列机器学习方法;
第三部分(第5 ~ 9 章),从模型不可知方法(即黑盒方法),具体从局部可解释性、全局可解释性以及深度学习模型可解释性展开了讨论;
第四部分(第10 章),对机器学习可解释性的未来进行了展望。
本书涵盖了可解释机器学习理论体系和指导思想,建议读者阅读本书,在本书的基础上进一步在该领域做出创新工作,强烈向读者推荐本书。
尊敬的博文视点用户您好: 欢迎您访问本站,您在本站点访问过程中遇到任何问题,均可以在本页留言,我们会根据您的意见和建议,对网站进行不断的优化和改进,给您带来更好的访问体验! 同时,您被采纳的意见和建议,管理员也会赠送您相应的积分...
时隔一周,让大家时刻挂念的《Unity3D实战核心技术详解》终于开放预售啦! 这本书不仅满足了很多年轻人的学习欲望,并且与实际开发相结合,能够解决工作中真实遇到的问题。预售期间优惠多多,实在不容错过! Unity 3D实战核心技术详解 ...
如题 ...
读者评论