可解释机器学习最新综述：应用于实时场景中的机遇与挑战(5)

解释方法的部署：在已有工作中，解释及加速方法的设计、实现及验证都是基于 CPU 和 GPU结构的硬件。但是在实际应用场景中有很多其他种类及结构的硬件。已有算法无法从系统层面上达到最优的性能（内存消耗及运行速度）。部署模型解释方法以适应不用种类及结构的硬件系统将会推动可解释机器学习走向实际应用。
全局解释器的隐私保障：在目前批量解释算法中，由于全局解释器学到了训练数据的分布，因此这会有信息泄露的风险。所谓信息泄露指的是第三方可以从训练好的全局解释器中恢复出训练数据的分布。因此防止解释器泄露训练数据的分布也是推动可解释机器学习走向实际应用需要克服的困难之一。
加速方法的选择：本文所介绍的以及更多的模型解释算法都存在此消彼长的关系，即不存在某一种算法在所有的应用场景中都是最优的。然而决策者需要在实际应用中从众多的解释方法中选取最符合需求的一种或者几种解释方法。这无疑是困难的。一个解决方案是用算法来实现解释方法的选取，这使得决策者在不用了解所有解释方法的情况下仍然可以得到一种符合需求的解释方法。

结束语

本文首先阐明了可解释机器学习部署到实际场景中的速度需求，进而系统地介绍了目前主流的加速模型解释算法；最后分析了已有工作的局限性，并提出了未来研究的技术难点。