能够让人们了解人工智能体系是怎么做出决议的，而这将成为医疗、制作、稳妥、轿车范畴的要害。那么这关于安排意味着什么？
例如，流媒体音乐服务渠道Spotify方案向用户引荐歌手Justin Bieber的歌曲，却引荐了Belieber的歌，明显这有些令人感到困扰。这并不一定意味着Spotify网站的程序员有必要保证他们的算法通明且易于了解，但人们或许会发现这有些违背方针，但其成果明显是微乎其微的。
这是可解说人工智能的一个试金石——即机器学习算法和其他人工智能体系，它们能够发生人类能够简略了解并追溯到来源的成果。根据人工智能的成果越重要，对可解说人工智能的需求就越大。相反，相对低危险的人工智能体系或许只合适黑盒模型，人们很难了解其成果。
Jane.ai公司人工智能研制主管Dave Costenaro说：“假如人工智能算法的作用不够好，比方音乐服务公司引荐的歌曲相同，那么社会或许不需求监管安排对这些建议进行监管。”
人们能够忍耐使用程序对其音乐品尝的误解。但或许无法忍耐人工智能体系带来的更重要的决议，也许是在建议的医疗或回绝请求典当借款的状况下。
这些都是高危险的状况，尤其是在呈现负面成果的状况下，人们或许需求明确地解说是怎么得出特定成果的。在许多状况下，审计师、律师、政府安排和其他潜在当事人也会这样做。
Costenaro表明，由于特定决议计划或成果的职责从人类转移到机器，因而对可解说性的需求也会添加。
Costenaro说，“假如算法现已让人类处于这个循环中，人类决议计划者能够持续承当解说成果的职责。”
他举例说明了一个为放射科医师预先符号X射线图画的计算机视觉体系。他说，“这能够协助放射科医师更精确、更有效地作业，但最终将供给确诊和解说。”
可是，跟着人工智能的老练，人们或许会看到越来越多的新使用程序逐步依赖于人类的决议计划和职责。音乐引荐引擎或许没有特别严重的职责担负，但许多其他实在或潜在的用例将会面对严重的职责。
Costenaro说，“关于一类新的人工智能决议计划来说，这些决议计划具有很高的影响力，并且由于所需处理的速度或数量，人类不再能够有效地参加其间，从业者们正在尽力寻觅解说算法的办法。”
IT领导者需求采纳办法保证其安排的人工智能用例在必要时正确地包括可解说性。 TigerGraph公司营销副总裁Gaurav Deshpande表明，许多企业首席信息官现已重视这个问题，即便他们了解到特定人工智能技能或用例的价值，他们一般还有一些犹疑。
Deshpande说，“可是假如不能解说是怎么得出答案的，就不能使用它。这是由于‘黑盒’人工智能体系存在成见的危险，这或许导致诉讼、对企业品牌以及资产负债表的严重职责和危险。”
这是考虑企业怎么以及为何选用可解说的人工智能体系而不是操作黑盒模型的另一种方法。他们的事务或许依赖于它。人们对人工智能成见的建议或许会被误导。在危险较高的状况下，相似的要求或许相当严重。而这便是可解说的人工智能或许成为机器学习、深度学习和其他学科的商业使用的焦点的原因。
Ness数字工程公司首席技能官Moshe Kranc对可解说人工智能的潜在用例进行了讨论，他说，“任何影响人们日子的用例都或许遭到成见的影响。”其答案既简略又深远。
他共享了一些越来越多地或许由人工智能做出决议的比如，但这从根本上需求信赖、可审计性和其他可解说人工智能的特征：
考虑到这一点，各种人工智能专家和IT领导者为此确认可解说人工智能必不可少的职业和用例。银职业是一个很好的比如，能够这么说，可解说的人工智能十分合适机器在借款决议计划和其他金融服务中发挥要害作用。在许多状况下，这些用处能够扩展到其他职业，其细节或许会有所不同，但准则坚持不变，因而这些示例或许有助于考虑安排中可解说的人工智能用例。
