微软研究公司(Micros of t Research)今天开放了一个软件工具包，旨在解决AI的“黑匣子”问题。 解释ML是为了帮助开发人员尝试介绍人工智能系统输出的解释的方法。 解释ML目前在alpha中，可在GitHub上使用。
解释人工智能系统所作预测的能力日益受到关注，因为人工智能更多地应用于法律和保健等部门。
“如果医生、法官和其他决策者信任支撑智能系统的模型，他们就能做出更好的决策。 更广泛地说，随着对模型的更充分理解，最终用户可能更容易接受人工智能驱动的产品和解决方案，而日益增长的监管需求可能更容易得到满足，“微软数据科学家和工程师今天在一篇博客中说。
微软的研究人员还认为，可解释性可以帮助开发人员决定最佳的方法来训练人工智能模型或衡量方法之间的一致性。
此举之际，微软结束了在西雅图举行的年度Build Developer Conference，该公司在这里推出了用于在网络上创建文档的Fluid框架、Azure Kubernetesnetes服务，以及第一批人工智能和机器人工具包。
在构建之前，上周微软宣布了它的开放神经网络交换(ONN X)现在支持Nvidia的Tensor Intel的nGraphfor在Nvidia和Intel硬件上的高速推理。
微软是AI合作伙伴关系的成员，这是一个由80多家科技公司和非营利组织组成的集团，最近宣布算法不适合自动化审前保释程序，部分原因是缺乏对原告如何被标记为高风险或低风险的明确解释。
AzureCloud和AI负责人Scott Guthrie上周断言，微软参与开源项目的意愿远远超过亚马逊或谷歌。
“我想你看到的是一个微软，它既深深地拥抱了开放，既是消费者，也是贡献者，我认为这是独一无二的。 如果你看看，比如说AWS对开源的贡献，就不会有很多。 有很多消费，但没有太多的贡献回来，我认为，即使你是看看谷歌相对于我们在Azure上所做的贡献，我认为人们通常会惊喜地把它加起来。”
Venture Beat要求提供更多关于微软内部如何使用该工具的细节。 如果我们听到回音，这个故事会更新的。