人工智能具有改变和破坏医疗保健的潜力。但是，该行业必须提防意想不到的后果，并且不要屈从于市场宣传和利润动机。
这就是医学研究院的一份新报告的论点，该报告的作者将文件描述为对医疗保健中AI的成就，可能性和陷阱的“清醒和平衡”评估。
他们补充说：“尽管像所有技术一样，在医学中使用AI的潜力很大，但实现并非没有一定风险。”
NAM研究的合著者，再生研究院的研究开发副总裁Eneida Mendonca医学博士认为，人工智能有可能产生意想不到的后果，因此，必须遵守法规并在道德上加以实施。
Mendonca说：“最好是主动建立监管框架，而不是响应特定问题。”“卫生系统必须采取步骤，以确保该技术正在增强对所有患者的护理。系统负责人必须努力避免在AI应用程序的使用中引入社会偏见，包括在数据收集和算法评估过程中要求透明性。”
她补充说：“必须调整通用的IT治理结构来管理AI，并且如果可能的话，应在学习健康系统的背景下使用该技术，以便可以不断评估和调整其影响以最大化收益。”
NAM研究的作者指出，人工智能工具仅与用于开发和维护它们的数据一样好，并指出当前数据源存在许多限制，这些限制对于提供循证医疗保健和开发人工智能算法至关重要。
作者认为：“电子健康记录和其他健康信息系统的实施为科学家提供了有关个人健康数据的丰富的纵向，多维和详细记录。”“但是，这些数据嘈杂且有偏差，因为它们是在记录护理过程中出于不同目的而产生的。”
结果，NAM研究警告说，不良数据只会导致不良模型。作者观察到：“有一种趋势是将AI炒作一种神奇的东西，无论输入什么，它都可以学习。”“在实践中，数据的选择总是胜过模型的特定数学公式的选择。”
尽管如此，研究作者的希望仍是，人工智能将成为医疗行业以及联邦政府对广泛采用的电子病历的大规模投资的“回报”。
尽管如此，Regenstrief的Mendonca建议，由于AI已集成到EHR中，因此该行业必须专注于临床安全性并仔细监控其用途和结果。
Mendonca说：“正如我们在科学院的报告中所写的那样，’实际上，目前已获得的32万多个健康应用程序中，几乎没有一个已被下载了近40亿次，实际上却被证明可以改善健康状况。”
“最明智的AI指导是从医疗保健中的实际问题开始，通过与相关利益相关者，一线用户，患者及其家人(包括AI和非AI选项)合作，探索最佳解决方案，并实施和扩展满足我们五重奏的方案目的：更好的健康，更好的护理体验，临床医生的福祉，更低的成本和健康平等。”研究的作者总结道。