管理大师 W. Edwards Deming 有句名言「我们相信上帝。其他所有人都必须提供数据。」 但是我们可以信任数据到什么程度呢？

这正成为一个重要的问题，因为人工智能系统目前正在商业领域建立和部署，其好坏取决于输入到系统中的数据以及运行数据的算法。人工智能系统现在就客户价值、行动方案和运营的可行性做出决策。

ESI ThoughtLab 和 Cognizant 最近对 1,000 名高管进行调查得出的主要结论：在人工智能方面苦苦挣扎的公司正面临着对该技术提供的洞察力的重大信任问题。

虽然 20% 的公司在使用人工智能进行决策方面处于领先地位（这一群体可称为 AI 领导者），但其余 80% 的公司正在与阻碍他们前进的恶性循环作斗争。他们指出「未能充分认识到人工智能的全部决策潜力、对人工智能的信任度低和对这些技术的采用有限，这三个因素的自我强化相互作用正在阻碍进步。」

不信任 无使用

调查的作者发现，人工智能的使用和信任是密不可分的。「公司在决策中使用人工智能越多，就会越相信这些技术的实现能力。」在他们的研究中，51% 的 AI 领导者大部分时间都信任 AI 做出的决定，远远超过 31% 的非领导者的看法。注意，即使是最精通 AI 的公司也只有不到一半领导者对 AI 决策充满信心。

报告指出，对人工智能潜力的有限理解加剧了人工智能可以做的事和不能完成的事的不确定性。「这反过来又削弱了对它的信任。」「92%的领导者表示人工智能提高了他们做决策的信心，但47%的领导者仅在某些时候（而不是大部分时间或总是）信任人工智能决策，这一事实表明，在使用人工智能做出优秀决策方面建立信任需要时间。」

信任的缺乏来自多个方面

人们可能担心人工智能会改变或取代工作。

输入 AI 算法的数据质量可能存在问题。

算法本身可能有缺陷、有偏见或过时。

这取决于开发人员的方法以及他们对用户需求的理解。

此外，交互作用、数据和算法产生的结果甚至可能会让设计它们的数据科学家感到困惑。

作者建议，所有公司面临的挑战是「促进对数据和人工智能在决策中应用的广泛理解和信任」。这种信任可以通过推广人工智能带来好处而建立，并「通过使用技术来赋能而不是取代人类，从而将人类置于人工智能决策的中心。」

作者表示，即使是人工智能的领导者，也必须不断努力，才能保持对数据和结果的信任。报告指出：「随着人工智能的不断发展以及将人工智能决策嵌入公司基因持续工作，即使计划和实施非常出色，一套一次性的计划也是不够的。通过制度化的流程，企业可以跟上该领域的最新发展，教育员工如何与人工智能系统协作，并将人工智能决策作为公司的重中之重。」

作者建议，人工智能支持者还可以通过展示「重要的案例研究，突出其公司中人工智能可以改进决策的特定具体领域」来克服信任问题。「企业应该首先确定他们希望在人工智能支持下做出的决策，以及他们希望实现的业务成果，然后确保他们拥有相关数据。」

持怀疑态度的C级高管（CEO、CFO等高管）表示「可能需要进一步推动让人工智能更广泛地参与决策。数据科学家确保公司的人工智能以正确的格式、最新的数据来提供帮助，这些数据经过处理后输入最新的算法模型，并让其产生的决策与公司战略保持一致。这将加强信任，同时确保人工智能成为所有高管（包括其最初的支持者）在日常工作中的重要工具。」

作者：Joe McKendrick

参考链接：

https://www.forbes.com/sites/joemckendrick/2021/08/30/artificial-intelligences-biggest-stumbling-block-trust/?sh=4600090b7cb3