AI透明为什么很重要?

摘要 随着人工智能技术的普及,人们对该技术的“为什么”和“是什么”产生了怀疑。因此,保持人工智能操作的透明度已成为一项重要举措。下面将介绍什么是AI透明度,AI透明的重要性,以及如何实现AI的透明性。
        人们自然会倾向于不信任不透明的事情。作为人类,我们总是喜欢知道“什么”背后的“为什么”,以为他们可以信任“什么”。这导致人们质疑AI的决策能力。一个AI解决方案可以产生一个答案,但它是如何得出这个答案的呢?它使用的标准是什么?它有没有和人类一样的价值观?
 

        随着复杂的机器学习模型和集合的出现,这些问题变得更加突出,这些模型和集成很难分析如何分析更简单的线性模型和决策树。这些模型为那些被认为是机器智能难以完成的任务提供了很高的精确度,但在传统意义上不太容易“解释”或“透明”。虽然“机器为什么会这样思考”这个终极问题目前仍然是一个难题,但在提高对结果的理解方面已经取得了巨大的进步。

        还必须权衡一个事实,即许多人类的决策也没有“透明”的解释——通过规则或封闭形式的解决方案。在某些情况下,输出的准确性可能超过解释的需要。让我们仔细看看透明AI的概念和一些有助于实现透明的方法。
 
  • 什么是AI透明度?

        假设我们将AI的透明度等同于机器学习模型提供的答案的可解释性或可解读性。在那种情况下,至少有两个关于其实际含义的定义。第一个与相关有关,第二个与因果相关。对于更简单的机器学习模型,关联是一个更容易解决的问题。但是,对于更复杂的模型,例如基于深度神经网络的方法,相关性和因果关系都具有挑战性。

        人工智能解决方案必须对达到答案的路径提供一定程度的信心,同时保持较高的准确性。来自效果不佳的模型的解释可能没有多大用处。透明的AI系统依赖多种技术来理解AI系统为何获得特定结果。这可以帮助部分解决“ 黑匣子 ”综合症,在该综合症中,AI系统无法在要素和输出之间提供充分且相关的关联(如果不是因果关系)。
 
  • 为什么AI透明度很重要?

        可见性和信任是企业中任何AI平台采用和持续使用的主要因素。通过分析多年的历史数据来实现高精确度的预测,而建议却没有令人信服的可解释性,这将不会为决策者加分。缺乏透明度是当今采用自主AI的主要障碍之一。AI透明至关重要的三个关键原因:

        1、提供功能对结果的方向性和定量影响的视图,以便评估推理的逻辑一致性,尤其是在关键任务情况下。换句话说,透明度对于了解功能的影响有多大以及它是正面的还是负面的至关重要。

        2、获得有助于改善模型并防止偏差渗入生产系统的见解。

        3、支持在最近的一些法规,如GDPR和其他与数据隐私有关的法规的背景下,对解释权的日益增长的需求。(就欧盟的GDPR而言,它要求处理公民个人数据的实体通过向他们提供访问某些自动化决策系统中“有关所涉及逻辑的有意义的信息”,来确保公平和透明的处理。)

        组织需要人工智能。但是,当今的企业是极其复杂的环境,每天都会生成数TB的数据。人类不可能分析所有数据并及时做出充分明智的决定。招聘周期很少能跟上这种增长速度。因此,许多组织已经开始依靠某种形式的AI来自动化和增强决策和采取行动。复杂的AI模型可以分析大量的多维结构化和非结构化数据。

        对AI决策过程充满信心的重要性不能过分强调——这很关键。只有有了这种理解和透明度,组织才能以更高的速度采用AI,并且只有这样,组织才能在未来继续获得AI的好处。

        例如,假设零售商店的AI系统发送了一个警报,通知零售商他们将在商店开业之前没有及时收到仓库货物,这是违反服务水平协议(SLA)的。尽管这是有用的信息,但警报还需要包括有关根本原因的足够证据,以便业务团队可以解决SLA违规,主动解决问题的根本原因,并在将来确定此类警报的优先级。 

        AI的透明性还使用户能够在生产中发布系统之前分析偏见,或防止它们在生产运行期间蔓延。媒体迅速指出了过去AI项目中的缺陷,例如Tay聊天机器人的惨败,这使人们开始质疑是否对AI模型进行了彻底的偏见和准确性测试。
 
  • 组织如何实现AI的透明性?

        组织在进行AI之旅时需要做出明确的选择并定义成功标准。在关键任务或对收入或成本有重大影响的情况下,对AI提供的结果进行某种形式的可解释性很重要。 

        还必须了解并非所有的机器学习模型都提供同等程度的可解释性。较简单的模型通常对复杂的决策不太准确,但可以接受审查。对于复杂的模型,正在开发替代方法。但是,其中大多数提供的是本地解释,而不是全局解释。

        在其他情况下,高准确度和有限的洞察力仍然可以接受。例如,让我们考虑生产设置。假设使用匹配或超过人类性能的高精度图像处理模型来识别缺陷。在这种情况下,仅接受质量有限的检查结果即可,以检查是否有缺陷和无缺陷的部件。

        总结

        人工智能最终将影响日常生活和商业的许多方面:自动驾驶汽车、医疗诊断、智慧城市、供应链预测等。通过解释结果并最小化任何偏见或逻辑上的矛盾来提高对AI的接受度至关重要。许多最先进的AI本质上不是透明的或无法解释的,但它可以变得透明或可解释。上述最佳实践和工具可以帮助正确地建立人工智能计划。

        (来源:业路网   作者:Jayanti Murty,文章内容仅代表作者个人观点,不代表业路网对本文内容观点的赞同与支持。)