提升2021年转型时的企业数据技术和战略。

正如俗话说的那样，犯错是人。有一天，机器可能会提供劳动力解决方案，避免人类的决策错误；然而，这些机器通过程序员、开发人员、产品经理和具有固有偏见的软件团队（像所有其他人一样）构建的算法和系统学习。换句话说，犯错也是机器。

人工智能有可能以不计其数的方式改善我们的生活。然而，由于算法通常是由少数人创建的，并分配给许多人，创作者有责任以公平地惠及人群和社区的方式构建算法。这说起来容易做起来难-不能指望程序员拥有构建无BIAS人工智能模型所需的充分知识和意识，而且，收集的数据可能会因为收集它们的方式和这些经验方法背后的文化假设而有偏见。幸运的是，当构建未来的持续学习人工智能系统时，有方法可以减少模型和系统中的这种偏见。第一步是关于识别。

重要的是要认识到，偏见存在于现实世界、所有行业和所有人之间。要问的问题不是如何消除偏见，而是如何发现和减轻这种偏见。理解这有助于团队接受问责，以确保模型、系统和数据纳入来自不同利益攸关方和样本的投入。

有无数的偏见渗透到算法及其应用中，影响模型的决策不应该孤立地做出。有目的地培养一个由来自不同背景和意识形态的个人组成的工作组，可以帮助为促进最佳和公平结果的决策和设计提供信息。

最近，剑桥大学(University of Cambridge)对400多个试图通过胸部X光更快地检测COVID - 19的模型进行了评估。该分析发现，许多算法都有严重的缺陷，也有很高的偏见风险。在一个例子中，一个接受成人胸部X光图像训练的模型在儿科肺炎患者的一组X光数据上进行了测试。虽然成年人的COVID - 19发病率高于儿童，但该模型积极地识别病例的比例不相称。这可能是因为模型在分析中加权肋骨大小，而实际上，最重要的诊断方法是检查肺部的病变区域，并排除其他问题，例如肺塌陷。

模型开发中的一个更大的问题是，由于数据的敏感性，数据集很少被提供，所以通常很难确定模型是如何做出决定的。这说明了透明度和可解释性对于模型的创建方式及其预期用途的重要性。让关键的利益相关者（例如，临床医生、精算师、数据工程师、数据科学家、护理经理、伦理学家和倡导者）在单一数据视图中开发模型可以消除由于医疗保健的孤立性质而持续存在的一些人类偏见。

还值得注意的是，多样性远远超出了创建算法的人。公平算法测试他们模型中的基础数据中的偏差。在COVID - 19 X射线模型中，这是阿基里斯的脚后跟。为构建模型而采样和收集的数据可能会低估我们想要预测的某些群体的结果。必须努力构建更完整的样本，让代表性不足的群体做出贡献，以更好地代表人群。

如果不围绕数据的记录和摄入方式开发更强大的数据集和过程，算法可能会从数据的收集方式中放大心理或统计偏差。这将对模型构建过程的每个步骤产生负面影响，例如培训、评估和推广阶段。然而，通过将更多来自不同行业的人包括在内，构建的AI模型将对世界有更广泛的了解，这将大大有助于减少单个个人或同质群体的固有偏差。

这可能会让一些工程师和数据科学家感到惊讶，但代码行可能会在很多方面造成不公平。例如， 推特自动上传图像，以改善用户体验，但其工程师收到的反馈是，该平台错误遗漏或错误识别了某些面孔。在多次尝试改进算法后，团队最终意识到，图像修剪是人们最好的决定。选择" ARGMAX "（最大的预测概率）最终输出预测，会放大不同的影响。需要大量的测试数据集以及基于场景的测试来消除这些担忧。

人工智能模型总是会有漏洞，但保持对它们的问责并纠正它们是很重要的。幸运的是，当团队使用已经构建并充分执行的基本模型来检测潜在的偏差时，现有的方法可以用来消除数据的偏差。理想情况下，模型不应该在没有适当的连续反馈循环的情况下运行，在该循环中，预测的输出被重用来培训新版本。当与不同的团队、数据和算法合作时，构建反馈感知的人工智可以减少偏见可能潜入的内在差距，但如果没有输入的多样性， AI模型将只是从其偏差中重新学习。

如果个人和团队意识到偏见的存在，那么他们在数据、算法和人的层面上就有必要的工具来构建更负责任的人工智能。最好的解决方案是意识到这些偏见存在，并维护安全网来解决每个项目和模型部署中的偏见。您使用什么工具或方法来在您的行业中创建算法公平性？最重要的是，您如何定义每个模型背后的目的？

Akshay Sharma是数字健康公司ShareCare人工智能的执行副总裁。