缺乏信赖的人工智能会阻碍创新和商业价值

最近对全球商业领袖进行的一项调查显示，值得信赖的人工智能是一个主要优先事项，但许多人没有采取足够的措施来实现它，但代价是什么？

事实上，IBM 的调查显示，惊人的 85% 的受访者同意，消费者更有可能选择对其 AI 模型的构建、管理和使用方式保持透明的公司。

然而，大多数人承认他们没有采取关键步骤来确保他们的 AI 值得信赖和负责任，例如减少偏见 (74%)、跟踪性能变化和模型漂移 (68%)，以及确保他们能够解释 AI 驱动的决定（61%）。这令人担忧，尤其是当你考虑到人工智能的使用量不断增长时——35% 的人表示他们现在在他们的业务中使用人工智能，高于一年前的 31%。

我最近参加了在多伦多举行的仅限受邀者参加的企业创新峰会，与会者在会上交流了创新想法并展示了有望塑造未来的技术。我有幸参加了金融服务、保险和零售领域的三个圆桌会议，讨论了三个关键领域：提高透明度以促进对 AI 的信任、通过无代码/低代码实现 AI 民主化以及开发通过 AI 监管治理最佳实践提供更快的价值实现时间和风险缓解。

增加对人工智能技术的信任。新冠扩大并加速了支持人工智能聊天机器人、虚拟财务助理和非接触式客户入职的趋势。正如Cap Gemini 的研究所证实的那样，这一趋势将继续下去，该研究表明，78% 的受访消费者计划增加 AI 技术的使用，包括在与金融服务组织的互动中进行数字身份管理。

尽管有固有的好处，但也出现了许多挑战。其中最主要的是消费者对人工智能技术的持续不信任，以及它们无处不在的性质如何影响他们的隐私和安全权利。30% 的消费者表示，如果他们的金融服务提供商在解释如何收集、管理和保护他们的信息时提供更高的透明度，他们会更愿意分享他们的生物识别信息。

CIO 必须采用值得信赖的 AI 原则，并制定严格的措施来保护隐私和安全权利。他们可以通过加密、数据最小化和更安全的身份验证来实现这一目标，包括考虑新兴的去中心化数字身份标准。因此，您的智能自动化工作和自助服务产品将得到更多采用，并且需要更少的人工干预。

消除人工智能民主化的障碍。越来越多的人转向无代码/低代码 AI 应用程序开发，研究预测到 2025 年将达到 455 亿美元。主要驱动因素是更快实现价值，应用程序开发生产力提高 10 倍。

例如，56% 的受访金融服务组织认为，从借款人那里收集数据是贷款申请流程中最具挑战性和效率最低的步骤之一，导致高放弃率。虽然人工智能驱动的生物特征识别和数据收集技术已被证明可以提高贷款申请流程的效率，但它们也可能带来合规风险，尤其是数据隐私、机密性和人工智能算法偏差。

为了减轻和补救此类风险，低代码/无代码应用程序必须包括全面的测试，以确保它们按照初始设计目标执行，消除训练数据集中的潜在偏差，其中可能包括采样偏差、标签偏差，并且免受对抗性攻击可能对 AI 算法结果产生不利影响的 AI 攻击。考虑公平、准确、保密和安全的负责任的数据科学原则是最重要的。

制定人工智能治理和监管框架。人工智能治理不再是主动的好事，而是势在必行的。根据经合组织关于国家人工智能政策的跟踪器，60 多个国家正在制定 700 多项人工智能监管举措。然而，电气和电子工程师协会（“IEEE”）和美国国家标准与技术研究院（NIST）等国际标准组织制定了自愿行为准则和道德人工智能原则。

组织的担忧围绕着这样一种假设，即人工智能法规将对它们施加更严格的合规义务，并得到繁重的执法机制的支持，包括对违规行为的处罚。然而，人工智能监管是不可避免的。

欧洲和北美正在采取积极主动的立场，这将要求 CIO 与其技术和业务同行合作以制定有效的政策。例如，欧盟委员会提出的《人工智能法案》提议对人工智能供应商制定基于风险的义务，以保护消费者权利，同时促进与人工智能技术相关的创新和经济机会。

此外，2022 年 6 月，加拿大联邦政府发布了期待已久的《数字宪章实施法案》，该法案旨在防止高风险人工智能系统的不利影响。美国也在推进人工智能监管举措，尽管是以部门为基础的。联邦贸易委员会 (FTC)、消费者金融保护局 (CFPB) 和联邦储备委员会都在通过执法机制发挥监管力量，以保护消费者免受因 AI 应用增加而可能导致歧视性结果的不利影响，尽管是无意的。任何创新型公司都必须有一个人工智能监管框架。

实现可信赖的 AI 需要数据驱动的洞察力

如果没有数据驱动的方法来确定人工智能技术的应用在实施之前可能产生最大影响的地方，就无法实施可信赖的人工智能。是为了提高客户参与度，还是为了实现运营效率或降低合规风险？

这些业务驱动因素中的每一个都需要了解流程的执行方式、升级和异常的处理方式，并识别流程执行障碍的变化及其根本原因。基于此类数据驱动的分析，组织可以就与基于 AI 的解决方案的实施相关的影响和结果做出明智的业务决策，以减少客户入职摩擦并提高运营效率。一旦组织受益于数据驱动的洞察力，他们就可以自动化高度劳动密集型流程，例如满足 AI 合规性要求、合规性审计、金融服务中的 KYC 和 AML。

主要要点是，支持 AI 的流程自动化的一个组成部分是实施可信赖的 AI 最佳实践。人工智能的道德使用不应仅被视为法律和道德义务，而应视为商业需要。在 AI 应用中保持透明具有良好的商业意义。它培养信任并产生品牌忠诚度。