虽然人们很容易被永利皇宫app官网的诸多承诺所吸引，但人们对其安全性和偏见的担忧却与日俱增。医学算法已经展示影响弱势群体的偏见，如前所述支持 永利皇宫app官网 的招聘工具。 永利皇宫app官网面部识别有导致错误逮捕，生成式永利皇宫app官网有“的趋势产生幻觉”，或者编造。
这些场景突显了采取积极主动的 AI 治理方法为取得积极成果奠定基础的重要性。 Mayer Brown 合伙人、负责该律师事务所全球数据创新实践的多米尼克·谢尔顿·莱比锡 (Dominique Shelton Leipzig) 表示，虽然有些技术可以定期实施和重新审视，但负责任的人工智能需要更实际的治理方法。人工智能治理应从发展的最初阶段开始，并通过不断的关注和永利皇宫app官网来加强。
“永利皇宫app官网的前景非常惊人，但为了实现这一目标，需要一些徘徊，”谢尔顿莱比锡在最近的会议上说道EmTech 麻省理工学院会议，由《麻省理工科技评论》主办。 “尽早采用永利皇宫app官网治理可确保您能够发现永利皇宫app官网无法识别深色皮肤或永利皇宫app官网引发网络攻击等问题。通过这种方式，您可以保护自己的品牌，并有机会与客户、员工和业务合作伙伴建立信任。”
谢尔顿·莱比锡，新书《》的作者信任：负责任的永利皇宫app官网、创新、隐私和数据领先”概述了一个永利皇宫app官网和解决人工智能风险的框架，该框架基于世界各地拟议立法的早期草案。
红灯、黄灯和绿灯路标
谢尔顿·莱比锡 (Shelton Leipzig) 表示，六大洲 78 个国家的政府已与研究科学家和其他人员合作制定旨在确保永利皇宫app官网安全的立法草案，但这项工作仍在不断发展。然而，随着公司推进永利皇宫app官网计划和适当的治理，他们需要对其预期的永利皇宫app官网用例进行风险级别分类。她根据拟议的立法提出了红灯、黄灯和绿灯框架，以帮助公司简化永利皇宫app官网治理和决策。
红灯用例（禁止）。法律框架已确定 15 种应禁止永利皇宫app官网的案例。例如，永利皇宫app官网不应该在与投票等民主价值观的行使相关的监视或公共场所的持续监视中发挥作用。远程生物识别监控和社交评分也遭到反对，例如，社交媒体活动可以被用作贷款或保险决策的一部分。 “[政府]不希望私营公司这样做，因为存在造成太大伤害的风险，”谢尔顿莱比锡说。
绿灯用例（低风险）。谢尔顿·莱比锡 (Shelton Leipzig) 表示，这些案例，例如永利皇宫app官网在聊天机器人、一般客户服务、产品推荐或视频游戏中的使用，通常被认为是公平的游戏，并且偏见或其他安全因素的风险较低。其中许多示例已安全使用多年。
黄灯用例（高风险）。大多数类型的人工智能都属于这一类。这些案例是大多数公司面临风险且治理面临考验的地方。 Shelton Leipzig 表示，目前有近 140 个人工智能黄灯案例，包括在人力资源应用、计划生育和护理、监控、民主和制造业中使用人工智能。永利皇宫app官网信用度、管理投资组合或承销金融工具只是人工智能在金融应用中高风险使用的几个例子。
永利皇宫app官网高管学院
亲自前往麻省理工学院斯隆管理学院
立即注册
如何驾驭高风险永利皇宫app官网
一旦确定用例属于高风险/黄灯类别，公司就应采取以下预防措施，这些预防措施来自欧盟永利皇宫app官网法案以及白宫“永利皇宫app官网权利法案蓝图”的技术配套：
确保拥有高质量、准确的数据。数据必须准确，组织必须有权使用它，并且材料必须具有相关性。
拥抱持续测试。组织需要致力于在部署前和部署后持续测试算法偏差和准确性，以确保安全、防止隐私或网络安全漏洞并确保合规性。 “永利皇宫app官网需要受到关注，因为它可能会漂移或产生幻觉，”谢尔顿莱比锡说。 “你不想等到头条新闻出现，你的公司就被永利皇宫app官网的努力玷污了。我们只需进行持续的测试、监控和审计就可以领先一步。”
允许人工监督。如果早期步骤显示与预期存在偏差，请人工纠正模型并降低风险。
创建故障保险。公司需要明确表示，如果无法有效纠正偏差，永利皇宫app官网用例将被停止。
尽管永利皇宫app官网保障措施的立法仍在不断变化，谢尔顿·莱比锡 (Shelton Leipzig) 警告企业不要推迟采取这些关键的治理措施。永利皇宫app官网治理是一项团队运动，需要适当的利益相关者和团队成员参与，并且董事会、总法律顾问和首席执行官必须在每一步中随时了解情况。
“与其等到法律最终确定（这可能需要几年后），没有必要在没有这些护栏的情况下构建永利皇宫app官网，”谢尔顿莱比锡说。她补充说，它们使公司能够了解正在发生的事情，并确保他们的永利皇宫app官网工作达到预期，而不会被罚款、品牌受损或更糟糕的情况。
接下来阅读：麻省理工学院斯隆管理学院的生成式永利皇宫app官网研究
