随着人工智能出现前所未有的增长和行业用例的激增，人们对该技术风险的担忧与日俱增，包括偏见、数据泄露、失业和滥用。
根据研究公司的说法Arize 8463永利皇宫登录，今年在年度财务报告中将人工智能列为风险的财富 500 强企业数量达到 281 家。这比 2022 年增加了 473.5%，当时只有 49 家公司将该技术标记为风险因素。
鉴于风险气候的范围和严重性，包括麻省理工学院斯隆管理学院研究科学家在内的研究团队已创建人工智能风险库，一个包含人工智能带来的 700 多种风险的实时数据库，按原因和风险领域进行分类。该项目旨在为行业、政策制定者、学术界和风险评估者提供一个共享框架，用于监控和维护人工智能风险的监督。该存储库还可以帮助组织进行内部风险评估、风险缓解策略以及研究和培训开发。
8463永利皇宫登录 风险数据库详细介绍了迄今为止 8463永利皇宫登录 文献中引用的 777 种不同风险。
虽然其他实体已尝试对人工智能风险进行分类，但现有的分类通常只关注整个人工智能风险格局的一小部分。
“随着人工智能在行业和社会中的采用加速，人工智能系统带来的风险变得越来越大，”说彼得·斯拉特里， 研究员麻省理工学院未来科技和项目负责人。 “然而，这些风险通常在不同行业和学术领域以零散的方式进行讨论，没有共同的词汇或一致的框架。”
创建统一的风险视图
为了创建风险存储库，研究人员搜索了学术数据库并查阅了其他资源，以审查人工智能风险的现有分类法和结构化分类。他们发现现有文献中常见两种类型的分类系统：人工智能风险原因的高级分类，例如人工智能风险何时以及为何发生；以及人工智能危害和危害的中级分类，例如使用人工智能开发武器或在有限的数据上训练人工智能系统。
8463永利皇宫登录 风险存储库中使用了两种类型的分类系统，该存储库包含三个组件：
- 该人工智能风险数据库从 43 个文档中捕获 777 种不同的风险，其中包括引文和页码。随着新风险的出现，它将进行更新。
- 该人工智能风险的因果分类根据风险的根本原因对此类风险发生的方式、时间和原因进行分类。原因分为三类：责任实体（人或人工智能）、风险背后的意图（有意或无意）以及风险发生的时间（部署前或部署后）。
- 该人工智能风险的领域分类按风险发生的领域（例如隐私、错误信息或 8463永利皇宫登录 系统安全）对风险进行细分。本节提到 7 个域和 23 个子域。
这两种分类法可以单独使用来过滤数据库中的特定风险和领域，也可以结合使用来了解每个因果因素与每个风险领域的关系。例如，当人工智能从一开始就被故意训练有毒内容时，用户可以使用这两个过滤器来区分歧视和毒性风险，以及人工智能通过显示有毒内容无意中造成伤害的风险实例。
作为练习的一部分，研究人员发现了一些关于当前文献的有趣见解。他们之中：
- 大多数风险归因于人工智能系统而不是人类（分别为 51% 和 34%）。
- 所讨论的大多数风险发生在 8463永利皇宫登录 模型训练和部署之后 (65%)，而不是之前 (10%)。
- 发现的有意 (35%) 和无意 (37%) 风险的数量几乎相同。
让 8463永利皇宫登录 风险存储库发挥作用
麻省理工学院人工智能风险存储库对于不同的受众有不同的用途。
政策制定者。该存储库可以作为制定和颁布人工智能系统法规的指南。例如，它可用于识别风险的类型和性质及其来源，因为人工智能开发人员旨在遵守诸如欧盟人工智能法案。该工具还创建了一种通用语言和一套标准，用于在全球范围内讨论人工智能风险。
审计师。该存储库提供了对 8463永利皇宫登录 系统风险的共同理解，可以指导负责评估和审核 8463永利皇宫登录 风险的人员。虽然一些人工智能风险管理框架已经开发出来，但它们还不够全面。
学者。分类法可用于综合跨研究和来源的人工智能风险信息。它还可以帮助确定当前知识的差距，以便将努力转向这些领域。人工智能风险存储库还可以在教育和培训方面发挥作用，让学生和专业人士适应人工智能风险领域的内部运作。
工业。当组织构建新系统时，8463永利皇宫登录 风险存储库可以成为安全、负责任的 8463永利皇宫登录 应用开发的关键工具。人工智能风险数据库还可以帮助识别减轻风险暴露的特定行为。
“人工智能的风险将变得越来越普遍和紧迫，”麻省理工学院的研究人员写道。 “理解和解决这些风险的努力必须能够跟上人工智能系统部署的进步。我们希望我们的共同参考框架将帮助这些努力变得更容易实现、渐进和成功。”
人工智能高管学院
亲自前往麻省理工学院斯隆管理学院
立即注册
