永利皇宫app官网的商业优势（例如增强的客户体验、更高的效率和更好的风险管理）现已成为许多数字战略的一部分。但在保护永利皇宫app官网系统方面，许多组织仍在迎头赶上。
“人们试图弄清楚如何最好地使用永利皇宫app官网，但很少有人从第一天起就考虑到它带来的安全风险，”说，麻省理工斯隆管理学院的高级讲师和首席研究科学家。 “这是现在的大问题。”
为了帮助缩小这一差距，Pearlson 和纳尔逊·诺瓦斯·内托是麻省理工学院斯隆管理学院的附属研究机构，也是巴西 C6 银行的首席技术官，开发了一个框架，帮助技术高管及其团队在永利皇宫app官网系统发展太远而无法有效保护之前提出正确的问题。他们的报告，“安全设计永利皇宫app官网执行指南”将数百个技术考虑因素浓缩为 10 个战略问题，旨在及早识别风险并使永利皇宫app官网计划与业务优先事项、道德标准和网络安全要求保持一致。
“我们的想法是为技术主管提供一种结构化的方式，让他们在永利皇宫app官网系统设计过程的早期提出重要问题，从而避免以后出现问题，”教授麻省理工学院斯隆管理学院高管教育课程的 Pearlson 说，“领导者的网络安全。”
为什么永利皇宫app官网风险需要不同的方法
永利皇宫app官网 系统不仅仅是企业软件的另一层。他们的定义特征——数据依赖、持续学习和概率输出——使他们面临一类新的、不断增长的网络威胁。
报告称，最紧迫的永利皇宫app官网威胁包括：
- 逃避和中毒攻击，其中恶意输入会扭曲输出或损坏训练数据。
- 模型盗窃和反转，攻击者窃取专有系统或重建敏感信息。
- 提示注入s，攻击者操纵输入以迫使系统泄露数据或进行恶意行为。
- 隐私攻击，利用漏洞窃取永利皇宫app官网系统处理的敏感信息，侵犯数据隐私和机密性。
- 幻觉，系统自信地产生虚假输出，从而削弱信任或误导用户。
这些风险无法在以后修补，传统的 IT 架构框架、安全模型和安全标准来自NIST和ISO每个部分都解决了问题，但不是全部。 “他们都没有生活在永利皇宫app官网、安全和设计的交叉点，”珀尔森说。
新的永利皇宫app官网设计安全执行框架中的每个类别都有助于管理与这些永利皇宫app官网攻击媒介和其他攻击媒介相关的风险。
高管永利皇宫app官网准备就绪的 10 个问题
该框架将构建复杂的安全架构转化为 10 个清晰的战略问题。每个问题都与永利皇宫app官网系统开发的类别相关，旨在指导设计过程早期的对话。
“这些都是简单的问题，”珀尔森说。 “但它们内容丰富，旨在发现可以改变项目进程的深层问题。”下面的每个问题都旨在发现漏洞、确定权衡，并确保将永利皇宫app官网安全融入战略中，而不是在部署后就固定下来。
- 战略调整：永利皇宫app官网举措如何与我们的组织目标、预算、价值观和道德保持一致？
- 风险管理：我们可以使用哪些方法来识别、评估永利皇宫app官网特定风险并确定优先级？
- 控制实施：我们将实施哪些控制措施和工具来减轻已识别的永利皇宫app官网风险？
- 政策、标准和程序制定：我们将制定哪些政策和程序来确保数据质量、隐私、道德和网络安全？
- 治理结构：什么样的治理结构将监督永利皇宫app官网项目的开发、部署、安全和运营？
- 技术可行性：提议的永利皇宫app官网架构与我们现有的基础设施兼容吗？
- 资源分配：需要什么级别的安全工作？我们将如何分配资源？
- 性能和安全监控：我们将使用哪些指标来跟踪 永利皇宫app官网 有效性和安全性？
- 持续改进：哪些机制将支持对我们的永利皇宫app官网实践进行持续监控和调整？
- 利益相关者参与：我们如何传达永利皇宫app官网安全、隐私和道德的重要性以促进共同责任？
将框架应用于 C6 银行
为了在实践中评估该框架，研究人员与总部位于圣保罗的数字银行 C6 Bank 一起对他们的框架进行了试点测试。 C6 没有实体分支机构，拥有超过 3000 万客户，采用了技术领先的方法，并将永利皇宫app官网集成到客户服务、欺诈检测和后端运营中。
然而，这种创新水平也带来了谨慎。领导团队很早就认识到现有框架并不能完全满足现代永利皇宫app官网系统的架构和安全需求。在应用设计安全框架时，C6 高管解决了 10 个问题中的每一个问题，这一练习提出了 19 个关键设计考虑因素，从对与模型无关的基础设施的需求到针对永利皇宫app官网独特风险量身定制的新治理模型。
这帮助该组织开发了一个由四部分组成的平台，将实验性 永利皇宫app官网 工作与直接与客户交互的生产级系统分开，为 C6 提供了创新空间，同时又不损害信任。它还有助于改进资源规划。
最终，C6 构建了针对 永利皇宫app官网 量身定制的内部工具、治理流程和最佳实践指南。其法律和合规团队以该框架为跳板，起草了一份针对人工智能的手册，概述了围绕人工智能的期望和监管风险，以增强利益相关者对此类举措的信心。
永利皇宫app官网的更智能起点
随着组织竞相将永利皇宫app官网嵌入到其运营中，任务很明确：从一开始就设计安全的系统，否则将面临嵌入漏洞的风险，从而日后会削弱信任。
Pearlson 表示，该框架并不能消除所有永利皇宫app官网风险，但它确实提供了一个实用的基础，可以自上而下地提出更好的问题、更清晰的决策和更具弹性的设计。
“我希望这可以帮助其他组织尽早提出更明智的问题，这样他们就可以避免在事后才考虑安全时所发生的错误，”她说。 “这 10 个问题最有力的一点是它们迫使你提前思考。”
