您将学到什么：
- 人工智能改变了网络威胁：麻省理工学院的新研究发现，80% 的勒索软件永利皇宫463cc都使用了人工智能，从深度伪造到人工智能生成的网络钓鱼活动。
- 人工智能防御的三大支柱：有效的防御将自动化安全卫生、自主防御系统以及增强的行政监督与实时情报结合起来。
+++
来自的新研究麻省理工学院斯隆管理学院的网络安全和安全保障检查了 2,800 起勒索软件永利皇宫463cc，发现其中 80% 由人工智能驱动。人工智能被用来创建恶意软件、网络钓鱼活动，以及深度伪造驱动社会工程，例如虚假的客户服务电话。大型语言模型被用来生成代码和网络钓鱼内容。还有人工智能密码破解、验证码绕过等等。
也许您认为答案是通过构建人工智能驱动的防御以牙还牙。但这只是研究人员所需要的一部分。
“仅靠人工智能驱动的网络安全工具是不够的，”他们写道。 “主动、多层次的方法——整合人类监督、治理框架、人工智能驱动的威胁模拟和实时情报共享——至关重要。”
每个组织都需要的 3 个人工智能防御支柱
研究人员认为，应对人工智能威胁的综合方法包括三种类型的防御，所有这些都是必不可少的：
- 自动化安全卫生，例如自我修复软件代码、自我修补系统、持续永利皇宫463cc面管理、基于零信任的架构以及自动驱动的可信网络。自动化这些日常任务可以减少手动工作量，同时加强针对针对核心系统漏洞的永利皇宫463cc的防护。
- 自主和欺骗性防御系统，使用分析、机器学习和实时数据收集来学习、识别和应对威胁。例子包括同时自动移动目标防御以及欺骗性战术和信息。这两种类型的系统都使团队能够采取主动防御方法，而不是陷入被动模式。
- 加强监督和报告, 为高管提供实时数据驱动的见解。例如，自动风险分析使用人工智能来发现新出现的威胁并预测它们可能如何影响组织。
这对当今的网络安全意味着什么
网络安全专业人员应该研究成功的网络防御的历史（例如，针对网络钓鱼、社会工程和恶意软件永利皇宫463cc的防护），并考虑熟悉的永利皇宫463cc形式会如何随着人工智能的加入而演变。
例如，在麻省理工学院计算机科学和人工智能实验室，研究人员开发了一种防御方法，称为人工智能对抗性智能，它模仿永利皇宫463cc者在真正的永利皇宫463cc发生之前测试网络防御。
“事物的自主性导致我们重新审视我们的防御方式以及我们必须看待新旧永利皇宫463cc的方式，”说迈克尔·西格尔，CAMS 首席研究科学家兼主任，也是该报告的作者之一。
但是，随着人工智能在永利皇宫463cc中的定期部署和防御中的运用，安全团队永恒的打地鼠游戏将如何改变，还有待观察。
“我们能否破解网络安全的不对称战争本质？”西格尔问道。 “请记住，永利皇宫463cc者只需要一个入口点和利用点，而防御者必须阻止所有入口点并对所有利用点具有弹性。
“对于网络安全而言，出现问题的可能性很大，”他说。 “在这个光速变化的新环境中进行保护具有挑战性，但我们可以从之前的工作中学习。许多研究人员和产品已经在解决管理、预防、检测、响应和恢复力问题。”
这项工作的一个例子：西格尔和麻省理工斯隆管理学院的同事正在研究生成式人工智能在其中发挥的作用工业控制系统的永利皇宫463cc和防御。
阅读完整报告
研究，“重新思考网络安全军备竞赛”，由 Siegel、CAMS 研究附属机构 Sander Zeijlemaker、Safe Security 联合创始人兼首席信息安全官 Vidit Baxi 以及 Safe Security 威胁研究员 Sharavanan Raajah 进行。
该报告提供了有关针对人工智能网络永利皇宫463cc准备实用且全面的应对措施的更多详细信息。它还详细介绍了新兴的永利皇宫463cc方法，并包括人工智能生成的十大勒索软件威胁行为者的列表。
了解更多信息麻省理工学院斯隆管理学院的网络安全，包括会员机会。
迈克尔·西格尔是麻省理工学院斯隆管理学院的首席研究科学家。他的主要研究兴趣在于信息系统的网络安全管理。他是麻省理工学院斯隆管理学院网络安全的创始联合主任。
