关于美国CISA举办首次人工智能网络安全桌面演习

　　网络安全和基础设施安全局(CISA)与私营部门进行了联邦政府首次桌面演习，重点关注人工智能(AI)安全事件。由联合网络防御合作组织(JCDC)牵头的人工智能网络桌面演习旨在获取超出传统网络安全事件的信息，以帮助确定信息共享机会、公私合作协议以及人工智能安全事件的运营合作领域。CISA将把从这次演习中得到的经验教训纳入AI安全事件协作手册，为政府、行业和国际合作伙伴之间的运营协作提供指导。第二次桌面演习将与在其运营环境中集成AI的AI公司和关键基础设施实体一起测试和验证手册。

　　一、演习背景

　　美国联邦政府为了在人工智能技术成为更大的网络安全威胁之前增强应对能力，举办了首次针对这一新兴技术的桌面演习。此次演习由网络安全和基础设施安全局(CISA)主导，属于联合网络防御协作组织(JCDC)的一系列活动。JCDC是CISA的运营部门，专注于与工业界的合作。参与演习的有来自15家公司和多个国际网络防御机构的50名人工智能专家。

　　这是拜登政府近几个月来为降低人工智能技术潜在风险所采取的多项措施之一。目前，包括微软在内的大型科技公司正在推动快速发布人工智能产品，但这些产品可能被网络犯罪分子利用。

　　2024年4月，CISA发布了针对关键基础设施所有者和运营商的人工智能安全指南。国土安全部还成立了一个人工智能安全委员会，重点关注人工智能对关键基础设施的影响。

　　二、参演机构

　　在周四的桌面演习中，CISA与FBI、NSA、国防部、国家情报总监办公室和网络国家任务部队合作。参与的科技公司包括微软、OpenAI、IBM、Palantir、思科(Cisco)和Palo Alto Networks等。

　　观察此次演习的还有澳大利亚信号局的澳大利亚网络安全中心、英国国家网络安全中心、新西兰国家网络安全中心和加拿大网络安全中心。

　　三、演习目标

　　1、探索涉及人工智能系统的网络事件的信息共享机会。

　　2、检查行业参与者在处理多阶段AI事件时的响应程序和最佳实践。

　　3、确定在重大AI事件期间和之后行业和政府AI事件响应计划、信息共享和整体组织弹性方面需要改进的领域。

　　4、评估跨部门政府合作伙伴、行业和国际参与者之间在涉及人工智能系统的网络事件方面的运营协作的信息共享能力、需求和优先事项。

　　四、分析研判

　　据悉，这次为期四小时的人工智能桌面演习是CISA即将发布的人工智能安全事件协作手册的一部分。CISA联合网络防御合作组织副主任克莱顿·罗曼斯(Clayton Romans)表示，网络事件可能意味着人工智能系统本身受到威胁，或者是人工智能创建的另一个系统受到威胁。罗曼斯还表示，AI安全事件协作手册计划在2024年底发布，将是JCDC众多协作努力中的首个成果。手册将规划公共和私营部门以及国际机构之间针对人工智能事件的响应协调。

　　美国网络安全和基础设施安全局(CISA)与私营部门共同举办的首次人工智能网络安全桌面演习，标志着网络安全领域对人工智能技术的重视和对其潜在威胁的应对意识。这一演习不仅是为了测试和验证AI在网络安全事件中的应用和效果，更是为了寻找公私合作、信息共享的机会，以应对日益复杂和多样化的网络安全威胁。通过此次演习，CISA旨在获取关于AI在网络安全中作用的新见解，为未来的政策制定、技术研发和人员培训提供参考。此外，CISA还计划将演习中获得的经验教训纳入AI安全事件协作手册，为政府、行业和国际合作伙伴之间的运营协作提供指导，这有助于形成更加紧密的网络安全合作机制。