2023.11.24

CISA发布第一版人工智能发展路线图，明确提出5项重点工作

 

2023年11月14日，美国网络安全和基础设施安全局（CISA）发布第一版人工智能路线图，旨在为安全开发和实施人工智能的相关项目提供指导。据了解，本次发布的路线图是拜登政府10月底发布行政命令以来一系列人工智能治理政策的一部分，为CISA及其上级机构美国国土安全部（DHS）提出了五个明确的重点工作方向，并依此制定具体工作计划。

 

  • 工作重点1：负责任地使用 AI 来支持工作任务

    CISA将使用支持人工智能的新一代工具来加强网络防御，并支持其关键基础设施保护任务。CISA 将确保AI技术的采用能够负责任、合乎道德和安全地使用——符合宪法和所有适用的法律和政策，包括涉及联邦采购、隐私、公民权利和公民自由的法律、政策。

  • 工作重点2：评估和测试 AI 系统

    CISA将评估和协助各种利益相关者采用基于人工智能的安全设计软件，包括联邦政府机构、私营部门公司；以及州、地方、部落和地区（SLTT）政府组织，同时将通过制定安全和有弹性的人工智能开发和实施指南来建立保障，包括制定生成式人工智能红队的计划。

     

  • 工作重点3：保护关键基础设施免受 AI 的恶意使用

    CISA 将与开发、测试和评估 AI 工具的各类机构组织合作，评估并建议缓解美国国家关键基础设施面临的 AI 威胁。作为这项工作的一部分，CISA将建立专门委员会，促进围绕与 AI 系统相关的威胁、漏洞和缓解措施的工作协同沟通。

     

  • 工作重点 4：与国际性组织和机构就关键的 AI 工作进行协作和沟通

    CISA将为美国国土安全部领导的跨部门工作提供服务，包括为美国政府在网络安全和人工智能方面的总体国家战略制定政策方法，并支持国土安全部在基于人工智能的软件政策问题上采取整体方法。这还包括与国际合作伙伴协调，以推进全球人工智能安全最佳实践和应用。

     

  • 工作重点 5：加强建设具有人工智能专业知识的人才队伍

    CISA将继续加强教育内部员工了解人工智能软件系统和技术，并将继续积极招聘具有人工智能专业知识的研究人员和专业人才。CISA将确保通过内部培训让所有员工了解基于人工智能的软件应用法律、道德、政策以及技术方面知识。

     

国土安全部部长Alejandro N. Mayorkas表示：“DHS在推进AI的负责任使用方面担负着重要领导角色，而这份人工智能发展路线图将是我们未来工作的一个重要组成部分。美国政府正在尝试构建一个安全和有弹性的数字生态系统，促进创新和技术进步。路线图阐明了DHS在如何安全利用AI方面所要采取的步骤。”

 

CISA局长Jen Easterly表示：“人工智能是一种强大的技术，也带来了巨大的风险。本次发布的AI路线图聚焦于人工智能、网络防御和关键基础设施安全的交叉点，提出了一个全局性计划，有利于促进AI技术的安全利用。”

 

2023年11月14日，美国网络安全和基础设施安全局（CISA）发布第一版人工智能路线图，旨在为安全开发和实施人工智能的相关项目提供指导。据了解，本次发布的路线图是拜登政府10月底发布行政命令以来一系列人工智能治理政策的一部分，为CISA及其上级机构美国国土安全部（DHS）提出了五个明确的重点工作方向，并依此制定具体工作计划。

 

  • 工作重点1：负责任地使用 AI 来支持工作任务

    CISA将使用支持人工智能的新一代工具来加强网络防御，并支持其关键基础设施保护任务。CISA 将确保AI技术的采用能够负责任、合乎道德和安全地使用——符合宪法和所有适用的法律和政策，包括涉及联邦采购、隐私、公民权利和公民自由的法律、政策。

  • 工作重点2：评估和测试 AI 系统

    CISA将评估和协助各种利益相关者采用基于人工智能的安全设计软件，包括联邦政府机构、私营部门公司；以及州、地方、部落和地区（SLTT）政府组织，同时将通过制定安全和有弹性的人工智能开发和实施指南来建立保障，包括制定生成式人工智能红队的计划。

     

  • 工作重点3：保护关键基础设施免受 AI 的恶意使用

    CISA 将与开发、测试和评估 AI 工具的各类机构组织合作，评估并建议缓解美国国家关键基础设施面临的 AI 威胁。作为这项工作的一部分，CISA将建立专门委员会，促进围绕与 AI 系统相关的威胁、漏洞和缓解措施的工作协同沟通。

     

  • 工作重点 4：与国际性组织和机构就关键的 AI 工作进行协作和沟通

    CISA将为美国国土安全部领导的跨部门工作提供服务，包括为美国政府在网络安全和人工智能方面的总体国家战略制定政策方法，并支持国土安全部在基于人工智能的软件政策问题上采取整体方法。这还包括与国际合作伙伴协调，以推进全球人工智能安全最佳实践和应用。

     

  • 工作重点 5：加强建设具有人工智能专业知识的人才队伍

    CISA将继续加强教育内部员工了解人工智能软件系统和技术，并将继续积极招聘具有人工智能专业知识的研究人员和专业人才。CISA将确保通过内部培训让所有员工了解基于人工智能的软件应用法律、道德、政策以及技术方面知识。

     

国土安全部部长Alejandro N. Mayorkas表示：“DHS在推进AI的负责任使用方面担负着重要领导角色，而这份人工智能发展路线图将是我们未来工作的一个重要组成部分。美国政府正在尝试构建一个安全和有弹性的数字生态系统，促进创新和技术进步。路线图阐明了DHS在如何安全利用AI方面所要采取的步骤。”

 

CISA局长Jen Easterly表示：“人工智能是一种强大的技术，也带来了巨大的风险。本次发布的AI路线图聚焦于人工智能、网络防御和关键基础设施安全的交叉点，提出了一个全局性计划，有利于促进AI技术的安全利用。”

 


上一篇：这个1500块钱的黑客工具，正在让全球地铁里的iPhone崩溃

下一篇：阻碍网络安全自动化的4大挑战