国土安全部发布关键基础设施安全人工智能框架

美国国土安全部 (DHS) 发布建议，概述如何在关键基础设施中安全开发和部署人工智能 (AI)。

https://www.dhs.gov/news/2024/11/14/groundbreaking-framework-safe-and-secure-deployment-ai-critical-infrastructure

关键基础设施中人工智能的角色和职责框架

https://www.dhs.gov/sites/default/files/2024-11/24_1114_dhs_ai-roles-and-responsibilities-framework-508.pdf

这些建议适用于 AI 供应链中的所有参与者，从云和计算基础设施提供商到 AI 开发人员，再到关键基础设施所有者和运营商。

还提供了针对民间社会和公共部门组织的建议。

“关键基础设施人工智能角色和职责框架”中的自愿建议涵盖五个关键领域中的各个角色：

保护环境、推动负责任的模型和系统设计、实施数据治理、确保安全部署以及监控性能和影响。

此外，还提出了技术和流程建议，以增强人工智能系统的安全性、可靠性和可信度。

国土安全部在新闻稿中表示，人工智能已经被用于各个领域的恢复力和风险缓解，例如用于地震检测、稳定电网和邮件分类的人工智能应用。

该框架考虑了每个角色的职责：

云和计算基础设施提供商需要审查其硬件和软件供应链，实施强大的访问管理，并保护为 AI 系统提供支持的数据中心的物理安全。该框架还提出了支持下游客户和流程的建议，即通过监控异常活动并建立明确的流程来报告可疑和有害活动。
人工智能开发人员应采用安全的设计方法，评估人工智能模型的危险能力，并“确保模型与以人为本的价值观保持一致”。该框架进一步鼓励人工智能开发人员实施强有力的隐私保护措施；进行评估，以测试可能的偏见、故障模式和漏洞；并支持对对关键基础设施系统及其消费者构成更大风险的模型进行独立评估。
关键基础设施所有者和运营商应安全地部署人工智能系统，包括保持强大的网络安全实践以应对与人工智能相关的风险，在微调人工智能产品时保护客户数据，并在使用人工智能向公众提供商品、服务或福利方面提供有意义的透明度。
参与人工智能安全问题的民间社会，包括大学、研究机构和消费者权益保护者，应继续与政府和产业界一起致力于标准制定，并开展考虑关键基础设施用例的人工智能评估研究。
公共部门实体，包括联邦、州、地方、部落和领土政府，应通过法定和监管行动提高人工智能安全实践标准。