OWASP发布AI大模型应用网络安全治理检查清单-慈云数据

文章目录

前言
一、部署大模型之前的准备
- LLM部署策略的选择方案
- AI大模型的常见部署类型
二、大模型应用时的安全检查清单
- 1、对抗性风险
- 2、威胁建模
- 3、AI资产盘点
- 4、AI安全和隐私培训
- 5、建立并参考商业案例
- 6、公司治理
- 7、法律合规
- 8、实现大模型解决方案
- 9、测试、评估、验证和确认（TEVV）
- 10、模型卡和风险卡
- 11、大型语言模型优化
- 12、AI红队

前言

日前，全球开源安全组织OWASP（Open Web Application Security Project）发布了《AI大模型应用网络安全治理检查清单（V1.0）》（以下简称为《检查清单》）。在这份长达32页的《检查清单》中，较完整地介绍了AI大模型部署应用时的安全原则、部署策略和检查对照表，适用于那些希望在快速发展的AI领域中保持领先地位的组织和机构，使他们能够在制定大型语言模型战略时，专注于制定一份全面的关键领域和任务清单。