A

AI安全威胁矩阵

aisecmatrix.org又名 AISecMatrix、AI安全矩阵

腾讯联合清华、香港中文大学(深圳)与深圳大数据研究院发布的 AI 安全风险框架,按基础设施层与模型应用层、四类风险领域交叉拆成 38 项威胁,覆盖 AI 系统全生命周期,适合做 AI 产品安全评估与合规审查的团队在上线前逐项对照梳理风险。

内容网页中文

打开官网 aisecmatrix.org
AI安全威胁矩阵 首页截图

AI安全威胁矩阵是一份面向AI系统的安全风险清单,由腾讯与清华、香港中文大学(深圳)、深圳大数据研究院等机构联合发布。它要解决的问题是:AI应用从训练到上线会碰到哪些安全问题,此前散落在各类报告里,缺少一张能按图索骥的表。这个站点把这些问题归拢成矩阵,供人逐项对照。

矩阵怎么组织

它从两个维度切分。设施层级分AI基础设施层和AI模型应用层;风险领域分软件系统风险、模型内生风险、数据安全风险、内容、滥用与合规风险四类。两层与四域交叉,落到具体威胁项上,页面给出的总数是38项,并称覆盖AI系统全生命周期。首页只放预览,完整矩阵要进入「威胁矩阵」页查看。

站上还有什么

  • A.I.G:站点的一个栏目,具体内容页面未展开说明
  • AI检测:与矩阵并列的功能入口
  • 资源下载:提供白皮书与《大模型安全与伦理研究报告2024》

页面提供中文界面,页脚标注了腾讯等四家机构的版权与ICP备案号,联系邮箱为腾讯域名。它更像一份公开的研究成果与参考框架,而不是需要注册使用的工具。

适合谁

做AI产品安全评估、合规审查、模型上线前风险梳理的团队,可以拿它当检查清单;写安全报告或做内部培训的人,也能从矩阵结构和白皮书里取材。普通用户日常用不上。

使用前要知道

站点没有说明收费、登录或客户端,从页面看是公开浏览的网页。矩阵的具体条目、更新频率和版本信息,首页没有给出,需要进内页确认。它是一份框架性文档,不提供自动扫描或检测结果,别指望它替你发现问题。

常见问题

AI安全威胁矩阵 有哪些平台 / App?
支持 网页。

收录于 2024 年 3 月 · 更新于 11 月 8 日 · 浏览 263 · 报告问题

打开官网aisecmatrix.org