使用先进机器学习(ML)和生成式AI(GenAI)的组织可以释放巨大价值，但也会面临多种潜在风险。为了系统地解决这些问题，Databricks 创建了AI 安全框架（DASF），该框架：

1. 识别了12个从原始数据到平台安全的AI/ML系统组件。
2. 描述了在各个阶段中可能出现的55种不同的技术风险。
3. 对每种风险都对应了可以在Databricks数据智能平台上实施的可操作控制措施，包括但不限于 Unity Catalog 和 Mosaic AI（模型服务、向量搜索）等组件。

以下，我们首先再次显示风险图，然后展示解决方案图，这些图将Databricks特性分组，用于控制或缓解每个风险组。

数据操作领域风险思维导图

1. 识别适用于您ML项目的DASF风险
2. 从思维导图中挑选相关的解决方案（例如，如果您发现有很多提示注入风险，则选择大规模语言模型护栏）
3. 实施并不断改进，随着新威胁和Databricks新功能的出现，不断进行调整和优化

Databricks 提供了一个统一的数据和人工智能平台，确保您无需整合多个分散的工具来保护整个机器学习的生命周期。使用统一目录（Unity Catalog）进行管理和Mosaic AI进行训练、部署和服务，以及监控，您可以在一个地方系统性地解决55种DASF风险。

如果你喜欢那篇文章，可以请我喝杯咖啡，或者通过链接支持我 :-) https://ko-fi.com/hubertdudek

所有内容和图表均基于Databricks AI安全框架（DASF）：https://www.databricks.com/resources/whitepaper/databricks-ai-security-framework-dasf

这些图表是通过https://www.mermaidchart.com/这个网站制作出来的。