2.1 AI安全问题分类
2.1.1 按组成要素分
AI系统的组成要素：数据、模型、运行环境
数据的安全威胁
- 成员推断攻击：攻击者尝试推断出单个数据记录是否被用在了模型的训练数据集中
- 数据投毒：攻击者在训练数据中注入特定的毒化数据，污染训练数据，甚至干预模型的训练结果
- 模型逆向：攻击者通过模型的预测结果尝试恢复该预测结果对应的输入数据
- 属性推断：攻击者从模型的预测以及计算的中间信息恢复输入数据的部分敏感属性
- 数据篡改：恶意修改数据，使数据不可靠、不准确、不完整
模型的安全威胁
运行环境的安全威胁
