用 AI 开发怎么防数据泄露?
这道题考什么
这道题考察的不是“要不要用 AI”,而是能不能把一次 AI 开发请求拆成可审计的输入、工具和输出。常见答法只说脱敏、关日志、签保密协议,却没有说明模型到底看到了什么、工具实际查了什么、结果又被留在哪里。如果安全边界没有落到请求前、执行中和发布后的证据上,开发效率越高,泄露范围反而可能越大。
一句话思路
先按数据分类确定模型可见范围,再让隔离环境只通过白名单工具访问最小数据集;请求前审提示词、Schema 和样例,执行中审 SQL、权限和工具回执,输出后审结果、日志、缓存和供应商留存,任何一步失败或超时都阻断请求并升级,若已经误传就先撤销密钥和权限、止损、评估影响、通知相关方、恢复并复盘。