AI大模型（如LLM）在金融风控中应用日益广泛，例如用于智能客服或风险预警。作为巡察岗，你将如何评估某AI应用（如智能客服）的合规性与安全性？请说明评估流程和关键检查点。

1) 【一句话结论】评估AI应用（如智能客服）的合规性与安全性，需构建“流程化+多维检查”框架，从数据合规、模型安全、系统防护等维度，分阶段验证关键点，确保符合金融监管要求与公司安全标准。

2) 【原理/概念讲解】合规性指AI应用是否符合国家金融监管法规（如《数据安全法》《网络安全法》）及公司内部制度，核心是“合法合规”，好比企业必须遵守税法，否则会被处罚；安全性指系统防范数据泄露、模型被攻击、业务中断等风险，核心是“风险可控”，类似汽车安装安全气囊，预防事故。两者关联但侧重不同：合规性是“不违法”，安全性是“防风险”。

3) 【对比与适用场景】

维度	合规性检查	安全性检查
定义	符合法规政策、内部制度	防范数据泄露、模型攻击、系统故障
重点	数据来源合法性、用户授权、隐私保护	模型鲁棒性、系统漏洞、应急响应
检查方法	文档审查（合同、授权协议）、数据审计	漏洞扫描、渗透测试、压力测试
使用场景	新系统上线前合规性验收	系统运行中安全巡检

4) 【示例】以智能客服系统为例，评估流程：

• 数据收集阶段：检查用户对话数据是否获得明确授权（如用户同意条款），数据存储是否加密（假设使用AES-256加密）。
• 模型训练阶段：验证训练数据是否包含敏感信息（如客户隐私），模型是否经过偏见检测（如性别、地域偏见）。
• 系统测试阶段：模拟攻击测试（如输入恶意指令，检查是否触发安全机制），合规性测试（如用户隐私政策是否公示）。
  伪代码示例（数据授权检查）：

def check_data_authorization(user_data, consent_record):
    if not consent_record.get("is_agreed", False):
        raise ValueError("用户未授权处理数据")
    return True

5) 【面试口播版答案】（约90秒）
“面试官您好，评估AI应用（以智能客服为例）的合规性与安全性，我会按以下流程和关键点展开：首先，合规性方面，重点检查数据来源的合法性，比如用户对话数据是否获得明确授权，隐私政策是否公示；其次，安全性方面，检查系统是否防范数据泄露（如加密存储），模型是否抵御恶意攻击（如输入异常指令时的过滤机制）。具体来说，评估流程分三步：第一步，文档与数据审计，审查授权协议、数据存储方案，确保符合《数据安全法》；第二步，模型与系统测试，用渗透测试检查漏洞，用偏见检测工具验证模型公平性；第三步，应急与合规复核，评估数据泄露应急响应流程，确保有合规报告机制。通过这些步骤，全面覆盖合规与安全的关键点，确保AI应用在风控中既合规又安全。”

6) 【追问清单】

• 问：如果发现数据授权不完整，如何处理？答：立即停止数据收集，补充用户授权，重新审计数据合规性。
• 问：模型偏见如何检测？答：使用公平性评估工具（如AIF360），检查模型在不同群体中的表现差异。
• 问：系统漏洞如何发现？答：通过自动化漏洞扫描工具（如Nessus）和人工渗透测试，定期更新系统补丁。
• 问：合规性文件如何更新？答：根据监管政策变化，及时修订授权协议、隐私政策，并更新内部检查清单。

7) 【常见坑/雷区】

• 忽略数据隐私：未检查用户数据是否加密存储，导致数据泄露风险。
• 未考虑模型偏见：评估时未测试模型对不同群体的公平性，可能引发歧视问题。
• 合规文件缺失：未审查授权协议、隐私政策等文档，导致合规性不足。
• 安全测试不足：仅做功能测试，未进行渗透测试，遗漏系统漏洞。
• 应急机制缺失：未评估数据泄露后的应急响应流程，无法及时处理安全事件。