行业洞察｜德勤可信AI监管框架助力银行业风险治理

模型偏见和歧视：AI模型中可能出现两种偏见：一种是以算法或数据偏差为中心的偏差，当用于训练算法的数据集本身存在偏差时，可能会出现这种偏差；第二种是社会AI偏差，即AI反映了社会不容忍或制度性歧视。因此，当AI系统根据与任务或决策无关的因素区别对待或不公平地对待某些人或群体时，往往会给这些人或群体带来负面结果。

模型透明度和可解释性：大模型，尤其是深度学习模型，往往是“黑箱”模型，其决策过程难以解释。这对需要高度透明和可解释性的金融领域带来了挑战。模型任何类型的自动决策方法必须透明和可解释，还需要具备人工审核和推翻的能力，并将学习结果反馈到模型。如果模型设计人员和使用人员对其不清楚或不理解，这一挑战就会变得更加复杂。

错误信息或虚假信息：生成式AI可能生成错误信息，也就是所谓的“模型幻觉”，这增大了内容审核环节的负担，而过度依赖不准确的内容可能造成决策失误和其他损失。

推理攻击：攻击者在与生成式AI交互时，通过提示词尝试推断或推理出攻击者无法访问的数据的更多信息，如攻击者可能会试图找出用于训练AI系统的信息类型、存储方式、内部逻辑等，这些信息可能因推理攻击而破坏或泄露。

知识产权：大部分AI模型都进行了开源，但这些开源许可协议的各自应用范围不同。因此，在进行模型商业化应用时需重点关注合规性，避免侵犯知识产权。

数据隐私和安全：大模型通常需要处理和分析巨量的个人和敏感数据。如果数据保护措施不当，可能导致数据泄露，增加个人隐私侵犯的风险。

模型稳定性：大模型可能因为各种原因（如数据漂移、过拟合等）而表现不稳定。在商业银行，大模型的这种不稳定性可能导致错误的预测和决策。

技术管理和复杂度：大模型通常需要高度专业化的技术和管理，商业银行可能缺乏运行和维护这些模型所需的专业知识或专业人员，从而增加了操作风险发生的可能性。

中国银行业2023年发展回顾及2024年展望报告系列连载：

点击“阅读原文”，下载报告全文。