金融领域科技伦理指引落地：数据治理要求再升级，明确金融机构伦理治理主体责任

　　随着央行下发《金融领域科技伦理指引》（下称《指引》），金融科技的伦理治理建制再次成为市场关注的热点。

　　《指引》提供了在金融领域开展科技活动需要遵循的守正创新、数据安全、包容普惠、公开透明、公平竞争、风险防控、绿色低碳等7个方面的价值理念和行为规范。适用于指导金融领域从业机构开展科技伦理治理工作，预防和化解金融科技活动伦理风险。

　　今年1月，央行《金融科技发展规划（2022-2025年）》首次明确提出，加强金融科技伦理建设。坚持促进创新与防范风险相统一、制度规范与自我约束相结合原则，加快出台符合国情、与国际接轨的金融科技伦理制度规则，健全多方参与、协同共治的金融科技伦理治理体系。

　　21世纪经济报道记者从相关人士处获悉，央行自2021年8月就开始组织编写《指引》，吸纳了多地央行分支机构、商业银行、行业协会、法院、研究院、金融科技企业、人工智能企业、头部高校等各方建议。

　　过去，在科技伦理治理的过程中，数据治理与算法伦理存在偏见、治理机制与流程不完善等问题一直困扰着金融机构。

　　业内人士向记者表示，《指引》的性质为推荐性行业标准，为金融行业科技伦理治理提供了方向，但尚未出台更详细的评估指标与要求，机构目前严格按照《个人信息保护法》、《数据安全法》，以及《互联网信息服务算法推荐管理规定》、《银行保险机构信息科技外包风险监管办法》进行科技伦理治理，期待监管出台金融科技伦理评价的指标体系。

　　强调数据安全与算法合规

　　记者注意到，《指引》对金融机构数据治理提出了更高的伦理要求，在七个章节中，共有四个章节均强调数据安全、隐私保护、算法合规等与消费者权益息息相关的内容，分别是数据安全、包容普惠、公开透明、公平竞争。

　　在数据安全方面，《指引》要求金融机构充分获取用户授权，以最小必要原则采集数据，使用数据秉持“专事专用”原则，严格采取防护措施，依法合规共享数据，主动清理留存数据。

　　在包容普惠方面，《指引》要求金融机构提倡包容性设计，防止不公平歧视，履行无障碍义务。其中，在履行无障碍义务方面，文件要求建立“容错型”产品交互机制，着力弥合因智能技术运用困难导致的数字鸿沟问题，不断提升金融服务的深度、广度和温度。

　　在公开透明方面，《指引》要求金融机构充分披露产品服务信息，做好消费者适当性管理，自觉主动接受外部监督，强化科技伦理宣贯教育。

　　在公平竞争方面，《指引》要求严防滥用数据与流量，公平公正使用智能算法，平等合理设置平台规则，鼓励科技服务开放互通。

　　一位参与《指引》编写的机构人士向记者透露，这部分的关键在于算法的公平性、可解释性、可问责性。“基于AI技术的机器学习会将原来金融领域的经验决策变成数据黑盒决策，同时，数据的片面性会引发决策的偏见，过度依赖数据应用也有可能造成数据泄露、隐私泄露等问题。”

　　“不仅是数据，模型运作的机制本身也可能带来不公平。”他告诉记者，基于过往历史、过往数据来预测未来导向，是模型训练的一大形式，但这会形成马太效应，让最终决策偏向极端化，如果一开始就存在歧视，会形成歧视的循环。

　　在金融创新产品的决策链条上，“可问责性是最难以解决的部分，在产品的全生命周期中，数据、模型训练都有可能会形成偏见，最终导致结果的不公平、不可解释，但在整个决策链条上哪个要素应当对结果负责，哪个员工应当承担责任，这是最困难的部分。”

　　目前已有金融机构对人工智能产品进行风险评估。据马上消费金融研究院向记者提供的人工智能风险评估表显示，其主要包括数据风险与算法风险两项一级指标，二级指标包括数据安全风险、数据偏见风险、算法安全风险、算法可解释性风险、算法决策风险等5项，具体风险指标则包括数据来源合法性、数据处理脱敏性、数据运用保密性，主客观数据偏见，算法泄露、被篡改风险、算法透明性、算法可解释性等。

　　明确伦理治理主体责任

　　在《指引》守正创新章节，首先明确金融机构履行伦理治理主体责任。建立健全伦理管理组织架构与制度规范，探索设立企业级科技伦理委员会，完善科技伦理审查、信息披露等常态化工作机制，压实各方职责，做好金融科技活动的审查、批准与监督，提前预防、有效化解金融科技活动伦理风险，严防技术滥用、误用。

　　据记者了解，目前在金融机构内部开展相关科技伦理相关工作的组织主要是风险管理委员会、信息科技管理委员会、消费者权益保护委员会，对数据安全、算法合规、消费者权益保护等进行管理。但科技伦理涵盖技术、业务、法律、风险、消费者权益保护等方方面面，涉及前台零售运营、中台风控、后台法务等多个部门，金融机构科技伦理职责边界较为模糊，治理机制不完善。

　　“很多人觉得数据安全、算法合规、APP客户端建设等等就是信息技术部门的工作，但以客户为中心的科技伦理治理应该贯穿金融业务的全生命周期。”某银行科技部门人士表示。

　　为强化金融机构整体的科技伦理教育，《指引》指出应将科技伦理深度融入产品研发、业务运营、市场营销、日常培训、科研实践等环节，引导从业人员主动学习科技伦理知识、提升科技伦理素养，自觉抵制违背科技伦理要求的行为。

　　同时，为完善金融科技风险内控管理与问责机制，《指引》要求明确相关岗位和人员的管理责任，分离不相容岗位并控制操作权限，增强风险综合管理能力。在发生风险事件时，主动承担风险管理主体责任，积极开展追责问责与问题整改，不断提升金融科技产品和服务的安全性与可靠性。

　　记者梳理部分上市银行2022年半年报发现，目前商业银行主要在数据安全领域与个人信息保护方面进行规范化管理。

　　如建设银行在今年上半年发布《落实数据安全管理工作方案》，从数据安全管理、数据安全保护、数据安全运维等维度，构建集团数据安全管理体系框架，明确各条线数据安全工作职责和实施计划；工商银行修订了个人客户信息安全管理办法；中国银行(601988)建立健全数据安全管理制度，建立数据安全影响性评估机制，夯实数据安全底线；农业银行在一级分行增设了“网络安全和数据安全管理”岗位；招商银行(600036)发布了《招商银行零售金融个人信息管理办法（第五版）》，建立覆盖零售金融个人信息收集、传输、使用、共享、保存等全生命周期的安全保护体系，以及个人信息保护应急预案、风险处置、监督检查、个人信息投诉通道等处理机制。