金融科技的演进贯穿人类金融文明发展史，每一代技术革新都不仅重塑行业格局，更反映出社会对效率、公平与责任的深刻考量。在当前AI迅猛发展的新时代，AI正以前所未有的规模和深度渗透金融领域，成为推动风险管理、客户体验升级的核心动力。日前，中国人民银行科技司司长李伟在《中国金融》杂志刊文《稳妥有序推进金融领域人工智能大模型应用》中专门论及AI大模型技术在金融领域应用的伦理挑战与治理思路，提出推动金融智能化转型的“稳妥有序”路径。
金融科技属于新质生产力范畴，是未来重点发力方向，不过金融智能化背后面临复杂伦理风险，必须加强敏捷治理、预防治理，形成全局性人工智能伦理治理框架，预防黑天鹅或者灰犀牛甚至系统性风险。对于行业决策者、专业人士而言，必须将金融科技领域的伦理治理提上议程，纳入企业合规性的重要范畴，加强人员配备与专项治理。
模型幻觉与模型共振：金融AI的技术隐忧
金融是一个高度依赖数据和算法的领域，而AI大模型正在悄然重塑这一领域的运作逻辑。然而，算法可能会不经意间复制和放大社会中既存的偏见，通过微妙却深刻的方式制造新的不平等。正如李伟所言，大模型面临的首要风险之一是“模型幻觉”――模型生成内容虽逻辑严密却可能脱离事实与常识，直接威胁金融分析与风险管控的有效性。尤其推理能力增强模型，在提升智能的同时，也加剧了幻觉出现的概率。
更甚者，当金融机构普遍使用同质化的大模型时，将催生“模型共振”效应，形成市场的“羊群行为”，加剧顺周期风险和波动，成为监管不可忽视的新隐患。这种现象的本质是，当绝大多数市场参与者基于类似甚至相同的AI模型对市场信息作出反应时，他们之间的行为会趋于高度一致。不同的金融机构虽然背景各异，但使用的AI系统如果依赖于相似的数据集和模型架构，那么在面对同样的经济信号、监管政策变动或市场突发事件时，极有可能做出相似甚至同步的投资或风险管理决定。于是，大量资金同向流动或同向撤离便成了可能，市场的价格和流动性表现出被放大了的波动。
此外，算法的“黑箱”属性严重制约了监管透明度和风险预警能力。规模庞大且运作复杂的模型输出结果难以解释，使监管机构面临前所未有的技术理解与介入挑战，要求金融机构的监管必须实现从事后追责向事前预警的转变。
更重要的是，金融算法的公平性风险不可忽视。未经严密伦理约束的模型训练，很可能因数据偏差或设计缺陷产生性别、种族、地域等方面的隐性偏见，冲击金融市场的公平与普惠根基。因此，构建系统化的科技伦理审查体系，成为保障金融科技智能化应用守正创新的关键保障。
数据安全与隐私保护：金融AI的不可逾越底线
大模型发展至今，人们愈发感觉，训练数据决定模型的质量与走向。然而金融数据具有高度敏感性和隐私属性，稍有不慎便可能导致用户权益受损或引发数据泄露。更复杂的是，训练数据可能被恶意“投毒”或包含虚假信息，导致模型做出错误甚至扭曲的决策。
针对这种复杂风险，金融机构应当强化数据全流程安全管理和监控，严格遵循法律法规，确保用户隐私权不受侵犯。在AI时代，传统隐私保护所采取的“知情同意”机制已难以适应大模型的数据使用形态，如何让用户真正理解和掌控个人数据，是未来伦理治理的焦点。
一方面，应当建立全产业链全周期的隐私保护责任机制。具体而言，金融机构、科技公司、自律组织及从业人员，必须携手筑牢安全防线，切实履行责任。金融机构应依法合规推动技术应用，科技公司须确保大模型安全可靠，行业组织应当积极制定伦理规范，从业人员严守职业道德，实现“有技术不任性，有数据不滥用”，共同防范伦理及法律风险蔓延，保障金融科技健康发展。
另一方面，隐私保护的思路要发生范式转变。传统隐私保护观念主要基于隐私信息“可用不可见”的思路进行加密保护，但由于隐私本身具有具身性、切己性，蕴含重要的人格权益，因此必须转变保护思路，推动隐私保护思路与原则从离身到具身，从积极向消极，从“为利用而保护”向“先保护再利用”转变。
人机协同：赋予金融智能以“温度”
从人机关系角度，人工智能应该构成人的协同者，是辅助人类提升效率和决策质量的重要工具，而非替代甚至压榨人力。因此可将人工智能系统视为“数字员工”。金融机构应稳妥推动经营模式由经验驱动向数据驱动转型，推动金融机构经营服务从传统的人力、智力模式迈向“人与AI协作”“人监督AI执行”的新阶段。这体现了对AI高效率与人类创造力优势互补的认可，也凸显关键决策仍需人类的在场与把控，保障产品可靠、风险可控。
具体到业务工作与产品运营方面，AI服务对外应始终以用户为中心，着力提升服务的普惠性和公平性，保障用户权益不受侵犯。金融机构需通过智能技术降低服务门槛，扩大覆盖范围，尤其关注小微企业和弱势群体的需求。同时，应强化风险管理，确保用户数据安全和使用透明，提升用户的金融认知和信任感。对内则需以员工为中心，运用AI解放劳动生产力，减少重复性工作，提高工作效率。通过技术赋能，提升员工的职业幸福感和创新动力，推动人机协同，实现生产力与员工价值的双重提升。
总体而言，未来金融智能化不仅是技术升级，更是人才结构和职业技能的转型升级。金融机构要加强员工智能素养培养，推动跨领域知识融合，强化伦理意识和风险管控能力。只有不断提升员工在AI环境下的适应力，才能确保技术应用安全可靠。对于金融机构和金融从业人员而言，伦理治理必须成为不可或缺的一环，要求形成负责任的使用和监管机制。最终实现AI与人类的协调共生，促进金融行业的稳健可持续发展。
监管创新：构建包容审慎的AI金融治理体系
从监管视角出发，李伟提出“技术中性、包容审慎”的理念，强调坚持法律刚性底线与创新监管并行，营造适度试错的金融创新环境。这种理念促使金融智能产品向优质化方向发展，同时保障监管不缺位、不失控。目前，我国已出台智能算法金融应用的信息披露规范，提升透明度和风险识别能力。未来还将制定分级分类的大模型安全标准，构建织密风险防范的“安全网”。这一系列举措明确了金融智能化发展的合规路径，为行业安全保驾护航。
具体到监管科技力量建设方面，要充分运用大模型技术提升风险态势感知水平和多维度风险分析能力，通过技术手段提高监管穿透力与动态调控效能，实现对复杂金融场景的实时监控与风险预警。此外，还需加强跨机构风险信息共享，构建体系化的风险防控框架。另一方面，积极参与国际合作，借鉴《布莱切利宣言》等国际伦理框架，推动负责任的人工智能全球治理。只有这样，才能有效化解技术带来的新型风险，推动金融监管向更加智能化、国际化方向发展。
多方协同治理机制也正呼之欲出。金融机构、科技企业、自律组织和监管部门应各司其职，共同承担起构建开放透明、安全有序且创新驱动的智能金融生态责任。金融机构需严格执行伦理标准和法律法规，科技公司则要保障技术研发安全可靠。行业组织发挥桥梁作用，制定切实可行的行业规范，从业人员应提升伦理风险意识，坚守职业道德。各方协同配合，形成合力，才能促进金融智能化健康发展，筑牢防范伦理与法律风险的坚实防线。
结语：技术进步需镌刻伦理底色
金融领域AI的应用非技术孤岛，而是涵盖安全、伦理、监管与社会责任的系统工程。技术进步必须围绕“有益、安全、公平”的底线形成人文关怀，践行“以人为本”的价值取向。只有深刻洞察并积极应对AI伦理问题，构建多元协同的治理体系，才能将AI真正打造成为推动金融高质量发展和普惠金融的创新引擎，而非潜在风险的新源头。未来的金融智能化，是技术与人文的深度融合，是智能创新与伦理责任的有机共生。
（作者系复旦大学马克思主义研究院院长助理、中国人民大学伦理学与道德建设研究中心研究员李凌、新华社国际部科技室主任记者孙晶）
（本文基于中国人民银行科技司司长李伟发表的文章《稳妥有序推进金融领域人工智能大模型应用》，结合国内外AI伦理治理最新论述，力求全面严谨地剖析金融AI伦理挑战及可行的治理路径。）
