近日，复旦大学经济学院举行“南土国际金融政策圆桌会第12期”暨“迎接AI时代系列”第1期。本次会议以“AI时代的金融人才核心竞争力：基于金融实务工作的思考”为主题，邀请业界专家和学界教师共同讨论人工智能对金融行业和人才培养的影响。复旦大学计算与智能创新学院副教授曾剑平从人工智能安全角度指出，AI进入金融场景后，不只是效率工具，也会带来新的风险结构。未来金融人才不仅要理解传统金融风险，也要具备基本的AI安全素养。

曾剑平表示，自己长期关注人工智能安全问题。随着AI越来越多地进入金融行业，AI系统自身的数据、算法、模型和应用风险，正在与传统金融风险发生叠加。过去金融行业主要讨论信用风险、市场风险、操作风险等问题；而在AI深度嵌入金融业务之后，风险来源进一步扩展到数据层、算法层、模型层和应用层。金融行业高度依赖数据、模型和自动化流程，一旦AI系统被攻击、误导或错误调用，其影响可能通过金融业务链条传导，形成更隐蔽、更复杂的风险。

在数据层面，曾剑平指出，AI模型训练依赖大量数据，其中相当一部分来自互联网和公开信息。数据一旦被采集、清洗、整合并进入模型训练过程，后续删除和追溯并不容易。这意味着数据投毒、隐私泄露和数据关联风险都可能被放大。在金融场景中，信用评估、欺诈检测、客户画像和风险识别等任务都高度依赖数据，如果训练数据被污染或包含偏见，模型输出就可能带来错误判断，甚至对不同客户和企业形成不公平结果。

在模型层面，曾剑平强调，模型幻觉在短期内难以被彻底消除。从技术原理看，大语言模型本质上是一种概率模型，它根据既有数据和上下文生成高概率答案，但高概率并不等于事实正确。输入数据如果存在偏斜、缺失或被操纵，输出结果就可能出现偏差。对金融行业而言，这种偏差并非一般性的文本错误，而可能影响投研判断、风险评估、交易执行和客户服务。因此，金融从业者不能因为AI能够给出答案，就削弱基础知识训练和独立判断能力。

曾剑平特别提醒，当前社会上存在一种误解，即认为大模型出现后，传统知识学习变得不再重要。他认为，这种看法并不成立。没有知识基础，就难以形成真正的判断力；没有判断力，就无法识别AI回答的大方向是否正确。对学生而言，AI不应成为逃避基础训练的理由。相反，越是在AI广泛应用的环境中，越需要通过金融学、统计学、计算机和数据安全等基础知识，建立判断AI结果是否可信的能力。

谈及AI安全风险与金融风险的关系，曾剑平指出，AI带来的偏见、隐私、责任归属和系统依赖等问题，可能与传统金融风险相互叠加。例如，AI模型在贷款、投资、风险预警等场景中的偏见，可能通过信息不对称影响信用风险传导；同一模型或同一接口被广泛使用，也可能带来集中暴露和连锁反应。随着AI模型在更多业务环节铺开，每一个模型、接口和应用节点都可能成为潜在风险入口。因此，对AI风险的管控不应等到问题大规模暴露后才开始，而应在应用扩张早期就纳入治理框架。

在应用层面，曾剑平还以智能体调用网页数据的实验为例说明，当前AI Agent并非在所有场景中都可靠。对于一些看似简单的任务，如从特定网站抓取实时行情信息，智能体可能因为网页结构、接口标准和调用路径不统一而失败，甚至消耗大量Token却无法得到有效结果。这说明，AI智能体的能力受制于数据接口、标准化程度、预算条件和容错空间。可重复、标准化、预算充足的任务，可以逐步交给智能体；但对预算敏感、容错率低、需要精确执行的任务，仍然需要人进行结构化设计、过程监督和最终把关。