2023年国家网络安全宣传周上海地区主论坛在上海国家会展中心举行 本文图片由主办方提供

9月11日上午，2023年国家网络安全宣传周上海地区主论坛在上海国家会展中心举行。

本次论坛以“数字时代如何应对网络安全新挑战”为主题，多位从事各行业网络安全和信息化工作专家集聚论坛，以主题分享与圆桌会议等形式共同探讨关于数字时代的网络安全和数据安全等问题。

论坛上，中国工程院院士、复旦大学金融科技研究院院长柴洪峰院士发表寄语，并对金融大模型的监管提出建议。柴洪峰表示，金融垂直领域的大模型应用目前面临一些挑战，一是金融数据的私密性限制了共享和构建大规模数据集的能力，二是金融数据的多模态特性增加了模型处理和建模的复杂性。为了克服这些难题，加强产学研的合作势在必行，需要共同构建更强大的金融垂直领域基础模型，以提高大模型对多模态数据的表达能力和安全性。

柴洪峰院士发表寄语

柴洪峰院士对金融大模型的监管提出三点想法。首先是在数据安全方面，需要对大模型训练过程中的数据安全等级做严格的界定。监管机构也应加强对金融大模型的审查和风险评估，对关键人物和系统应建立审查和测试的机制，确保其性能和安全性。其次，为了实现建立监管框架与标准，确保大模型在金融领域的应用符合法规与道德要求，需要通过政产学研的合作制定相关的政策和指南。第三，对于金融大模型的部署与使用需要协同共治，提升透明度，保证数据质量和可解释性的机制，这可以帮助用户与监管机构理解模型的决策依据，并确保其不带有偏见或歧视性。

此外，多位网络安全的业内大咖围绕“数字时代如何应对网络安全新挑战”的主题进行圆桌讨论。上海社会科学院互联网研究中心主任、研究员惠志斌表示，网络安全具有伴随性、跟随性，只要有新技术、新模式产生，必然会产生新的安全风险和挑战。网络安全是一个攻防两端博弈的问题，它背后是技术和人才的博弈，政府、产业界、应用单位各方都应更加重视网络安全，才能让资源和博弈的对抗正向发展。

公安部第三研究所网络安全法律研究中心主任、研究员黄道丽表示，从法律工作者角度看，现在网络安全面临的最大挑战是怎么把制度的能力转化为实际的治理能力。法律最大的特点是稳定性，然而网络安全风险和网络安全形势又是不断变化的，甚至有时候它的风险会突破，比如AIGC、人工智能的风险是否会突破传统认识的数据安全与个人信息保护，网络安全规则的细化需要产业界、运营者、数据处理者以及社会第三方共同地推进。在黄道丽看来，目前针对网络安全执法的力度和覆盖面较为有限，如何提高执法能力，包括监督检查、行政执法、执法队伍建设等，对网络安全而言也是极大的挑战。

上海市信息安全测评认证中心创新研究院副院长徐御从测评角度阐述了网络安全面临的几大挑战。网络安全原来以系统与网络为核心，现在以数据为核心。以数据为中心之后，如果数据在后端遭受泄露或篡改，对前端造成的影响算不算安全问题？这个挑战可能会改变后期的测评评估规则。

对于如何应对网络安全面临的挑战，徐御表示，中国数据安全制度供给在逐步加大，包括《数安法》《个保法》等等，上海也推动了很多试点工作，这些工作都是以数据安全为中心的思路去构建整个城市的数据安全体系，但这些工作目前还处于起步阶段。数据安全的供给侧仍需进一步产业升级，一旦数据的一键加密、数据脱敏等高效的产品推出，满足对于数据泄露、数据篡改等方面的需求，网络安全产业的发展会更加快速。

上海交通大学人工智能研究院院长宋海涛认为，随着人工智能技术的发展，下一步可能会很快地进入到算力的新型网络，未来整个AI的智算资源很有可能会成为像电网一样，算力入户、算力入校。面对这样的发展，现在的网络安全涵盖面会更大。另外，人工智能和AIGC的产生，加速了人们对于信息的有效压缩能力和表达能力，大量的信息内容通过网络生成，这是网络安全面临的新的技术挑战。宋海涛建议，不仅需要进一步地以科技自强来保护人民群众的生命财产安全，还要加强网络安全方面伦理和治理体系的研究，下一阶段的网络安全工作更需要探讨伦理和治理体系的建设。