中国计算机学会青年计算机科技论坛南京观点论坛成功举办

11月22日，由中国计算机学会主办，CCF YOCSEF南京承办的观点论坛“大模型落地狂飙:安全评估路在何方？”在南京举行。40余位来自高校、科研院所、企业和政府部门的专家学者及一线技术与管理人员齐聚江宁百家湖畔，围绕大模型安全治理与评估体系建设展开深入讨论。

论坛开始，西安交通大学网络空间安全学院教授蔺琛皓以“AI大模型安全可信与应用挑战”为题，指出构建“可信可控”的大模型安全评估体系已成为当前与未来应用落地的关键前提。

浙江大学区块链与数据安全全国重点实验室研究员王庆龙以“大模型安全评测体系浅探——从评测数据到指标体系”为题，从评测维度、评测数据、评测指标与评测方法四个层面出发，倡导构建兼顾法规要求与本土语境的系统化安全评测框架。

杭州君同未来科技有限责任公司联合创始人兼COO林昶廷围绕“生成式人工智能测试和防护的实践与思考”，从政务、能源等典型案例出发，概括了大模型在提示词注入、数据泄露、智能体误用、幻觉与具身智能安全等方面的全生命周期风险，指出随着监管政策和技术标准相继出台，合规要求正成为AI安全的重要外生驱动力。

在“现有大模型安全评估距离解决落地安全需求有多远”议题讨论环节中，与会嘉宾认为，亟需形成风险分层清晰、成本可控、可解释性更强的评估体系与产品化方案，才能真正缩短“评估体系”与“落地安全”之间的距离。围绕“短期如何调整大模型安全评估方案以覆盖现有缺口”这一议题，与会嘉宾在充分讨论的基础上形成了若干共识性方向。针对“长远来看，怎样的大模型安全评估形态能够真正解决落地应用需求”议题，与会嘉宾认为，未来的大模型安全评估必须从“单点测一次”走向“多方协同、全生命周期、可追责”的综合治理体系。

CCF YOCSEF是由中国计算机学会于1998年创建的系列性学术活动团体，CCF YOCSEF南京分论坛于2011年成立，围绕促进国家和社会进步、推动学术和产业生态和谐发展开展了一系列论坛活动。