■ 任奎

　　随着生成式AI从技术探索迈向规模化应用，其引发的复合型安全风险日益严峻。以大模型为代表的生成式AI，正在从技术突破走向规模化应用，生成式AI智能安全治理进入体系化推进新阶段。

　　我们认为，生成式AI安全治理的核心逻辑，是把风险防控的重心从事后处置前移到事前预防：在研发部署阶段就把识别、评估、处置能力装进去，覆盖数据、模型、系统、应用、传播全过程，让AI从“能用”走向“可信可用”。

　　当前，生成式AI的安全风险带有明显的复合性和传导性，常见为四类：

　　一是内容真假难辨。深度伪造可仿冒声音面孔、机器批量生成的文本以假乱真，易引发身份冒充、舆论误导和网络诈骗。

　　二是算法影响从线上延伸到线下。模型怎么训练、数据怎么喂、提示词怎么设计都会改变服务结果，单点监管盯不住全链条。

　　三是数据与隐私风险上升。训练语料、用户输入、交互日志都可能是敏感信息，缺乏治理就可能泄露、滥用甚至跨境流动。

　　四是责任难以厘清。研发者、平台、集成方、用户都参与内容生成，没有备案和留痕，出了事很难找到责任人。

　　所以，安全不能只盯着输出端的“有害内容”，而要覆盖从数据到传播的全过程，从四个层面构建能力。

　　数据层面，把源头管好。来源要合法合规，涉及版权、商业秘密、未成年人信息的，要建立授权、脱敏、最小必要、访问控制和留痕审计；同时发展隐私计算、区块链存证等技术，让数据 “可用不可见、可控可计量、可追溯可审计”。

　　模型层面，把底线守住。大模型会一本正经地“说胡话”、带偏见，也可能被“越狱”、被注入恶意指令，应围绕价值对齐、鲁棒性、可解释性等建立测试基准，常态化开展红队测试（模拟攻击的检验）和持续评估。我们团队已形成从输入检测到输出过滤的多层次防护方案。

　　系统层面，把全身护住。模型跑在算力平台、开源框架、插件工具和应用接口上，任一环节被攻破都可能造成数据泄露、模型劫持或内容投毒，应完善身份认证、权限隔离、调用审计和应急响应，尤其要防止AI被用于自动化攻击和诈骗。

　　场景层面，分级施策。政务服务、金融投资、医疗健康、教育考试等关系公共利益的场景，须实行更严格的安全评估、人工复核和责任留痕；一般创作、办公辅助等低风险场景，更多依靠提示告知和平台自律。把监管资源集中到关键领域，治理才既有力又不过度。

　　敢想敢试、主动探索，把预防做在前面、把责任落到全程，AI才能走得更稳、更远。

　　（作者系浙江大学教授，浙江大学区块链与数据安全全国重点实验室常务副主任，浙江大学网络空间安全中心主任）