■ 本报记者 李娇俨

　　“人工智能正在深刻重塑医疗健康生态，但医疗领域具有高专业性、高风险性与强伦理属性，一旦安全底线失守，轻则影响诊疗质量，重则危及患者生命。”全国政协委员、中国科学院院士、浙江大学医学院附属第二医院院长王建安今年赴会，最关注的是加强人工智能医疗健康应用安全保障体系建设的问题。

　　在他看来，AI赋能医疗是我国卫生健康事业换道超车、引领国际的必争之地。我国以公立医院为主体的医疗服务体系具备鲜明的体制机制优势，在单点应用领域基础扎实，有望在AI加持下向“领跑”跃升。权威机构预测，全球人工智能医疗市场在2030年前后将达到3万亿元规模，年复合增长率保持30%以上。

　　“前景虽好，风险犹存。”王建安委员在调研中发现，当前医疗AI面临多重安全隐患：算法可解释性不足，决策过程“黑箱化”，医生难以判断AI结论是否符合临床实际，制约了在高风险诊疗领域的推广；数据安全与隐私保护压力加大，存在重识别风险等；模型运行阶段缺乏持续监测，存在监管盲区。

　　此外，AI系统已成黑客攻击高价值目标，通过植入对抗样本或篡改算法参数，可能直接干扰诊断结果，危及患者生命安全。

　　针对这些问题，他认为，必须建立医疗AI安全可追溯性强制标准，将“可解释性、可追溯性、可审核性”作为高风险产品准入核心要求。同时，强化医疗数据全链条安全治理，完善数据分类分级管理，推广联邦学习、差分隐私等技术实现“数据可用不可见”，并构建医疗AI全生命周期安全监管体系，将医疗AI纳入基础设施重点保护范围。

　　“AI医疗虽好，也要真正安全可靠才行。”王建安委员表示，要坚持以患者为中心，为AI医疗高质量发展筑牢底座，让技术创新真正造福百姓健康。