■ 李意

　　习近平总书记明确指出，“面对生成式人工智能等新技术的涌现，要统筹好发展和安全”。人工智能是新一轮科技革命和产业变革的重要驱动力量，深刻改变着信息生产、传播和消费的生态格局，也给意识形态安全和文化安全带来前所未有的系统性挑战。在这一背景下，构建适应数智时代的风险识别、预警、处置与协同治理新机制，成为维护国家意识形态安全的紧迫课题。我们要积极运用智能技术提升治理效能，以算法治理算法，以智能赋能治理。将技术创新与制度建设有机统一、技术理性与价值理性深度融合、精准治理与协同治理协同推进，方能有效应对人工智能时代的意识形态和文化安全挑战，为实现国家治理体系和治理能力现代化注入强劲的智能动力。

　　人工智能时代的文化安全挑战

　　人工智能技术的深度嵌入，改变了意识形态和文化风险的发生机理、传播样态和治理逻辑。

　　从风险生成的技术逻辑来看，算法技术不仅获得了支配物质资源的权力，也获得了支配精神资源的权力。在意识形态领域，算法技术的赋能强化了传统意识形态风险，算法的自我进化制造了意识形态黑箱，这些因素共同构成了数字时代影响意识形态和文化安全的新变量。大模型在数据投喂、算法训练等环节容易受到操纵，出现污染投毒和算法偏见等问题。这意味着，意识形态和文化风险已不再是单纯的内容管控问题，而是深嵌于技术架构之中的结构性挑战。

　　从传播形态的风险演化来看，人工智能正在消解传统信息传播的可控边界。生成式人工智能依靠“指令—输出”的交互模式，其底层的算法通常会根据用户偏好进行持续的内容推送，极易造成同类信息不断积累，形成阻碍人们接触多元观点的认知“壁垒”，把用户困在强化自身既有认知的“信息茧房”里。长此以往，不仅损害公共讨论的共识基础，还可能对主流意识形态的传播效能和社会安全稳定产生深层次且较为隐蔽的威胁。深度伪造、AIGC幻觉、算法殖民等应用风险，给社会主义主流意识形态的信息传播、价值认同和范式重构带来巨大挑战。

　　从风险作用的认知深度来看，人工智能已将风险介入从信息层扩展到认知层。生成式人工智能通过看似中立、自然的交流，可持续输出具有特定倾向的叙事框架与价值判断，长期渗透将潜移默化地影响用户的价值观念、历史认知与政治认同。这种认知塑造比传统的信息污染更为隐蔽，治理难度也更大。

　　四个层面构建精准治理新机制

　　上述因素共同构成数字时代影响意识形态和文化安全的新变量，要求我们必须将人工智能作为风险治理的重要手段而非被动应对对象，推动风险治理从“人工监测、事后处置”向“智能预警、精准干预”转型。具体而言，可以从以下四个层面系统推进。

　　构建科学化的风险预警与评估机制。将人工智能技术与意识形态风险评估深度融合，构建具有前瞻性和精准性的预警体系。具体路径包括：加强预警理论研究以提升预警科学性，强化预警技术治理以增强预警精准性，优化预警管理机制以提升预警时效性。开发基于大数据的风险预测模型，通过对历史数据的深度学习和多维度分析，实现风险等级的分级分类评估。建立红、橙、黄、蓝四级预警体系，对不同等级的风险匹配差异化的响应策略。在高校等重点领域，可构建动态化的风险预警评估制度，结合师生思想动态、网络舆情走势、重大事件节点等因素进行综合研判，实现风险的早发现、早预警、早处置。

　　建立智能化的风险识别与监测机制。运用自然语言处理、知识图谱、多模态识别等人工智能技术，构建覆盖全网、全天候的风险智能监测平台。在技术层面，建立针对主流价值导向的敏感内容识别模型，提升对隐晦化、变异性内容的识别能力；在平台层面，推动主流媒体和重点网络平台接入统一监测体系，实现关键数据的实时融通；在算法层面，开发具有敏感度的风险识别算法，能够从海量信息中精准捕捉可能影响舆情和思想的内容苗头。同时，要警惕算法偏见和数据污染问题，在算法训练中嵌入主流价值导向，确保监测系统的公正性和可靠性。

　　打造智能化的风险研判与干预机制。在风险预警和识别的基础上，利用人工智能技术辅助进行风险研判和处置决策。具体而言，可建立基于大模型的风险辅助研判系统，通过对海量信息的智能分析和关联挖掘，为决策者提供风险评估报告、应对策略建议和效果预测。在干预层面，探索“人机协同”的治理模式，人工智能系统负责信息的初级筛查和自动处置，将具有较高敏感性和复杂性的风险推送至人工审核环节，实现效率与安全的平衡。同时，开发基于主流价值导向的智能内容推荐算法，让主流价值观不断扩大其影响力。

　　构建多元协同的智能治理共同体。风险精准治理是一项系统工程，需要政府、平台、高校、研究机构和社会力量协同参与。在顶层设计层面，加快构建覆盖算法设计、数据治理、内容审核全链条的智能治理制度体系，将主流价值观原则转化为算法规则。在平台治理层面，加强对算法应用平台的行业规制，通过完善法律体系和行业规则，形成对算法应用的群体共识。在人才保障层面，加强对算法工程师的伦理训练，增强其政治意识，建设具有政治责任感的算法工程师队伍。在高校层面，加快培养既懂人工智能技术又熟悉意识形态工作的复合型人才。

　　（作者为浙江省习近平新时代中国特色社会主义思想研究中心浙江财经大学基地研究员）