《人工智能安全治理框架 3.0》正式对外发布，针对生成式人工智能大模型快速普及带来的风险，进一步明确安全底线，完善评估、监管、风险处置机制，统筹人工智能创新发展与安全治理，为国内 AI 产业划定发展准则。随着大模型、AI 生成技术广泛应用，AI 深度融入政务、教育、医疗、电商等领域，在带来效率提升的同时，虚假信息、深度伪造、数据泄露、算法歧视等风险不断显现。
新版框架针对大模型训练数据、生成内容安全、个人信息保护、模型风险评估提出更加细化要求，强调企业主体责任。AI 企业在模型上线前要开展安全评估，识别模型生成有害内容、偏见、深度伪造风险，建立内容审核机制。框架要求保护个人信息，规范训练数据采集，严禁非法抓取个人隐私数据训练模型，防范 AI 技术滥用侵犯公民权益。同时兼顾创新，不简单限制技术研发，采取分级分类监管思路，根据模型能力、应用场景区分风险等级，实施差异化管理。
国家坚持发展新质生产力，人工智能是重点赛道，鼓励技术创新，但是创新不能脱离安全底线。监管的目标不是阻碍产业，而是防范风险，营造可信安全的 AI 环境，让大众放心使用人工智能产品。配套法规、标准体系同步推进，首个 AI + 脑机接口医疗器械标准发布，AI 在医疗领域应用规范化提速。各地也在探索 AI 治理试点，搭建行业自律平台。人工智能技术迭代速度极快，治理需要与时俱进，多方协同，政府、企业、科研机构、公众共同参与，平衡创新红利与安全风险，推动我国人工智能产业安全、健康、可持续发展。