审查细则
内容合规审核是平台五大服务体系的第一道防线,也是守护未成年人内容安全最核心的一环。它面向所有接入平台的教育人工智能产品,对 AI 生成的文本、图像、音频、视频等全模态内容进行持续、全量的合规审查,确保进入 K-12 校园的每一个内容都安全、适龄、积极向上。
与市面上常见的“事后抽检”不同,平台坚持“全量 + 实时 + 可追溯”的审查理念,把合规审核前置到产品接入与每一次生成交互之中,从源头阻断不良内容向学生传播。
审查范围覆盖文本、图像、音频、视频、三维模型、代码等全部内容模态,不因载体不同而遗漏风险。
对 AI 生成内容实施全量审查,做到“应审尽审”,避免抽样带来的漏审风险。
对识别出的违规内容即时拦截,阻断向学生展示与传播。
对存在问题的产品出具整改意见,整改复核通过后方可恢复服务。
对内容按风险等级进行标注,便于后续溯源与监管报送。
重点审查意识形态偏差、历史虚无主义、不良价值观、暴力色情、网络欺凌、诱导消费等风险内容。
结合学段特点,审查内容是否符合对应年级学生的认知水平与身心发展规律。
识别事实性错误、误导性信息、伪科学、谣言等,避免错误知识进入课堂。
对照《网络安全法》《未成年人保护法》《生成式人工智能服务管理暂行办法》及 AI 内容标识等相关法规进行合规判定。
产品接入 → 内容合规预检 → 全量内容审核 → 风险识别与标注 → 出具审核结论 → 违规整改 → 整改复核 → 通过后进入运营监测 → 持续动态审查。
整个过程在平台审计系统中留痕,支持监管复盘与纠纷处置。
服务严格对标国家关于生成式人工智能内容管理、AI 生成合成内容标识等法规与标准,将“应备未备、应标未标、内容违规”等监管重点落实为具体审查动作,为产品合规提供依据。
平台坚持全量审查,对 AI 每一次生成内容都进行合规判定,最大限度降低漏审风险。
对严重违规内容即时拦截熔断,对一般问题出具限期整改要求,复核通过后恢复。
可以。审查结论与风险记录全程留痕,可按需输出审计报告。
从源头守住未成年人内容安全底线,让每一个进入校园的 AI 教育产品内容都可审查、可追溯、可问责,为平台、学校、家长与监管机构提供可信赖的内容安全保障。