知乎专项优化：内容审核系统升级

2026 年 7 月 18 日，知乎正式发布了第三代内容审核系统「清朗」。这套全新的审核系统采用 AI + 人工双重机制，在识别准确率、处理速度、覆盖范围等方面均实现了重大突破。知乎安全负责人刘建国在发布会上表示：「内容安全是知识社区的生命线。我们投入了大量资源打造这套系统，就是要确保每一位用户在知乎看到的内容都是可信赖的。」

第三代审核系统的研发始于 2025 年初，知乎组建了由 86 名算法工程师和 45 名内容安全专家组成的专项团队。系统训练数据涵盖了知乎平台上过去 5 年积累的 12 亿条内容样本，包括已标记的违规内容、争议性讨论和边界案例。经过 18 个月的迭代优化，系统在内部测试中的综合表现远超预期。

AI 识别准确率与性能指标

「清朗」系统的核心指标令人瞩目。AI 识别准确率达到 99.2%，较第二代系统的 94.7% 提升了 4.5 个百分点。误判率从 3.8% 降低至 0.6%，降幅达 84%。在虚假信息检测方面，系统的拦截率从 52% 提升至 89%，提升幅度达 63%。对于涉及医疗健康、金融投资、法律法规等高风险领域的内容，系统的审核严格度提高了 3 倍，确保用户不会受到误导性信息的影响。

处理速度方面，新系统实现了质的飞跃。单条内容的 AI 初审时间从平均 4.2 秒缩短至 0.8 秒，提速 425%。在日均处理量方面，系统可支撑 850 万条新增内容的实时审核，峰值处理能力达到每秒 2,400 条。知乎安全工程师陈思远透露：「我们采用了流式处理架构和分布式计算集群，确保即使在流量高峰期也不会出现审核延迟。」

多维度内容安全检测体系

第三代审核系统建立了 6 个维度的内容安全检测体系：文本语义分析、图片 OCR 识别、视频帧提取、链接安全检测、用户行为画像、上下文关联分析。每个维度独立评分，最终通过融合模型生成综合风险等级。当风险等级超过阈值时，内容会自动进入人工审核队列。

在文本语义分析方面，系统引入了对抗性检测技术，能够识别经过刻意变形的违规内容（如谐音字、拆字、拼音替代等）。测试数据显示，系统对变形文本的识别率从第二代的 67% 提升至 93%。图片 OCR 识别支持中英文混合场景，准确率达到 97.8%。视频帧提取采用关键帧智能选择算法，仅需分析 12-18 帧即可判断视频内容的合规性，处理效率提升了 5 倍。

人工审核协同与用户反馈机制

AI 审核并非万能，人工审核仍然是不可或缺的环节。知乎目前拥有超过 320 名专职审核人员，分为 15 个专业小组，分别负责科技、医疗、法律、金融等不同领域。AI 系统会将高风险内容和边界案例优先分配给对应领域的专业审核员，确保审核判断的专业性。数据显示，AI + 人工协同模式下，审核准确率达到了 99.8%。

用户反馈机制也得到了全面升级。新版「举报」功能支持 12 种违规类型的精确选择，举报处理时间从平均 24 小时缩短至 4 小时。用户可以在举报后实时查看处理进度，处理完成后会收到详细的结果通知。知乎社区治理负责人林小雨表示：「我们鼓励用户积极参与社区治理。每一条举报都是对社区安全的贡献。」据统计，升级后用户举报的有效率从 43% 提升至 71%。

第三代内容审核系统「清朗」已在知乎全平台上线运行。知乎表示，未来将持续投入内容安全技术研发，计划在 2026 年第四季度引入多模态大模型审核能力，进一步提升对复杂内容的识别水平。想要了解知乎更多内容安全举措的用户，可下载知乎 App 查看社区规范页面。