AI 视频内容理解与审核平台

-82%人工审核工作量
99.2%违规内容召回率
+0.9%叠加的单位处理成本

背景

客户平台每天新增数万条视频，此前的内容审核完全靠人工抽检：审核员看不过来，只能抽 5%，漏检风险始终存在。同时运营侧还有一堆手工活——给视频打标签、写摘要、切章节、配字幕。

关键设计：复用转码链路

最省成本的一个决定是：不为 AI 单独建采集链路。

视频进入分布式转码系统时，本来就要解码每一帧。我们在这条链路上挂了一个旁路：转码的同时按策略抽帧、分离音轨、提取元数据，直接投递到 AI 处理队列。

结果是 AI 能力叠加上去之后，单位处理成本只增加了 0.9%——因为最贵的解码环节被复用了。

处理流水线

转码 Worker ─┬─→ 视频输出（HLS 多码率）
             └─→ 旁路：关键帧抽取 + 音轨分离
                    ↓
              ASR 语音转文字 ──→ 文本理解（摘要/标签/章节/敏感词）
              关键帧视觉理解 ──→ 画面标签 / 违规特征
                    ↓
              多模态聚合判定 → 分级结果 → 人工复审工作台

抽帧策略

均匀抽帧既浪费又容易漏。我们改成场景切换检测 + 关键帧优先：画面变化剧烈的地方密集抽，静态讲课画面稀疏抽。同样的识别效果下，帧数减少约 60%。

语音是主要信息源

对讲课类内容，音轨里的信息量远大于画面。ASR 转出的全文既用于生成摘要和章节，也是合规审核的主要依据。转写文本同时入库做全文检索，顺带解决了「按讲课内容搜视频」的需求。

分级而不是二分

审核结果不是「过 / 不过」，而是四档：

分级	处置	占比
明确合规	自动通过	~86%
疑似问题	进人工复审队列	~12%
高风险	自动拦截 + 优先人工	~1.5%
识别失败	全量人工	~0.5%

审核员只需要看后三类，工作量下降 82%，而覆盖率从抽检 5% 变成全量 100%。

阈值是可调的

不同类目对误杀和漏检的容忍度不同。我们把判定阈值做成可配置项，并提供回放工具：调整阈值后能立刻看到在历史样本上的召回率与误杀率变化，运营可以自己权衡。

成果

全量审核替代 5% 抽检，违规内容召回率 99.2%
人工审核工作量下降 82%，审核团队转向复审与规则运营
视频标签、摘要、章节、字幕全自动生成，运营手工活基本消失
转写文本入库后，站内搜索从「搜标题」升级为「搜内容」

背景