《A Comprehensive Survey of Video Anomaly Detection: Evolution from DNNs to MLLMs》阅读笔记
985 字
5 分钟
《A Comprehensive Survey of Video Anomaly Detection: Evolution from DNNs to MLLMs》阅读笔记
本文是《A Comprehensive Survey of Video Anomaly Detection: Evolution from DNNs to MLLMs》的阅读笔记。保留阅读时的提纲和疑问,尚未完成的部分标注为待补充或待核对。
一、整体印象
大语言模型(LLM)和多模态大语言模型(MLLM)的迅速发展,为视频异常检测(VAD)带来了新的机遇与挑战。MLLM/LLM 研究所占比例持续显著上升,传统机器学习和 DNN 方法的占比逐渐下降。
半监督方法在简单数据集上接近饱和,弱监督方法在复杂数据集上的进步也有所放缓。
文本带来的一个重要方向是可解释性。大模型带来的变化,是把视频内容转化为可以推理的语义。
| 大类 | 主要研究什么 | 常见做法 |
|---|---|---|
| 传统 VAD | 在既定数据和场景中检测异常 | 半监督、弱监督、无监督学习 |
| 开放世界 VAD | 应对训练中没见过的异常 | 开放集、开放词汇检测 |
| 异常解释型 VAD | 检测异常,并用语言理解和解释 | 免训练大模型、指令微调 |
开放词汇:还希望根据自然语言,识别或描述新的异常类别。
一个值得关注的思路:先用轻量检测器筛出可疑片段,再让大模型重点分析。
二、任务目标与方法分类
视频异常检测主要包含两个目标:视频异常定位与视频异常理解(VAU)。原笔记将前者记作 VTG,缩写待核对。
视频异常理解方面,传统 DNN 方法要求模型在特定监督条件下正确分类异常帧。弱监督 VAD 常通过多任务学习同时完成异常定位和分类;MLLM/LLM 的免训练方法则常依靠多个 LLM 协作完成两类任务。
VAU 还可细分为分类、异常问答和因果分析三个核心子任务。
传统 DNN 方法按监督信号分为:
- 半监督 VAD(SVAD)。
- 弱监督 VAD(WVAD)。
- 全监督 VAD(FVAD)。
- 无监督 VAD(UVAD)。
另外关注开放词汇、免训练和指令微调等方向。传统方法中,语义信息仅被隐式使用,显著限制了可解释性。
三、传统 DNN 方法
半监督 VAD
- 自监督:重建、帧插值、拼图、对比学习、去噪。
- 单类分类器:高斯分类、对抗分类、单类分类。
- 输入模态:RGB、光流、骨架。
- 模型架构:自编码器、GAN、扩散模型、VLM。
- 模型优化:构建伪异常以平衡正负样本、记忆库、知识蒸馏(教师—学生网络)。
弱监督 VAD
- 单阶段 / 两阶段 MIL。
- 输入模态:RGB、光流、音频、文本。
- 模型架构:待补充。
- 模型优化:视觉空间 / 语义空间、度量学习。
无监督 VAD
异常样本远少于正常样本。
- 模型架构:自编码器、GAN。
- 建模方向:原笔记记为“失控建模”,术语待核对。
四、开放世界 VAD
原笔记将这一部分记作“开放世界 VAD(OSVAD)”,开放世界与开放集的缩写关系待核对。
- 开放集 VAD:待补充。
- 开放词汇 VAD(OVVAD):使用开放式自然语言描述异常。
五、异常解释型 VAD
免训练 VAD(TVAD)
通过预训练知识进行分析,将视频概括为文字。它与 OVVAD 的区别,是阅读时留下的一个问题。
- 额外使用 LLM/MLLM,进一步细化、清洗文本。
- 输入方式:原笔记仅记为“切分”,待补充。
- 优化方向:提示工程和先验知识库。
指令微调 VAD
- 加入一些详细的异常数据。
- 冻结 LLM。
- 非均匀采样,关注高异常片段。
- 优化方向:时空建模、视觉空间优化。
六、仍然存在的问题
- 标注成本高。
- 场景泛化有限。
- 计算开销大。
- 语义理解不足。
文章分享
如果这篇文章对你有帮助,欢迎分享给更多人!
《A Comprehensive Survey of Video Anomaly Detection: Evolution from DNNs to MLLMs》阅读笔记
https://blog.hachile.org/posts/video-anomaly-detection-survey-notes/

