《A Comprehensive Survey of Video Anomaly Detection: Evolution from DNNs to MLLMs》阅读笔记

985 字
5 分钟
《A Comprehensive Survey of Video Anomaly Detection: Evolution from DNNs to MLLMs》阅读笔记

本文是《A Comprehensive Survey of Video Anomaly Detection: Evolution from DNNs to MLLMs》的阅读笔记。保留阅读时的提纲和疑问,尚未完成的部分标注为待补充或待核对。

一、整体印象#

大语言模型(LLM)和多模态大语言模型(MLLM)的迅速发展,为视频异常检测(VAD)带来了新的机遇与挑战。MLLM/LLM 研究所占比例持续显著上升,传统机器学习和 DNN 方法的占比逐渐下降。

半监督方法在简单数据集上接近饱和,弱监督方法在复杂数据集上的进步也有所放缓。

文本带来的一个重要方向是可解释性。大模型带来的变化,是把视频内容转化为可以推理的语义。

大类主要研究什么常见做法
传统 VAD在既定数据和场景中检测异常半监督、弱监督、无监督学习
开放世界 VAD应对训练中没见过的异常开放集、开放词汇检测
异常解释型 VAD检测异常,并用语言理解和解释免训练大模型、指令微调

开放词汇:还希望根据自然语言,识别或描述新的异常类别。

一个值得关注的思路:先用轻量检测器筛出可疑片段,再让大模型重点分析。

二、任务目标与方法分类#

视频异常检测主要包含两个目标:视频异常定位与视频异常理解(VAU)。原笔记将前者记作 VTG,缩写待核对。

视频异常理解方面,传统 DNN 方法要求模型在特定监督条件下正确分类异常帧。弱监督 VAD 常通过多任务学习同时完成异常定位和分类;MLLM/LLM 的免训练方法则常依靠多个 LLM 协作完成两类任务。

VAU 还可细分为分类、异常问答和因果分析三个核心子任务。

传统 DNN 方法按监督信号分为:

  • 半监督 VAD(SVAD)。
  • 弱监督 VAD(WVAD)。
  • 全监督 VAD(FVAD)。
  • 无监督 VAD(UVAD)。

另外关注开放词汇、免训练和指令微调等方向。传统方法中,语义信息仅被隐式使用,显著限制了可解释性。

三、传统 DNN 方法#

半监督 VAD#

  • 自监督:重建、帧插值、拼图、对比学习、去噪。
  • 单类分类器:高斯分类、对抗分类、单类分类。
  • 输入模态:RGB、光流、骨架。
  • 模型架构:自编码器、GAN、扩散模型、VLM。
  • 模型优化:构建伪异常以平衡正负样本、记忆库、知识蒸馏(教师—学生网络)。

弱监督 VAD#

  • 单阶段 / 两阶段 MIL。
  • 输入模态:RGB、光流、音频、文本。
  • 模型架构:待补充。
  • 模型优化:视觉空间 / 语义空间、度量学习。

无监督 VAD#

异常样本远少于正常样本。

  • 模型架构:自编码器、GAN。
  • 建模方向:原笔记记为“失控建模”,术语待核对。

四、开放世界 VAD#

原笔记将这一部分记作“开放世界 VAD(OSVAD)”,开放世界与开放集的缩写关系待核对。

  • 开放集 VAD:待补充。
  • 开放词汇 VAD(OVVAD):使用开放式自然语言描述异常。

五、异常解释型 VAD#

免训练 VAD(TVAD)#

通过预训练知识进行分析,将视频概括为文字。它与 OVVAD 的区别,是阅读时留下的一个问题。

  • 额外使用 LLM/MLLM,进一步细化、清洗文本。
  • 输入方式:原笔记仅记为“切分”,待补充。
  • 优化方向:提示工程和先验知识库。

指令微调 VAD#

  • 加入一些详细的异常数据。
  • 冻结 LLM。
  • 非均匀采样,关注高异常片段。
  • 优化方向:时空建模、视觉空间优化。

六、仍然存在的问题#

  • 标注成本高。
  • 场景泛化有限。
  • 计算开销大。
  • 语义理解不足。

文章分享

如果这篇文章对你有帮助,欢迎分享给更多人!

《A Comprehensive Survey of Video Anomaly Detection: Evolution from DNNs to MLLMs》阅读笔记
https://blog.hachile.org/posts/video-anomaly-detection-survey-notes/
作者
Gunpowder
发布于
2026-10-18
许可协议
CC BY-NC-SA 4.0
文章目录