StreamMAE：让自监督学习适用于连续视频流

StreamMAE 针对连续视频流中的自监督预训练，缓解滑动窗口批次内近重复帧造成的高相似性问题。研究构建 WT++ 95-hour 城市步行视频数据集，发现对比学习和知识蒸馏方法表现较弱，MAE 更稳健；StreamMAE 匹配同视频数据上的 i.i.d. MAE，并在预训练流从 12 to 95 hours 扩大时持续提升。