标签: 算法
所有带有此标签的文章 "算法".
-
SlowFast Networks for Video Recognition
更新于:多分支CNN，会不会有一些分支能学到更加相似的帧间变化？
-
DeltaCNN: End-to-End CNN Inference of Sparse Frame Differences in Videos
更新于:利用CNN Layer的“线性”特征在帧之间做feature的差分，并且做了CUDA加速。和ViStream几乎一样的思路，能不能解决我们现在的问题？
-
Temporal Flexibility in Spiking Neural Networks: Towards Generalization Across Time Steps and Deployment Friendliness
ICLR2025 Poster，似乎也在做Elastic inference？
-
A Simple Framework for Contrastive Learning of Visual Representations
对比学习SimCLR的论文。对比学习能对齐每一层的Feature吗？
-
QKFormer: Hierarchical Spiking Transformer using Q-K Attention
更新于:QKFormer，NIPS2024 Spotlight，把Direct Training SNN在ImageNet和CIFAR上的点刷的特别高，感觉之后要做就避不开它。
-
Transformers without Normalization
何恺明新作，用DyT代替Norm，把同步操作变成了Element Wise的操作。新文章里面有用到，学习一下。
-
Visualizing and Understanding the Effectiveness of BERT
更新于:最近做SNN训练的过程中在研究怎么可视化训练过程中的Loss，在想新加入的方法会不会对模型的Loss Landscape有影响，一般讲Loss Landscape怎么做可视化的文章都会引用这篇文章对Loss Landscape的分析和做法。
-
One-Minute Video Generation with Test-Time Training
更新于:最近Demo很火的TTT视频生成，可以生成60s级别的长视频。学习一下TTT的东西，SNN的On-Chip Learning和TTT能不能做结合？
-
Evolution Strategies as a Scalable Alternative to Reinforcement Learning
更新于:这两天在弄SNN训练的事情，需要验证一下用的Surrogate Gradient的准确性，老师介绍读一下这篇文章，用Evolution Strategy验证一下现在梯度估计的准确性。
-
Conv2Former: A Simple Transformer-Style ConvNet for Visual Recognition
更新于:使用大kernel DS卷积替代self-attention。字节新加坡的工作。