NeurIPS全称神经信息处理系统大会(Conference on Neural Information Processing Systems)，是机器学习和计算神经科学领域的顶级国际会议。本文将介绍自动化所脑图谱与类脑智能实验室在NeurIPS 2023中收录的22篇论文。 

01. 脉冲驱动Transformer 

Spike-driven Transformer 

作者：姚满、胡珈魁、周昭坤、袁粒、田永鸿、徐波、李国齐 

本文提出了首个脉冲驱动Transformer（Spike-driven Transformer），整个网络中只有稀疏加法。所提出的Spike-driven Transformer具有四个独特性质：(1)事件驱动，当Transformer的输入为零时不触发计算；(2)二进制脉冲通信，所有与脉冲矩阵相关的矩阵乘法都可以转化为稀疏加法；(3)所设计的自注意力机制在token和通道维度上都具有线性复杂度；(4)脉冲形式的Query、Key、Value矩阵之间的运算为掩码和加法。总之，所提出的网络中只有稀疏加法运算。为实现这一目标，本文设计了一种新颖的脉冲驱动自注意力(Spike-Driven Self-Attention, SDSA)算子，算子中仅利用掩码和加法进行运算，而不进行任何乘法，因此其能耗比原始自注意力算子低87.2倍。此外，为确保网络中所有神经元间传递的信号为二进制脉冲，本文重新排列了网络中所有的残差连接。实验结果表明，Spike-driven Transformer在ImageNet-1K上可以达到77.1%的 top-1精度，这是SNN领域内的最佳结果。 

图1. Spike-driven Transformer架构图

图2. Spike-driven Self-attention算子 

论文链接： https://arxiv.org/abs/2307.01694 

代码链接： https://github.com/BICLab/Spike-Driven-Transformer 

2. Bullying10K: 一个大规模神经形态数据集用于隐私保护的暴力识别 

Bullying10K: A Large-Scale neuromorphic Dataset towards Privacy-Preserving Bullying Recognition 

作者：董一廷，李杨，赵东城，申国斌，曾毅 

日常生活中暴力行为的普遍性对个人的身体和精神健康构成了重大威胁。在公共场所使用监控摄像头已被证明在主动地阻止和预防此类事件中是有效的。但由于其广泛部署，出现了关于隐私侵犯的担忧。为了解决这个问题，我们利用动态视觉传感器（DVS）摄像头来检测暴力事件并保护隐私，因为它捕捉像素亮度的变化，而不是静态图像。我们构建了Bullying10K数据集，包括来自现实生活场景的各种动作、复杂的运动和遮挡。它为评估不同任务提供了三个基准：动作识别、时间动作定位和姿态估计。Bullying10K通过提供10,000个事件段，总共120亿次事件和255GB的数据，平衡了暴力检测和个人隐私的保护，并对神经形态数据集提出了挑战，将成为训练和开发保护隐私的视频系统的宝贵资源。Bullying10K为这些领域的创新方法开辟了新的可能性。 

相关链接： 

https://figshare.com/articles/dataset/Bullying10k/19160663 

https://www.brain-cog.network/dataset/Bullying10k/