2025年2月，由忆生科技创始团队及忆生科技旗下研究人员参与的首个基于统计学的线性注意力机制ToST工作，被ICLR2025高分录取为Spotlight。忆生科技创始团队马毅已受邀在今年四月的ICLR大会上就和此项成果相关的一系列白盒神经网络相关工作，进行为时一小时的主题报告（Keynote）。知名智能领域媒体机器之心头条介绍了该研究。以下为报告原文
来源：机器之心 公众号 原文链接https://mp.weixin.qq.com/s/md8M9SAny1guiF8mx_BuDg
本文第一作者为加州大学伯克利分校三年级博士生吴梓阳，导师为马毅教授。吴的主要研究方向为表征学习与多模态学习。该工作由多所学校与机构的研究者共同完成，包括加州大学伯克利分校、宾夕法尼亚大学、密歇根大学、清华大学、忆生科技、香港大学、约翰·霍普金斯大学等。据悉，马毅教授已受邀在今年四月的ICLR大会上就和此项成果相关的一系列白盒神经网络相关工作，进行为时一小时的主题报告（Keynote）。
Transformer架构在过去几年中通过注意力机制在多个领域（如计算机视觉、自然语言处理和长序列任务）中取得了非凡的成就。然而，其核心组件“自注意力机制”的计算复杂度随输入token数量呈二次方增长，导致资源消耗巨大，难以扩展到更长的序列或更大的模型。
Token Statistics Transformer (ToST) 提出了一种新的注意力机制，它的时间复杂度是线性的。通过对序列特征的统计建模，ToST 提高了序列处理任务中的效率。文章探讨了基于变分编码率缩减（Variational Rate Reduction, VRR）的框架，并通过实验验证了其在不同任务中的性能，通过革新传统注意力机制，解决了这些长期困扰Transformer架构的效率瓶颈。
目前，该工作已被ICLR2025高分录取为Spotlight。
论文标题：Token Statistics Transformer: Linear-Time Attention via Variational Rate Reduction
论文地址： https://arxiv.org/abs/2412.17810
项目主页： https://robinwu218.github.io/ToST/
项目已开源：https://github.com/RobinWu218/ToST
研究背景与动机
一直以来，自注意力机制依赖于对输入token两两相似性的计算，这一过程虽然有效，但其资源开销显著；尤其当输入token数量极大时，传统注意力机制（如 Transformer 中的全局注意力）在计算复杂度和内存使用上的瓶颈问题愈发显著。为了应对这一挑战，本文提出了一种基于统计学特征的注意力机制：Token Statistics Self-Attention (TSSA)。它通过避免两两相似性的计算，仅依赖于token特征的统计量，显著降低了计算复杂度。
图：Token Statistics Transformer (ToST) 的架构。Token Statistics Self-Attention (TSSA) 运算符通过对投影后的 token 进行行标量化变换，从而实现了线性复杂度。
核心方法
ToST 的核心方法是通过特定的概率分布函数对输入序列进行建模，减少冗余信息并提取关键特征。具体包括：
1. 统计特征提取：对序列中的每个 token 提取其统计特征。
2. 变分编码率缩减：利用 VRR 框架对特征进行压缩，减少信息冗余。
3. 线性复杂度实现：通过一系列优化，其计算复杂度从O(n²)降低为O(n)。
图：ToST 的方法概述。在 CRATE 的理论基础上，ToST 通过几何空间的结构化特征实现 token 分组和映射。
网络架构的推导
我们通过扩展先前的 CRATE 工作推导出网络架构。CRATE 显示，一种 Transformer 风格的架构可以通过 "白盒" 架构设计自然生成，其中网络的每一层都旨在实现最大编码率缩减目标 (MCR²) 的增量优化步骤。
具体来说，我们推导了 MCR² 目标的一个新颖
的变分形式，并表明通过对该变分目标进行展开梯度下降所得到的架构会引入一种新的注意力模块，称为 Token Statistics Self-Attention (TSSA)。TSSA 拥有线性的计算和内存复杂度，并从根本上不同于典型的注意力架构，其后者通过计算 token 之间的两两相似性来实现。
图：关键公式MCR² 目标函数定义
技术细节
线性时间注意力机制：Token Statistics Self-Attention (TSSA)
l 通过白盒设计方法（algorithmic unrolling），TSSA从最大编码率减少（Maximal Coding Rate Reduction, MCR2）的变分形式中推导而来。
l 传统Transformer依赖于pairwise相似度计算，而TSSA则基于token特征的统计量构建注意力机制，其计算复杂度从O(n²)降低为O(n)，内存占用同样显著减少。
创新性的网络结构：Token Statistics Transformer (ToST)
l ToST通过将TSSA替代标准的自注意力模块，不仅实现了显著的效率提升，还增强了模型的可解释性。
l 与传统模型不同，ToST架构中的注意力操作基于统计量的低秩投影，通过减少不必要的计算路径，大幅优化了资源使用。
理论支撑与数学推导
l 基于MCR2的变分形式，提出了一种新颖的压缩项公式，可对大型矩阵进行有效的特征提取。
l 通过设计数据相关的低秩投影，TSSA在保留关键信息的同时，消除了冗余方向。
实验验证与性能分析
实验覆盖了自然言语处理（NLP）、计算机视觉（CV）等多个领域的任务，包括文本分类、机器翻译、图像识别等。结果表明，ToST 在保证模型性能的同时，大幅降低了计算资源消耗。
1计算和内存的线性复杂度分析
l 实验结果显示，与现有的注意力机制相比，TSSA的时间和内存复杂度更低。具体而言，TSSA的复杂度为O(pn)，显著优于传统Transformer的O(n²)。
ToST 在计算时间和内存使用上均随序列长度实现线性扩展，使其显著优于标准 Transformer 的效率。如下：
图 ：复杂度分析对比
图 ：在 GPU 上评估的速度和内存使用对比
2视觉任务性能分析
l 在ImageNet-1k等主流视觉数据集上的实验表明，ToST的性能可与传统Transformer架构（如ViT和XCiT）相媲美，同时显著减少了模型参数量和计算开销。
l 迁移学习实验中，ToST在CIFAR、Oxford Flowers等数据集上的表现进一步验证了其在多种视觉任务中的适应性。
o 展示了与传统 Transformer 相当的性能，同时在计算效率上显著更高。
3长序列任务和语言建模
（1）长序列任务
在长序列任务基准测试（如Long-Range Arena）中，ToST展现出优异的长距离建模能力，其性能超越了现有Transformer变体。
（2）语言建模
ToST 可以扩展并适用于多种任务场景，包括因果语言建模。针对语言建模，ToST采用了一种因果版本的TSSA，在多个数据集上实现了高效的预测能力。此外，即使在参数规模扩大的情况下，ToST依然保持了优异的时间和内存效率。
图：NLP 任务中的表现
4 有原理支持的模型设计
由于 ToST 是通过展开从学习目标中推导出来的，我们可以以有原理支持的方式逐层分析学习到的模型行为。
图： ToST 模型不同层次的 TSSA 输出的变分压缩项
5学习表示的可解释性分析
l ToST通过统计量驱动的注意力机制，使每一层的注意力操作更加透明，便于解释和分析。其分组机制展现了token特征在低维空间中的聚类效果，直观反映了模型的决策过程。
ToST 在无需复杂的自监督训练的情况下，自然生成了可解释的注意力模式。
图： 倒数第二个全局类注意力层中最后一个头部的 [CLS] token 注意力图的比较
图： 在 TSSA 层中，可视化估计的隶属矩阵 Π 的每一行（经过重塑后）
可能的未来影响
1. 大模型的高效化
随着语言模型、生成模型和多模态模型规模的持续扩展，计算效率成为核心瓶颈。ToST展示的统计量驱动注意力机制，为实现线性复杂度的大模型提供了可能性。
2. 推动Transformer的普适化应用
高效的注意力机制使得ToST能够更广泛地应用于资源受限场景，如边缘计算、实时系统、嵌入式设备等。这为人工智能技术从中心化计算向分布式、边缘化方向的发展奠定了基础。
3. 多模态融合的可能性
ToST的低复杂度机制为处理多模态长序列任务提供了新的技术框架，使未来多模态大模型在生成、分析和交互中的效率显著提升。
4. 促进跨学科应用
ToST对数学理论与工程实现的有机结合，不仅在传统AI任务中表现突出，还可能推动其在新兴领域（如量子计算、生物信息学和材料设计）中的应用。
Token Statistics Transformer (ToST)重塑了注意力机制，它不需要计算 token 之间的两两交互，而是基于投影后 token 特征的二阶矩统计量构建，其基于数据压缩和表示学习的理论原则目标，为Transformer的发展开辟了全新路径。其基于统计特性的低复杂度设计，不仅优化了现有架构的性能，还为未来大模型的高效化、多模态融合和跨学科应用提供了重要启示。