该工作由忆生科技创始团队成员及旗下研究人员深度参与,由多所学校与机构的研究者共同完成,包括加州大学伯克利分校、宾夕法尼亚大学、密歇根大学、清华大学、忆生科技、香港大学、约翰·霍普金斯大学等。 忆生科技创始人马毅教授已受邀在今年四月的ICLR大会上就和此项成果相关的一系列白盒神经网络相关工作,进行为时
论文名称:Scaling White-Box Transformers for Vision GitHub主页: https://rayjryang.github.io/CRATE-alpha/ 论文地址:https://arxiv.org/pdf/2405.20299 顶会收录:NeurIPS20
论文名称:White-Box Transformers via Sparse Rate Reduction: Compression Is All There Is? GitHub:https://ma-lab-berkeley.github.io/CRATE/ 地址:https://arxiv.o
该框架通过在特征空间中建立数据分布与线性判别表示(Linear Discriminative Representation,LDR)之间的闭环转录,实现数据的有效编码和解码。LDR由多个独立的多维线性子空间组成,每个子空间对应一个数据类别。 论文名称:CLOSED-LOOP DATA TRANSCR
论文名称:Learning Diverse and Discriminative Representations via the Principle of Maximal Coding Rate Reduction 地址:https://arxiv.org/abs/2006.08558 论文全文:h
2025年2月,由忆生科技创始团队及忆生科技旗下研究人员参与的首个基于统计学的线性注意力机制ToST工作,被ICLR2025高分录取为Spotlight。忆生科技创始团队马毅已受邀在今年四月的ICLR大会上就和此项成果相关的一系列白盒神经网络相关工作,进行为时一小时的主题报告(Keynote)。知名
2025年2月12日上午,香港民政及青年事务局(民青局)副局长梁宏正一行访问香港大学青年科创学院前海基地,并重点调研了由香港大学教授马毅创立的忆生科技(深圳)有限公司(Engram)。此次调研旨在深入了解香港青年科创企业在大湾区的发展成果及需求,进一步推动深港协同创新生态建设。 忆生研发同学向梁宏正
2025年1月,科学公益机构北京市海淀区智识前沿科技促进中心(简称“智识学研社”,《知识分子》《赛先生》出品方)举行了年度科学盛事“2025新年科学演讲暨科学四十人圆桌”,本次大会主题为“AI for Science,AI for Good”。忆生科技创始人、香港大学