
「乘法变加法」!MIT清华校友全新方法优化Transformer:Addition is All You Need
「乘法变加法」!MIT清华校友全新方法优化Transformer:Addition is All You NeedTransformer计算,竟然直接优化到乘法运算了。MIT两位华人学者近期发表的一篇论文提出:Addition is All You Need,让LLM的能耗最高降低95%。
来自主题: AI技术研报
3916 点击 2024-10-08 17:32
Transformer计算,竟然直接优化到乘法运算了。MIT两位华人学者近期发表的一篇论文提出:Addition is All You Need,让LLM的能耗最高降低95%。