微软亚研院最新研究，有点震撼： 他们开发了一个Transformer变体，居然将其token拓展到了10亿。 什么概念？ 目前最强的GPT-4也才最大支持一次处理32k token，相当于50页文字。