中科院团队发布首个国产类脑脉冲大模型 SpikingBrain-1.0,推理效率达百倍提速

40 阅读2分钟

当全球 AI 竞赛仍在为更大的算力和数据量内卷时,中国科学院自动化研究所突破性地提出了「内生复杂性」的解题思路。其最新发布的「瞬悉1.0(SpikingBrain-1.0)」类脑脉冲大模型,借鉴大脑神经元的工作机制,成功绕过了传统 Transformer 架构的能效瓶颈,为长序列处理这一业界难题提供了全新的解决方案。
瞬悉1.0 推理时具备常数级复杂度,处理百万级长度序列时比传统模型快 26 倍以上。仅需 2% 的预训练数据就能达到主流模型性能,其动态阈值脉冲化技术实现了超过 69% 的稀疏度,为终端设备部署打开了可能性。

教程链接:go.openbayes.com/ZpmqW

使用云平台:OpenBayes
openbayes.com/console/sig…

登录 OpenBayes.com,在「公共教程」页面,选择一键部署 「瞬悉 1.0:基于内生复杂性的类脑脉冲大模型」教程。

image.png 页面跳转后,点击右上角「克隆」,将该教程克隆至自己的容器中。

在当前页面中看到的算力资源均可以在平台一键选择使用。平台会默认选配好原教程所使用的算力资源、镜像版本,不需要再进行手动选择。点击「继续执行」,等待分配资源。

待系统分配好资源,当状态变为「运行中」后,点击「API 地址」边上的跳转箭头,即可跳转至 Demo 页面。

在对话框输入问题即可开始进行对答。

「瞬悉 1.0(SpikingBrain-1.0)」核心功能特点在于通过模仿大脑神经元的工作机制,在处理超长序列任务时,能实现惊人的效率和速度提升,同时大幅降低能耗和数据需求。这里我们以「Show me a code snippet of a website's sticky header in CSS and JavaScript.」为例进行提问,效果如下图所示: