Navigation menu

新闻中心

中国科学研究人员已经开发了像大脑这样的手腕

中国经济网络保留的所有权利 中国经济网络新媒体矩阵 在线音频 - 视觉节目许可证(0107190)(北京ICP040090) 中国科学院自动化研究所的记者(9月8日)发现,最近,Li Guoqi和Xu Bo Bo Team与相关单位合作,成功形成了类似脉搏的“ Spikingbrain-1.0” Pulse。该模型基于团队的原始“内源性复杂性”理论,并在国内GPU平台上完成了完整处理的培训和推理,大型模型的效率和速度的显着提高,以有效地处理额外的文本或数据序列,并显示出开发建筑生态系统的可行性。主变压器的当前模型将非常慢,当处理超长的文章或对话时,您将是昂贵的,这会导致大量资源消耗。可以说,当前大型Mo的快速发展DEL是由大量资源消耗驱动的。因此,紧急开发出具有低功耗和高效率的大型模型的新途径。与当前大尺寸模型(变压器体系结构)的主要体系结构不同,“ Shushi 1.0”采用了脑神经元的内部工作机理,并清楚地显示了一条新的可行途径,以继续改善模型的复杂性和性能。该模型仅需要基本模型的数据量的大约2%,即可在许多语言理解任务和活动中实现与许多基本模型相当的性能。这是我的国家第一次建议我的国家是一个大规模的线性基本体系结构模型,并为诸如GPU计算能力群中的大脑之类的手腕模型建立了训练框架和远见。超长的订单处理能力在建模方案(例如法律和医疗文件考试)中具有显着的超长任务效率的潜在效率,复杂的多代理模拟,高能物理实验,DNA序列分析和动态轨迹的分子。此时发布的巨大模型为开发新一代人工智能提供了一条新的技术途径,并将激发下一代神经形态计算理论和芯片设计,并以较低的电力消耗。 (CCTV记者Shuai Junquan和Chu Erjia)