研究人员提出脑启发的神经环路演化策略
来源:自动化所 2023-10-03 19:03
近日,中国科学院自动化研究所研究员曾毅带领的类脑认知智能团队,在《美国国家科学院院刊》(
近日,中国科学院自动化研究所研究员曾毅带领的类脑认知智能团队,在《美国国家科学院院刊》(PNAS)上,发表了题为《脑启发神经环路演化赋能脉冲神经网络》(Brain-inspired neural circuit evolution for spiking neural networks)的研究成果。该团队受经过自然演化的生物脑神经环路结构呈现出的多样性以及脉冲时序依赖可塑性机制启发,提出了脑启发的神经环路演化策略,助力研发更具生物合理性和高效性的类脑脉冲神经网络。
在生物神经系统中,不同类型的神经元可自组织成连接模式各异的神经环路,以在结构上支持实现丰富的认知功能。人脑中不同类型的神经环路以及自适应能力促进了人类感知、学习、决策及其他高等认知功能的实现。然而,当前的脉冲神经网络设计范式多基于深度学习领域的结构启发。这些结构由前馈连接占据主导地位,而未考虑不同类型的神经元,阻碍了脉冲神经网络在复杂任务上发挥潜力。从计算视角挖掘生物神经环路的丰富动力学特性及意义,并应用于当前类脑脉冲神经网络的结构从而提升人工智能系统的能力,是深刻且具有开放性的挑战。
该团队以前馈和反馈连接与兴奋性和抑制性神经元结合为基础,为智能演化的计算建模提供了更具生物合理性的演化空间。该研究利用神经元的局部脉冲行为,通过脉冲时序依赖可塑性的局部规则,自适应地演化出通过自然演化生成的功能性神经环路(如前向兴奋、前向抑制、反馈抑制和侧向抑制),并结合全局误差信号更新突触权重。该研究通过融入演化生成的神经环路,构建了用于图像分类和强化学习与决策任务的类脑脉冲神经网络。该工作利用受脑启发的神经环路演化策略(NeuEvo)以及演化出的丰富的类神经环路类型,演化后的类脑脉冲神经网络增强了感知、强化学习与决策能力。
NeuEvo在CIFAR10、DVS-CIFAR10、DVS-Gesture和N-Caltech101数据集上取得投稿时已知结果的最先进性能,并在ImageNet上取得脉冲神经网络上代表性的准确率。结合在线和离线深度强化学习算法,NeuEvo实现了与人工神经网络相媲美的性能。演化后的类脑脉冲神经环路为具有复杂功能的网络演化与认知能力涌现奠定了基础。
自动化所研究员曾毅表示:“团队长期聚焦类脑认知智能的研究,基础理论就是类脑可塑性理论体系,这是我们研制并发布的类脑认知智能引擎‘智脉BrainCog’的理论核心。这个体系具有多尺度和多维度的特征。在空间尺度,是更为熟知的微观尺度离子通道到神经元之间的交互,介观讲神经微环路,宏观是脑区尺度的协同;而在时间尺度,是学习、发育与演化的协同。时间尺度和空间尺度的深度融合塑造了生物大脑和类脑智能的低能耗、高性能、高智能。近年来,该团队在学习、发育和演化融合方面取得一系列进展与认知,同时该成果完善了这个体系。此次研究以计算建模的方式模拟了自然结构演化中的用进废退,并以此为基础自主演化出丰富的神经环路类型。这些环路类型在自然生物的大脑中都是存在的,实验证明了这些结构可更好地帮助解决学习与决策等智能相关的核心问题。自然演化中存在即合理,该研究为通用类脑认知智能的研究提供了思路。”
利用脑启发神经演化构建的类脑脉冲神经网络
版权声明 本网站所有注明“来源:生物谷”或“来源:bioon”的文字、图片和音视频资料,版权均属于生物谷网站所有。非经授权,任何媒体、网站或个人不得转载,否则将追究法律责任。取得书面授权转载时,须注明“来源:生物谷”。其它来源的文章系转载文章,本网所有转载文章系出于传递更多信息之目的,转载内容不代表本站立场。不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。