中国基因网您的位置:首页 >医学 >

基于生物神经元的计算机芯片可以帮助模拟更大和更复杂的脑模型

2012年,计算机学家达门德拉·莫达使用强大的超级计算机来模拟500层多十亿的神经元,更甚至的活动,比人脑的85个十亿左右的神经元。这是近十年工作的高潮,因为Modha从模拟啮齿动物和猫的大脑发展到人类规模的东西。

基于生物神经元的计算机芯片可以帮助模拟更大和更复杂的脑模型

模拟消耗了大量的计算资源--150万个处理器和1.5PB(150万千兆字节)的内存 - 并且仍然令人痛苦地慢,比大脑计算慢1500倍。Modha估计,在生物实时运行它需要12千兆瓦的能量,大约是胡佛水坝最大输出能力的六倍。“然而,这只是大脑所做事情的动画片,”加州北部IBM Almaden研究中心脑部启发计算的首席科学家莫达说。仿真无法复制人脑的功能,人体大脑的功能与20瓦的灯泡大致相同。

自21世纪初以来,改进的硬件和实验和理论神经科学的进步使研究人员能够创建更大,更详细的大脑模型。但是,这些模拟越复杂,它们就越多地遇到传统计算机硬件的局限,正如Modha的耗电模型所示。

这是我们可以采取的最雄心勃勃的技术难题之一 - 对大脑进行逆向工程。

-Mike Davies,英特尔

Modha的人脑模拟是在劳伦斯利弗莫尔国家实验室的蓝色基因/ Q红杉超级计算机上运行的,这是一个非常强大的传统计算机硬件集合:它由许多传统的计算机芯片,含有数百万个晶体管的指甲大小的硅晶片提供动力。管理传统计算机芯片结构和功能的规则与我们的大脑完全不同。

但是,计算机“思考”与我们的大脑非常不同的事实确实使它们在数字运算等任务中具有优势,同时使它们在其他领域显得非常原始,例如理解人类语言或从经验中学习。如果科学家想要模拟一个能够与人类智能相匹配的大脑,更不用说对它进行遮蔽,那么他们可能必须从更好的构建块开始 - 计算机芯片受到我们大脑的启发。

所谓的神经形态芯片复制了大脑的结构 - 也就是说,它们使用类似神经元动作电位的“神经元尖峰”相互交谈。这种尖峰行为使得芯片能够消耗非常少的功率并且即使在拼接成非常大规模的系统时也保持功率效率。

“我脑海中最大的优势就是可扩展性,”安大略省滑铁卢大学的理论神经科学家Chris Eliasmith说。在他的“如何建立大脑”一书中,Eliasmith描述了他创建并命名为Spaun的大脑功能的大型模型。1当Eliasmith运行Spaun的初始版本时,有250万个“神经元”,它运行速度比生物神经元慢20倍,即使模型运行在最好的传统芯片上也是如此。“每次我们添加几百万个神经元时,它就会慢得多,”他说。当Eliasmith在数字神经形态硬件上运行他的一些模拟时,他发现它们不仅速度快,而且功率效率也提高了约50倍。更好的是,当Eliasmith模拟更多神经元时,神经形态平台变得更有效率。这是神经形态芯片旨在复制自然的方式之一,当大脑从蠕虫脑中的300个神经元扩大到人类大脑的850亿左右时,大脑的功率和效率似乎会增加。

神经形态芯片在消耗很少功率的同时执行复杂计算任务的能力引起了科技行业的关注。神经形态芯片的潜在商业应用包括节能超级计算机,低功率传感器和自学机器人。但是生物学家们有一个不同的应用:构建一个功能完整的人类大脑复制品。

今天的许多神经形态系统,从IBM和英特尔开发的芯片到作为欧盟人脑计划一部分创建的两个芯片,也可供研究人员使用,他们可以远程访问它们来运行他们的模拟。研究人员正在使用这些芯片创建单个神经元和突触的详细模型,并破译单元如何组合在一起以创建更大的脑子系统。这些芯片允许神经科学家测试视觉,听觉和嗅觉如何在实际硬件上工作的理论,而不仅仅是软件。最新的神经形态系统也使研究人员能够开始复制人类思考和学习方式的更具挑战性的任务。

它还处于早期阶段,真正释放神经形态芯片的潜力将需要理论,实验和计算神经科学家以及计算机科学家和工程师的共同努力。但最终的目标是一个伟大的目标 - 无非是弄清楚大脑的各个组成部分如何共同创造思想,情感,甚至是意识。

“这是我们可以采取的最雄心勃勃的技术难题之一 - 对大脑进行逆向工程,”英特尔神经形态计算实验室主任,计算机工程师迈克戴维斯说。

这都是关于建筑的

加州理工学院的科学家Carver Mead在20世纪80年代创造了“神经形态”一词,他注意到,与作为现代计算机芯片构件的数字晶体管不同,模拟晶体管更接近于神经元的生物物理学。具体而言,模拟电路中非常微小的电流 - 如此微小以至于电路有效地“关闭” - 表现出类似于离子通过生物神经元中的通道流动的动态,此时该流动不会导致动作电位。

在Mead和他的同事们的努力下,Giacomo Indiveri决定在20世纪90年代中期在加州理工学院进行博士后研究。现在,作为瑞士苏黎世大学的一名神经形态工程师,Indiveri开设了为数不多的研究小组之一,继续使用Mead的低电流模拟电路方法。Indiveri和他的团队手工设计芯片的布局,这个过程可能需要几个月的时间。“这是铅笔和纸的工作,因为我们试图提出实现神经动力学的优雅解决方案,”他说。“如果你做模拟,它仍然是一门艺术。”

如果你在做模拟,它仍然是一门艺术。

-Ziacomo Indiveri,苏黎世大学

一旦他们完成布局,他们就会将设计通过电子邮件发送给代工厂 - 这是一家制造智能手机和电脑芯片的精密金属铸造工厂。最终结果看起来大致像智能手机芯片,但它的功能就像一个“神经元”网络,通过几个节点传播电力尖峰。在这些模拟神经形态芯片中,信号通过可以改变其强度的实际电压尖峰来中继。就像在大脑中一样,信息通过来自不同神经元的尖峰的时间传递。

“如果你向神经生理学家展示其中一个神经元的输出,他将无法告诉你它是来自硅神经元还是来自生物神经元,”Indiveri说。

这些硅神经元代表了复制神经系统有机湿件的不完美尝试。生物神经元是混合的模拟 - 数字系统;它们的动作电位模仿数字硬件的离散脉冲,但它们也是模拟的,因为神经元中的电压电平会影响被传输的信息。

模拟神经形态芯片具有与生物神经元的物理行为非常相似的硅神经元,但它们的模拟性质也使得它们传输的信号不太精确。虽然我们的大脑已经发展到可以弥补其不精确的成分,但研究人员却将基本概念纳入了数字领域。像IBM和英特尔这样的公司专注于数字神经形态芯片,其硅神经元复制信息在生物神经元中流动的方式,但具有不同的物理特性,原因与传统数字芯片占据了绝大多数计算机和电子产品的原因相同 - 更高的可靠性和易于制造。

但是这些数字芯片在捕捉大脑架构的方式上保持着神经状态。在这些数字神经形态芯片中,尖峰以信息包的形式出现,而不是电压变化的实际脉冲。“这与我们通常在计算机上设计的任何东西都截然不同,”英特尔戴维斯说。

无论尖峰采取什么形式,系统只在输入达到一定阈值时才传递信息,允许神经形态芯片啜饮而不是消耗功率。这类似于大脑的神经元在准备好时而不是在计时器的命令下进行通信的方式。另一方面,常规芯片主要是线性的,在存储数据的存储器硬件和在严格的内部时钟的控制下计算数据的处理器之间穿梭数据。

当Modha设计IBM的神经形态芯片,名为TrueNorth时,他首先分析了大脑的长距离接线图,它描绘了不同大脑区域在猕猴和人类中如何相互连接。2“它真正开始告诉我们有关长距离连接,短距离连接以及神经元和突触动力学的信息,”他说。到2011年,Modha创造了一个包含256个硅神经元的芯片,其规模与蠕虫C. elegans的大脑相同。使用最新的芯片制造技术,Modha更紧密地填充在神经元中以缩小芯片,并将这些芯片中的4,096个拼凑在一起导致2014年发布的TrueNorth,其中包含100万个合成神经元 - 关于蜜蜂大脑的规模 - 和耗电量比传统芯片低几百倍。3

诸如TrueNorth之类的神经形态芯片在其人工神经元之间具有非常高的连通性,类似于在哺乳动物大脑中看到的。大规模平行的人类大脑的850亿个神经元通过大约1千万亿个突触高度相互连接。

TrueNorth相当简单 - 包含连接其100万个神经元的2.56亿个“突触” - 但通过拼接多个TrueNorth芯片,Modha创建了两个更大的系统:一个模拟1600万个神经元和40亿个突触,另一个拥有6400万个神经元和160亿个突触。目前,各机构的200多名研究人员可以免费使用TrueNorth。

除了神经形态芯片的高度互联和尖峰特性之外,它们还复制了生物神经系统的另一个特征:与将处理器和内存保持在不同位置的传统计算机芯片不同,神经形态芯片往往有许多小处理器,每个小处理器都很小一定量的本地内存。这种配置类似于人脑的组织,其中神经元同时处理数据存储和处理。研究人员认为,这种神经形态结构的元素可以使用这些芯片构建的模型能够更好地复制人类的学习和记忆。

学习能力是英特尔Loihi芯片的焦点,该芯片于2017年9月首次公布,并于去年1月份与研究人员分享.4设计用于模拟约130,000个神经元和1.3亿个突触,Loihi采用了尖峰定时相关塑性模型(STDP) ,一种突触强度在大脑中通过突触前和突触后峰值的相对时间介导的机制。如果一个神经元在第二个神经元之前发射,则它会加强与第二个神经元的连接,而如果点火顺序相反则连接强度会减弱。突触强度的这些变化被认为在人脑的学习和记忆中起重要作用。

领导Loihi发展的戴维斯表示,目的是捕捉我们的大脑如此擅长的快速,终身学习,目前的人工智能模型不是。与TrueNorth一样,Loihi正在向各种研究人员发放。戴维斯说,随着越来越多的团体使用这些芯片来模拟大脑,“希望能够解释一些我们在大脑中看到的惊人能力的一些更广泛的原则可能会变得清晰。”

用于神经科学的神经形态学

对于他们所有潜在的科学应用,TrueNorth和Loihi并非专为神经科学家而设。它们主要是研究芯片,旨在测试和优化神经形态架构,以提高其功能和易用性,以及探索各种潜在的商业应用。从语音和手势识别到高能效机器人和设备上的机器学习模型,可以为更智能的智能手机和自动驾驶汽车提供动力。另一方面,欧盟的人脑项目开发了两种神经形态硬件系统,其明确目标是了解大脑。

BrainScaleS于2016年推出,5将大量芯片上的许多芯片组合在一起 - 更像超薄飞盘而不是指甲。每个晶圆包含384个模拟芯片,其工作方式与Indiveri模拟芯片的加速版本相同,优化速度而非低功耗。他们一起模拟每个晶圆约200,000个神经元和4900万个突触。

建立大脑的功能模型

神经形态技术正在为更大,更复杂的大脑模型提供动力,这些模型已经开始通过现代超级计算达到极限。Spaun就是一个例子。250万个神经元模型概括了人类大脑的几个特征的结构和功能,以执行各种认知任务。就像人类一样,它可以更容易地记住短序列而不是长序列,并且更好地记住前几个和最后几个数字而不是中间数字。虽然研究人员已经在传统硬件上运行了当前Spaun模型的一部分,但神经形态芯片对于有效执行现在正在开发的更大,更复杂的版本至关重要。

 

BrainScaleS与欧盟的其他神经形态系统SpiNNaker一起,受益于人脑项目的大型理论,实验和计算神经科学家社区。与该社区的互动指导了可能有助于科学家的新功能的增加,并允许来自两个系统的新发现迅速回归现场。

20年前,英国曼彻斯特大学的计算机工程师史蒂夫·弗伯(Steve Furber)构思了SpiNNaker,并且他已经设计了十多年。Furber说,在他们和SpiNNaker的小型数字芯片工作了大约六年后,他和他的同事们在2011年实现了全部功能。从那以后,研究团队一直在将芯片组装到规模不断扩大的机器中,最终在百万处理器机器于2018年末开始运营.6 Furber预计SpiNNaker应该能够实时模拟小鼠大脑中的1亿个神经元 - 传统的超级计算机会做大约一千倍的速度。

目前,学术实验室可免费使用欧盟人脑项目系统。神经科学家开始在SpiNNaker硬件上运行他们自己的程序,以模拟大脑特定子系统中的高级处理,例如小脑,皮质或基底神经节。例如,研究人员正试图模拟一个小的重复结构单元 - 皮质微柱 - 发现在大脑的外层,负责大多数高级功能。“微柱很小,但它仍然有80,000个神经元和25亿个突触,因此建模并不是一件小事,”Furber说。

接下来,他补充说,“我们开始思考系统级别而不仅仅是单个大脑区域”,更接近于为人类智能提供动力的850亿神经元器官的全尺寸模型。

模仿大脑

达特茅斯学院的计算神经科学家理查德格兰杰说,使用神经形态硬件对大脑进行建模可以揭示神经元计算的基本原理。神经科学家可以非常详细地测量神经元的生物物理和化学特性,但很难知道哪些特性对大脑的计算能力实际上很重要。尽管神经形态芯片中使用的材料与人脑的细胞物质完全不同,但使用这种新硬件的模型可以揭示大脑如何穿梭和评估信息的计算原理。

在硅片中复制简单的神经回路有助于Indiveri发现大脑设计的隐藏优势。他曾经为一名博士生提供了一个神经形态芯片,该芯片具有模拟尖峰频率适应的能力,这种机制允许人类习惯于持续的刺激。学生在芯片上留出空间,决定不实施此功能。然而,当他努力降低芯片的带宽和功率要求时,他得到的东西看起来与他已经移除的尖峰频率适应性相同。Indiveri和他的同事们还发现,长距离发送模拟信号的最佳方式是将它们表示为不连续变量流,例如,作为尖峰的序列或训练,就像神经元一样。

神经形态硬件还可以让研究人员测试他们关于大脑功能的理论。康奈尔大学计算神经科学家Thomas Cleland建立了嗅球的模型,以阐明支撑我们嗅觉的原理。使用Loihi芯片使他能够建立足够快速模仿生物学的硬件模型。当从化学传感器给出数据时 - 作为我们的气味受体的人工版本 - 系统学会了在暴露于一个样品后识别气味,超越传统的机器学习方法并且更接近人类的优质嗅探器。

戴维斯说:“通过成功地映射这样的东西并实际显示它在神经形态芯片中工作,这是一个很好的确认,你真正了解系统。”

克莱兰的嗅觉模型并不总是像预期的那样成功,但那些“失败”的实验同样具有启发性。气味输入有时与传感器看起来不同于模型预测,可能是因为气味比预期更复杂或更嘈杂,或者因为温度或湿度干扰传感器。“输入变得有些不可思议,而且我们知道这并不会愚弄我们的鼻子,”他说。研究人员发现,通过关注气味输入中先前被忽视的“噪音”,嗅觉系统模型可以正确地检测出更多种类的输入。结果导致Cleland更新了他的嗅觉模型,研究人员现在可以查看生物系统,看看他们是否使用这种以前未知的技术来识别复杂或嘈杂的气味。

Cleland希望扩大他的生物实时模型,以分析来自数百甚至数千个传感器的气味数据,这可能需要数天才能在非神经形态硬件上运行。“只要我们可以将算法放在神经形态芯片上,它就可以很好地扩展,”他说。“对我来说最令人兴奋的是能够运行这些16,000个传感器数据集,看看当我们扩大规模时算法有多好。”

SpiNNaker,TrueNorth和Loihi都可以在生物学中以相同的速度运行神经元和大脑的模拟,这意味着研究人员可以使用这些芯片来识别刺激 - 例如图像,手势或声音 - 当它们发生时,处理并立即回复。除了允许Cleland的人工鼻子处理气味外,这些功能还可以使机器人实时感知并对环境作出反应,同时消耗很少的电力。这是大多数传统计算机的巨大进步。

对于某些应用程序,例如可能需要数周,数月甚至数年的建模学习过程,有助于提高速度。这就是BrainScaleS的用武之地,其运行速度比生物大脑快1000-1000倍。而且系统变得越来越先进。它正在升级到BrainScaleS2,与神经科学家密切合作开发新的处理器。

新系统将能够更好地模拟学习和模拟化学过程,例如多巴胺对学习的影响,这些过程在其他神经形态系统中没有被复制。研究人员表示,它还能够模拟各种神经元,树突和离子通道,以及结构可塑性的特征,如突触的丧失和生长。也许有一天,该系统甚至可以近似人类的学习和智力。“我认为,了解生物智能是迄今为止本世纪最大的问题,”海德堡大学生物物理学家Johannes Schemmel帮助开发了BrainScaleS。

当涉及到灵活性和学习能力时,当前的人工智能系统仍然在追踪大脑。“一旦他们看到了猫的1000张图像,谷歌的网络变得非常擅长识别猫的图像,但如果你向我的两岁的孙子展示一只猫,他将会识别猫的余生,”弗伯说。

随着Loihi将于今年晚些时候推出,Eliasmith希望能够为他的Spaun模型增加更多高级认知和学习行为。他说,他特别高兴能够准确地模拟人类如何快速轻松地学习认知任务,例如新的棋盘游戏。像AlphaGo这样的着名AI游戏玩家必须为数以百万计的游戏建模,以学习如何发挥出色。

目前还不清楚复制人类智能是否仅仅是建立更大更详细的大脑模型的问题。“我们只是不知道我们对大脑的思考方式是否存在根本上的缺陷,”伊莱亚史密斯说。“我们不知道在我们有更好的硬件能够实时运行数亿个神经元之前我们能走多远,”他说。“这就是我认为神经形态将帮助我们实现的目标。”

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如有侵权行为,请第一时间联系我们修改或删除,多谢。

推荐内容