让数学家痛苦了100年的微分方程式的难题,被MIT解决了!

这个微分方程可以模拟神经之间通过突触的相互作用,也就是大脑的信息传递。现实中有各种各样的应用场景,比如自动驾驶、大脑和心脏监测等。

但是,以前这个微分方程很复杂,而且数据越多,计算量就爆炸性地增加。

模拟多个神经元之间的信息传递还不错啊。但是如果我们像人脑一样有数百亿神经元数百兆突触

现在,研究者们找到了这个微分方程的近似解析解,一下子把计算速度提高了数倍。

论文的第一作者,自1907年以来,一直没有找到这个微分方程的解析解。

一鼓作气,论文第一作者又说:

也有这样的评论。

Nature MI最新一期刊登了相关论文。

到底是怎样的一个数学难题,会让网友产生如此大的反应,一起看看~

解决了什么难题呢?这次的MIT的突破是,发现了两个神经元之间的突触相互作用的微分方程式的近似解析解。

为了模拟神经之间通过突触的相互作用,模拟传递的活动电位是必要的。

研究者们首先用去年制作的“液体”神经网络(LTC)模拟了这一现象。

如下图所示,x(t)求突触后神经元电位的解,以前需要直接求解微分方程。

BUT先生很快发现,尽管LTC神经网络模型的仿真很好,但常微分方程(ODE)的计算还不够快。

也就是说,如果使用左边的公式束,即使是给定的时间t也可以求x(t),但这不仅仅是慢,在求解过程中,每次重复计算,误差都会被放大。

但是,如果能求出x(t)的解析解,也就是右边不含x(t)这个变量的公式,计算效率就会加倍。

但是,这种求解常微分方程dv/dt=glv(t)+S(t)的方法,自1907年提出以来,还没有人寻求解析解。

通过一次计算后,研究人员终于得出了这个微分方程的近似解析解,很好地近似x(t)的数值:

重要的是解析解被“一口气”求得结果,研究者们认为比通常的微分方程式模型快1~5倍。

在这个新的近似解的基础上,研究者们提出了一个名为“CfC”(closed-form continuous-depth networks)的模型,进一步提高了计算效率。可以减少微分方程的近似误差

它与原始微分方程非常相似

那么在CfC的提案中,解决了什么呢

为了说明CfC的作用,作为其基础,需要去年MIT构筑的“液体”神经网络(LTC)

▲图元:MIT

“液体”神经网络是为了简化视频处理、金融数据、医疗诊断等连续时间强相关问题的计算而设计的。

这样的问题往往与时间关联性很高(股票和视频等变量会随着时间不断变化),很难预测其变化,需要求解非常复杂的偏微分方程。

为了解决这一问题而出现的是“液体”神经网络,它提高了在这种场合下的计算效率。

然而,“液体”神经网络的构思,在小物种的大脑,非常灵活和适应性,但计算量不少。

神经元和突触的数量增加的话,计算量太多,电脑可能会“慢”。

今年的MIT带来了CfC神经网络

与“Liquid”神经网络相比,CfC可以说,“Liquid”网络具有更高的规模和可扩展性,同时保持了“Liquid”网络的灵活性、因果性、稳定性和可解释性。

换句话说,“CfC”变得更快、更强,可以应对更多的任务。

论文测试结果表明,[CfC]在一系列任务中的性能优于SOTA神经网络。

例如,对8000名患者进行样本调查的医学预测任务,比连续潜伏模型快220倍。

其中,CfC通过运动传感器识别人的运动,在模仿步行机器人的物理力学模型的构筑和基于事件的连续图像处理中,具有相当的加速度和性能。

如果这个被应用到现实中,有无人驾驶和无人机导航,各种各样的预测任务。

另外,根据MIT消息,CfC神经网络也有证据表明,在不学习人工智能研究最基本的课题之一的情况下,可以将学习到的技能转移到全新的环境中。

(没错,CfC也不可轻视)

研究小组研究了神经元之间的相互作用,接下来他们会做什么呢

论文的第一作者、CSAIL研究所附属机构的Ramin Hasani说:。

根据神经科学家的估算,人脑的神经元数量在1000亿个左右,但不知道团队是否会挑战“模仿人脑”这一难题(手动狗头)

现在,CfC模型被开源化。想模拟问题计算的人,请一定要看看。

CfC项目地址:https://github.com/raminmh/CfC

论文地址:https://www.nature.com/articles/s42256-022-00556-7