O现代人工智能的核心挑战之一可以通过一辆旋转的黄色校车来展示。当在乡村道路上正面观看时，深度学习神经网络自信而正确地识别出公交车。然而，当它横躺在马路对面时，算法相信——再一次高度相信——它是一台扫雪机。从下面和角度看，这绝对是一辆垃圾车。
问题在于背景。当新图像与训练图像集有足够的不同时，深度学习视觉识别就会出错，即使这种差异归结为简单的旋转或阻塞。而环境生成，反过来，似乎依赖于一组相当显著的布线和信号生成特征——至少在人脑中是这样的。
Matthias Kaschube通过建立描述实验观察到的大脑活动的模型来研究连接。Kaschube和他在法兰克福高级研究所(Frankfurt Institute for Advanced Studies)、马克斯·普朗克佛罗里达神经科学研究所(Max Planck Florida Institute for Neuroscience)、明尼苏达大学(University of Minnesota)等机构的同事发现了许多与工程师构建的电路形成鲜明对比的特征:自发活动和相关性，动态环境的产生，不可靠的传输，直接噪声。这些似乎是被一些人称为宇宙中最复杂的物体——大脑的基本特征。
计算机电路和大脑电路之间最大的区别是什么？
我们的计算机是数字设备。它们用可以开或关的二进制单元操作，而神经元是模拟设备。它们的输出是二元的——一个神经元在给定的时刻是否会发出信号——但它们的输入是可以分级的，它们的活动取决于许多因素。同样，我们构建的计算系统，就像计算机一样，是确定性的。你提供一个特定的输入，然后得到一个特定的输出。当您一次又一次地提供相同的输入时，您将得到相同的输出。这在大脑中是非常不同的。在大脑中，即使你选择了完全相同的刺激，每次试验的反应都是不同的。
大脑中这种可变响应来自哪里？
有各种各样的假设。例如，有不可靠的突触传输。这是工程师通常不会在系统中加入的东西。当一个神经元处于活跃状态时，一个信号沿着轴突传递，这个信号并不能保证能到达下一个神经元。它通过突触的概率只有一半，甚至更小。这就给系统带来了很多噪音。
使响应有点嘈杂可以帮助我们忽略一些相关的一些功能。
另一个因素是大脑其他部分的持续活动。例如，视觉皮层会被视觉场景激活，但它也会从大脑其他区域接收大量信息。由于有很多交叉连接，这些大脑的其他部分可以在任何给定的时间影响视觉皮层的活动模式。这可以相当显著地调节传入信号。这种调制的一部分可能在生成上下文和编码期望时有用。你听到狗叫，你转身去找狗。我们越来越明白，大脑的反应可变性实际上是有意义的，包含重要的背景信息或背景。
自发活动扮演什么作用？
即使您没有任何可视输入，Visual Cortex也不静默。它表明了广泛和强烈的活动模式，有时与具有真实视觉刺激的活动一样强烈，并且可以与结构相似。鉴于这种相似之处，自发活动可能代表视觉想象的东西。你看到了一些东西，但同时，你在视觉上考虑你昨天看到的东西。自发活动可能有助于大脑中的试验变异性。
我们是否了解大脑噪音的本质?
There’s debate about whether the fluctuations that we see in experiments are really meaningful and contain information that we don’t understand yet, or whether they’re just noise arising from the stochasticity of biochemical processes and are something that the brain needs to ignore or average out. To arrive at a better model of ongoing fluctuations we have to understand its sources. We can, for instance, do this by looking at animal behavior. Neural activity in animals that are processing a visual stimulus depends on whether they are moving, and whether they are alert. It helps if you can record from many neurons, so that you can understand the contribution to the variability in one part of the cortex by the activity of other parts. We will only be able to understand this variability once we’re able to record from a large part of the brain simultaneously.
真正的噪音可以有用吗？
大脑并不完全决定性可能是有用的，每次我们看看我们对其进行稍微不同的过程一样。对相同刺激的稍微不同的响应可以帮助我们检测场景的不同方面。但是，在世界上有很多细节，与我们无关。视觉场景可以有数百和数千个功能，很多都无关紧要。使响应有点嘈杂可以帮助我们忽略一些相关的一些功能。考虑进化，其中随机突变之后选择最适合。将此作为比喻，可能是大脑增加噪音，以便在那里进行不同的表现出来。并且通过探索潜在表示的空间，大脑可能会试图找到最适合当前背景的那个。噪音可以促进此搜索。
发育中的大脑什么时候会出现自发活动?
有趣的是，在有任何结构化的感官输入之前，自发神经元活动的模式已经高度结构化。例如，在视觉皮质中，在睁眼之前出现这种活动。在睁眼后，一些这些自发模式与实际的视觉刺激相关。一旦建立了这个任务，它似乎是稳定的并且可能保持终身。
这些早期模式是否与自然与培育辩论谈话？
这种自发的活动模式在早期就存在了，但我们还不能理解是什么导致了它们的结构。这种结构可能是由电路和遗传决定的，但更有可能的是，它是自我组织过程的结果。动力系统理论中有描述自组织系统如何形成复杂模式的概念。在反馈回路中，神经元如何形成回路以及回路活动如何反过来重塑连通性的一些基本规则将成为研究的起点。事实上，这不是先天与后天的问题，而是你需要多少先天才能建立这个系统的问题。你可以说整个大脑都在我们的基因中，但这是不可能的，因为我们DNA中的遗传信息太小，无法确定我们所有的突触连接。可能被遗传编码的只是一些简单的规则，这些规则建立了可以进化和产生结构的动力。在发育的早期阶段基本上是自主的，而在后期阶段更多地受感觉输入的影响。
缺少的是语境的概念。随着上下文的变化，AI必须以不同的方式解释传入的信号。
您如何探讨早期自发活动的遗传组分？
一个有趣的可能性是看看同样的双胞胎。几年前我们实际上做了这些线路。我们有一项研究，在猫的殖民地看着窝，我们发现视觉皮质中的活性域之间的间隔比来自不同垃圾的动物更相关。这表明在确定该基本性质时存在遗传组分。当这些结构首次出现时，其他可能性是在开发时看看早期的发展阶段，并尝试操纵它们。
这种早期的自发活动是否完全是短程？
我们通过实验和建模发现，尽管早期的突触连接纯粹是局部的，但有趣的长期相关活动可能会出现。这在成熟皮层中并不奇怪因为在那里你有实际的长程解剖联系。但即使在早期，当你还没有长期联系时，你就有了长期关联。长期相关性很有趣，因为它们连接了不同的模块，执行不同的处理。例如，当你的视觉皮层处理一个场景的不同部分时，长期关联可能涉及到整合跨视觉空间的信息。
大脑使用错误校正代码吗?
这是非常合理的。例如，有吸引子网络的这种古老的概念。该想法是网络收敛于有限一组活动状态。当您提供一些输入时，您将到达其中一个吸引子，当您提供附近的输入时，您达到相同的吸引子。这使得网络抵抗少量输入变化和噪声的鲁棒。这已经讨论过多年来，但它仍然很难在大脑中获得良好的经验证据或反对它。在足够稳定的条件下从足够数量的细胞中获取录音会将其与使我们直接扰动神经活动的方法来说是有帮助的。
这不是先天与后天的问题，更多的问题是你需要多少先天才能建立这个系统。
现代AI如何与大脑进行比较？
深度神经网络，目前是各种任务中最佳性能的AI，显然受到脑电路的启发。深网络具有神经元，一种层次结构和连接的可塑性。他们可能会或可能无法提供对大脑内的第一个处理阶段的实际发生的良好类比，并且目前在该领域存在激烈的辩论。但目前AI的一个问题是它是高度上下文的特定问题。您在数据集上培训您的深网络，它适用于该特定的数据集，但在具有不同的数据集时它不会调整。缺少的是语境的概念。随着上下文的变化，AI必须以不同的方式解释传入的信号。这种灵活性是对当前人工智能的巨大挑战。显然，大脑能够这样做。
我们如何解决上下文问题?
我们需要从大脑中汲取更多的灵感。例如，对大脑自发活动的一种解释是，它编码了环境。这在人工智能中可能很有用。此外，大脑中一次次试验的反应可变性可能是我们在人工智能中需要做什么的一个提示。不可靠的突触传输也是如此，它存在于大脑中，有时在机器学习中也会用到类似的东西，以避免过度拟合。这是一个有趣的方向，我认为还有很多东西需要研究。
是您观察到关于如何动态生成上下文的线索的自发的远程顺序吗？
可能，是的。在发展中的大脑中出现的是视觉表示的神经基础，涉及不同物体和分布在视觉空间的部分之间的关系。我们需要对视觉场景处理所需的许多东西是在对象和我们看到的对象的部分之间形成正确的关系，这可能与这些远程相关联相关联。这是推测的，因为了解这些相关性的功能含义是困难的。但远程自发的顺序是暗示的，它直观地有意义，大脑中不同功能模块之间的相关性可以在场景处理中发挥作用。
深度学习网络是否像大脑一样有线？
深度神经网络的一个方面一直受到批评的是，它们的连接通常是前馈，含义活动通过一系列中间层从输入层传播，直到它到达最终输出层。前馈网络中没有循环。复发连接，即给定层内神经元的连接，要么以原油方式模拟或建模。卷积神经网络确实有一个卷积核，这使得一点像经常性连接，但使用更现实和远程连接的使用相对较少。此外，通常不存在任何自上而下的连接，其将信息沿朝向输入层的方向发送回。避免了重复和自上而下的连接的部分原因是它们使网络培训更加困难。但在皮质中，自上而下的连接是丰富的和经常性的联系。前馈网络真的是粗略的过度简化，并且与大脑中高度互连的网络非常不同。
深学习网络是否以与大脑相同的方式对刺激作出反应？
即使在视觉信息的第一皮质处理阶段，在视觉皮质中，携带从眼睛的输入的连接是迄今为止总连接的少数群体，这在大脑内部更加激烈。在不同的大脑区域之间的大部分神经元活动是在不同的大脑区域之间进行交叉谈话，并且有时只似乎在这种内部活动中起到调节作用。这是一个比你通常在深神经网络中的那个非常不同的角度，其中神经元仅在提供输入时基本上被激活。因此，剖视和功能性质，大脑似乎与深神经网络非常不同。在真正的情报和所谓的人工智能之间存在相当大的差距。
迈克尔·西格尔Nautilus'主编辑。
铅图像：J. Helgason / Shutterstock
有关Matthias Kaschube和神经系统网络的更多信息，请参阅“不成熟大脑中惊人的网络活动“在我们的马克斯·普朗克神经科学频道．
