大脑建模答案

【问题标题】：Brain modelling大脑建模
【发布时间】：2009-05-16 22:24:33
【问题描述】：

只是想知道，因为我们已经达到了每台 PC 1 teraflop，但我们仍然无法模拟昆虫的大脑。有没有人见过自学习、自开发神经网络的体面实现？

【问题讨论】：

您从哪里听说 PC 达到了 teraflop？我所知道的最快的 PC 处理器是 70 gigaflops……如果你指的是超级计算机，那么去年那些已经突破了 petaflops。
抱歉，我使用了包含的 GPU。支持 CUDA 的 GPU 能够非常高效地运行神经网络传播算法。不确定学习和节点权重适应 - 这可能由主 CPU 处理。
我认为这不是神经网络的大小/速度的问题，而是是否可以使用这些技术对大脑中认知和学习的额外复杂性进行建模的问题。也许是神经网络/感知器和元胞自动机的一些会议？
同样，有人对奇点有什么想法吗？
2013 年的更新：世界上第四快的超级计算机能够在相当于人脑 1% 大小的网络上模拟 1 秒的活动。这需要 40 分钟和 83,000 个处理器。所以我们真的还没有。然而，这确实表明百亿亿次计算将支持此类模拟。

标签： artificial-intelligence neural-network large-scale biological-neural-network neuroscience

【解决方案1】：

我看到了一个有趣的实验，将大鼠大脑的物理神经布局映射到数字神经网络，该网络的加权模拟了使用 MRI 和其他方法获取的每个组件的神经元化学性质。很有趣。（新科学家或焦点，2 期前？）

IBM Blue Brain 浮现在脑海 http://news.bbc.co.uk/1/hi/sci/tech/8012496.stm

正如您正确指出的那样，问题在于计算能力。但是对于神经网络的一系列刺激，计算范围往往是指数的，因为刺激遇到更深的嵌套节点。任何复杂的加权算法都意味着在每个节点上花费的时间会变得很昂贵。特定领域的神经图往往更快，因为它们是专门的。哺乳动物的大脑有许多通用路径，因此很难教授它们，并且让计算机在给定的空间/时间对真实的哺乳动物大脑进行建模。

真正的大脑也有大量的静态串扰（有些人认为这是创造力或原创思想的来源）。大脑也不会使用“直接”刺激/奖励来学习……他们使用过去对无关事物的经验来创造自己的学习。在计算空间中重建神经元是一回事，创建准确的学习是另一回事。别介意多巴胺（昆虫中的章鱼胺）和其他神经化学物质。

想象一下给予数字大脑 LSD 或抗抑郁药。作为一个真实的模拟。惊人的。我怀疑那将是一个复杂的模拟。

【讨论】：

更复杂的是：当人类大脑完全发育时，每个单独的神经元在基因和功能上都是一个独特的实体。大约 20 年的异步诱变剂和神经递质暴露，以及个体细胞之间的发育差异和可塑性行为（某些神经元填充通路间隙，如反应堆核心中的铝带），使人脑的规范模型成为模糊的构造，如果不是的话一个没用的。那是在您处理模拟最近发现的生物系统的量子力学组件的问题之前......

【解决方案2】：

我认为你是在假设，我们对神经网络如何工作的想法是大规模大脑的一个很好的模型；我不确定这是一个好的假设。该死，就在几年前，我们并不认为神经胶质细胞对心理功能很重要，而且很长一段时间都认为大脑成熟后没有神经发生。

另一方面，神经网络似乎确实可以很好地处理一些看似复杂的功能。

所以，这里有一个小谜题：你认为人脑的计算代表了多少 teraflops 或 petaflops？

【讨论】：

比我们拥有的更多。我们有更多机会培养人脑并为其提供数字输入/输出。也许超频或专业化一点。使用人工化学刺激的情感驱动计算。它可能会在错误的预测中调用疼痛感受器。
@Aiden：我真的希望你没有孩子。 :-)
:) 如果大脑有问题，我将插入我的神经导联并与我们的虚拟身体进行虚拟双重。除非是女的。然后就不一样了。
试试 exa-，甚至 zeta-，翻牌！
好吧，我们可以估算一下。大脑有大约 1000 亿 = 10^11 个神经元，每个神经元在大约 100 毫秒内求解霍德金斯-赫胥黎方程。 HH 方程需要 10,000 FLOPS 才能求解一次。所以我得到了 10^16 次翻牌。就是这样，10 petaflops，不是吗？当然，接下来的问题是 什么价值 提供给每个 HH 解决方案。

【解决方案3】：

Jeff Hawkins 会说神经网络是对大脑的不良近似。他的《论情报》读起来很棒。

【讨论】：

是的！您可能需要查看 www.numemta.com 及其 NuPIC 软件。这是基于分层时间记忆技术，它本身基于 Jeff Hawkins 在本书中提出的概念。

【解决方案4】：

是的：OpenCog 正在努力。

【讨论】：

【解决方案5】：

这是结构。即使我们今天的计算机性能与人脑相同或更高（有不同的预测何时到达那里，但还有几年的时间），我们仍然需要对其进行编程。虽然我们今天对大脑了解很多，但我们不知道的东西还有很多很多。而且这些不仅仅是细节，而是根本不了解的大范围。

只关注 Tera-/Peta-FLOPS 就像只用数码相机查看百万像素：当涉及许多因素时，它只关注一个值（大脑中的这些因素比大脑中的要多一些）相机）。我也相信，很多关于模拟大脑需要多少 FLOPS 的估计还有很长的路要走 - 但这完全是一个不同的讨论。

【讨论】：

罗伯特，这正是我在最初的问题中所提到的——处理能力差不多，但我们意识到，对于如何使用它来模拟一个简单的学习过程，我们完全不了解。（创业的想法？:-)
如果您是 AI 专家，您或许能够评估创业的潜力。这些东西通常是大学衍生品。

【解决方案6】：

只是想知道，我们已经达到了每台 PC 1 teraflop，但我们仍然无法模拟昆虫的大脑。有人见过自学习自开发神经网络的体面实现吗？

我们已经可以为大脑建模。这些天来的问题是，速度有多快，有多准确。

一开始，我们努力寻找具有最少物理特性的神经元的最抽象表示。

这导致康奈尔大学发明了perceptron，这确实是一个非常简单的模型。事实上，这可能太简单了，正如著名的 MIT AI 教授 Marvin Minsky 写了一篇论文，该论文错误地得出结论，这种模型不可能学习 XOR（一种基本逻辑）我们今天拥有的每台计算机都可以模拟的门）。不幸的是，他的论文使神经网络研究陷入了至少 10 年的黑暗时代。

虽然可能不像许多人想的那样令人印象深刻，但已经存在可以进行视觉和语音学习和识别的学习网络。

即使我们有更快的 CPU，它仍然与神经元不同。我们大脑中的神经元至少是并行的加法器单元。因此，想象一下 1000 亿个模拟人类神经元，每秒增加一次，以大约 20hz 的“时钟”将它们的输出发送到 100 万亿个连接。这里进行的计算量远远超过了我们拥有的处理能力的千万亿次，尤其是当我们的 cpu 主要是串行而不是并行时。

【讨论】：

正因如此，我认为FPGA比传统CPU更适合模拟大脑

【解决方案7】：

2007 年，他们以实际速度的一半模拟了相当于半个老鼠大脑的 10 秒：http://news.bbc.co.uk/1/hi/technology/6600965.stm

【讨论】：

就是这个（看我的回答）

【解决方案8】：

有一种名为 C. Elegance 的蠕虫，我们完全了解它的解剖结构。每个细胞都被绘制出来，每个神经元都得到了很好的研究。这种蠕虫在出生时具有一个有趣的特性，那就是它只跟随或生长到它出生的那些温度区域。 Here is link to the paper.本文有神经元模型的属性实现。并且有一些学生使用这种神经元模型构建了机器人，它只跟踪具有不同光度的区域中的黑暗区域。这项工作也可以使用其他方法完成，但正如我在上面给出链接的论文所证明的那样，这种方法更具抗噪性。

【讨论】：