忆阻器 vs 神经网络节点，有什么区别？答案

【问题标题】：Memristors vs neural network nodes, what's the difference?忆阻器 vs 神经网络节点，有什么区别？
【发布时间】：2011-05-20 07:40:23
【问题描述】：

对人工智能知之甚少，只是对memristors 可能最终导致人工智能与人脑的能力相媲美并可能超越人脑的说法感到有些困惑。

那么，忆阻器（硬件）与神经网络节点（软件）有什么区别？

很可能这两者完全不相关，但鉴于我的理解是神经网络用于模拟“生物神经网络”，在我看来忆阻器只是神经网络模拟的生物版本的硅版本网络。

我问的原因是，如果它们在概念上非常接近或相同（意味着它们仅在实现上有所不同），不知道如何声称忆阻器将缩小人工智能的差距。

【问题讨论】：

【解决方案1】：

神经网络能够形成新的连接。硬件无法做到这一点。

忆阻器对于创建快速的非易失性存储器更有用。未来不会有 RAM 和存储，而是统一的内存。

【讨论】：

@dan_waterworth：“神经网络能够形成新的连接。硬件无法做到这一点。”是的，我同意，这使得忆阻器最终将启用人工智能的说法对我来说有点奇怪。
@dan_waterworth：“忆阻器对于创建快速非易失性存储器更有用。”是的，这也是我的理解。 “未来不会有 RAM 和存储，而是统一的内存。”也许，也许不是，总要做出取舍。大多数复杂的生物系统都有多层记忆性能和记忆的适应性能力；这将导致人们相信永远不会有一个统一的内存层。
您可能会使用忆阻器创建一个神经网络，但电路大小将是神经元数量的平方。人工智能已经可以通过数字计算机实现，而忆阻器可能会使这变得更容易。
如果忆阻器变得比 RAM 更快并且足够密集，并且在此期间没有其他技术出现，我认为统一内存是可能的。
@dan_waterworth：“电路大小将是神经元数量的平方”不知道。 “人工智能可以通过数字计算机实现”是的，它是——但不是大多数人认为的那样；至少据我所知。当真正的人工智能在这里成为常识时，它很可能已经超出了任何一个特定人的理解，并且在很短的时间内，超出了人类的集体理解；如果人类实际上能够创造出真正的人工智能。大多数 AI 用于非常小众的用途，不允许在野外生长，这就是 IMHO 真正的 AI 的来源。

【解决方案2】：

它的目的是远离冯诺依曼架构；内存节点可以是计算节点。是的，根本性的转变。它还允许从不同的角度启用 AI 的其他逻辑操作。

【讨论】：

谢谢。关于，“它还允许从不同的角度启用人工智能的其他逻辑操作。”用简单的英语会是什么？
查看您的答案，您可能误解了我的问题。问题不在于硬件是否是一种转变，而在于概念是否是一种转变；看起来神经网络将是一种非冯诺依曼架构；这显然作为一个概念并不新鲜。我的问题是，如果从概念上讲忆阻器有什么新东西，它似乎并不存在；这意味着忆阻器的概念已经通过软件实现多年，如果说忆阻器将在实现人工智能方面发挥作用，那将是一个巨大的飞跃。

【解决方案3】：

忆阻器允许内存计算，例如，它们可以加速矩阵向量乘法 (MVM)、按位运算和搜索运算。此外，忆阻器是一种高密度非易失性存储器。

由于卷积层的计算模式是 MVM 并且全连接层是内存密集型的，因此忆阻器可以同时加速卷积层和全连接层。因此，忆阻器可以实现卷积神经网络和其他神经网络变体的高效硬件加速。

然而，忆阻器的当前实现也存在一些问题，例如可靠性差、硬错误。请参阅my survey paper，了解有关使用忆阻器加速神经网络的更多详细信息以及对当前挑战的讨论。

【讨论】：