自学成才的人工智能显示出与大脑工作方式的相似之处(4)
扫一扫
分享文章到微信
扫一扫
关注99科技网微信公众号
「这是非常漂亮的数据。」Richards 说,「这不是决定性的,但(它)是另一个令人信服的证据表明,事实上,我们学习语言的方式在很大程度上是通过试图预测接下来会说的话。」
未治愈的病理学
不是每个人都相信。麻省理工学院的计算神经科学家 Josh McDermott 致力于使用监督学习和自我监督学习来建立视觉和听觉感知模型。他的实验室设计了他所谓的「metamers」,即合成的音频和视觉信号,对人类来说,它们只是难以理解的噪音。然而,对于人工神经网络来说,同色异谱似乎与真实信号无法区分。这表明在神经网络的更深层中形成的表征,即使是自我监督学习,也与我们大脑中的表征不匹配。
这些自我监督学习方法「在某种意义上是进步的,因为您能够学习可以支持许多识别行为而不需要所有这些标签的表示。」 McDermott 说,「但他们仍然有很多监督模型的病态。」
算法本身也需要更多的工作。例如,在 Meta AI 的 Wav2Vec 2.0 中,AI 只预测几十毫秒的声音的潜在表示——比发出感知上不同的噪音所需的时间更少,更不用说一个词了。「有很多事情要做才能做一些类似于大脑所做的事情。」King 说。
真正了解大脑功能需要的不仅仅是自我监督学习。一方面,大脑充满了反馈连接,而目前的模型几乎没有这样的连接,如果有的话。一个明显的下一步是使用自我监督学习来训练高度重复的网络——这是一个困难的过程——并看看这些网络中的活动与真实的大脑活动相比如何。
另一个关键步骤是将自我监督学习模型中人工神经元的活动与单个生物神经元的活动相匹配。「希望将来,[我们的]结果也将通过单细胞记录得到证实。」King 说。
如果观察到的大脑和自我监督学习模型之间的相似性适用于其他感官任务,那么这将更强有力地表明,无论我们的大脑能够发挥什么魔力,都需要某种形式的自我监督学习。
「如果我们确实发现了截然不同的系统之间的系统相似性,它[将]表明也许没有那么多方法可以以智能方式处理信息。」King 说,「至少,这是我们希望与之合作的美好假设。」
99科技网:http://www.99it.com.cn
