当你惊叹于最新的人工智能生成视频时，或是当欺诈检测系统保护你的银行账户免受攻击，亦或是你能在奔跑中轻松发送短信时，背后都离不开众多科学家、数学家和工程师的努力。
在众多贡献者中，有两个名字因其在深度学习技术上的重要贡献而特别突出：普林斯顿大学的物理学家约翰·霍普菲尔德和多伦多大学的计算机科学家杰弗里·辛顿。正是深度学习技术使得这些体验成为可能。
这两位研究者因其在人工神经网络领域的开创性工作，于2024年10月8日获得诺贝尔物理学奖。尽管人工神经网络是模仿生物神经网络的，但他们的研究也借鉴了统计物理学，因此获得了物理学奖。
神经元的计算方式
人工神经网络的起源可以追溯到对生物神经元的研究。1943年，神经生理学家沃伦·麦卡洛克和逻辑学家沃尔特·皮茨提出了神经元工作原理的简单模型。在这个模型中，神经元与相邻的神经元相连，并接收来自它们的信号，然后将这些信号组合后发送给其他神经元。
然而，问题在于：它如何以不同的方式评估来自不同邻居的信号。想象一下，你在考虑是否购买一部新手机，你向朋友们征求意见。一个简单的策略是收集所有朋友的推荐，并根据大多数人的意见做决定。例如，你问了三个朋友，爱丽丝、鲍勃和查理，他们分别说“是”、“是”和“不是”。这使你决定购买手机，因为你得到了两个赞成和一个反对。
然而，你可能更信任某些朋友，因为他们对科技产品有更深入的了解。因此，你可能会决定给他们的建议更多的权重。例如，如果查理非常博学，你可能会将他的“不”视为三次反对，这样你的决定就变成了不买手机——两次赞成，三次反对。如果你有一个完全不信任的朋友，你甚至可能会给他们负权重，这样他们的赞成就等于拒绝，他们的拒绝就等于赞成。
一旦你对新手机的选择做出了决定，其他朋友就可以向你请教了。同样，在人工和生物神经网络中，神经元可以聚合来自相邻神经元的信号，并将信号发送给其他神经元。这种能力导致了一个关键的区别：网络中是否存在循环？例如，如果我今天向爱丽丝、鲍勃和查理推荐，明天爱丽丝又向我推荐，那么就形成了一个循环：从爱丽丝到我，再从我回到爱丽丝。
如果神经元之间的连接没有循环，计算机科学家称之为前馈神经网络。前馈网络中的神经元可以分层排列。第一层是输入层，第二层接收来自第一层的信号，依此类推，最后一层表示网络的输出。
然而，如果网络中存在循环，计算机科学家称之为循环神经网络，神经元的排列可能比前馈神经网络更复杂。
霍普菲尔德网络
人工神经网络最初的灵感来自生物学，但很快其他领域也开始影响它们的发展，包括逻辑、数学和物理。物理学家约翰·霍普菲尔德利用物理学的思想研究了一种特殊类型的循环神经网络，现在被称为霍普菲尔德网络。他特别关注这些网络的动态：随着时间的推移，网络会发生什么变化？
当信息通过社交网络传播时，这种动态也非常重要。大家都知道表情包在网上迅速传播，社交网络上形成了回音室。这些都是集体现象，最终源于网络中人与人之间简单的信息交换。
霍普菲尔德是使用物理模型的先驱，特别是那些用于研究磁力的模型，以理解循环神经网络的动力学。他还表明，这些动态可以赋予神经网络一种记忆形式。
玻尔兹曼机与反向传播
在20世纪80年代，Geoffrey Hinton、计算神经生物学家Terrence Sejnowski及其他人扩展了霍普菲尔德的想法，创建了一类新的模型，称为玻尔兹曼机，以19世纪物理学家路德维希·玻尔兹曼命名。这些模型的设计根植于玻尔兹曼开创的统计物理学。霍普菲尔德网络可以像拼写检查器那样存储模式并纠正错误，而玻尔兹曼机则可以生成新的模式，为现代生成式人工智能革命奠定了基础。
欣顿还参与了20世纪80年代的另一项突破：反向传播。如果你想让人工神经网络完成有趣的任务，你必须为人工神经元之间的连接选择合适的权重。反向传播是一种关键算法，可以根据网络在训练数据集上的表现来选择权重。然而，训练多层人工神经网络仍然具有挑战性。
在2000年代，欣顿和他的同事们巧妙地使用玻尔兹曼机来训练多层网络，他们首先对网络进行逐层预训练，然后在预训练的网络上使用另一种微调算法来进一步调整权重。多层网络被重新命名为深度网络，深度学习革命由此开始。
人工智能回馈物理学
诺贝尔物理学奖展示了物理学思想如何促进深度学习的崛起。如今，深度学习也开始在物理学领域得到应有的回报，它能够准确、快速地模拟从分子和材料到整个地球气候的各种系统。
通过将诺贝尔物理学奖授予霍普菲尔德和辛顿，颁奖委员会表达了对人类利用这些进步来促进人类福祉和建立可持续发展世界的潜力的希望。
本文来自作者[梦槐]投稿，不代表潮江号立场，如若转载，请注明出处：https://wap.gqrjs.com.cn/wiki/202505-104.html
评论列表（4条）
我是潮江号的签约作者“梦槐”！
希望本篇文章《诺贝尔物理学奖关注人工智能革命的重要进展——创造可学习的机器》能对你有所帮助！
本站[潮江号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 当你惊叹于最新的人工智能生成视频时，或是当欺诈检测系统保护你的银行账户免受攻击，亦或是你能在奔跑中轻松发送短信时，背后都离不开众多科学家、数学家和工程...