为什么日复一日的重复工作无法让你进步?
为什么日复一日的重复工作无法让你进步?为什么惨痛的失败往往比平庸的成功更有力量?人类的学习方式与机器学习有何相通之处呢?我们又该如何借鉴 AI 的学习方式,使之为我们所用呢?

01 强化学习的奖惩逻辑
在强化学习(RL)中,我们要训练的对象被称为智能体。智能体可以是一个下围棋的AI,也可以是控制走路的机器人。智能体会根据当前状态(state),做出一个动作(action),环境(Env)会受动作的影响,产生一个新的状态。同时会根据动作的好坏,给出一个数值(Reward)。智能体根据反馈调整自己的神经网络参数(策略 Policy)。它的终极目标是:在长远的未来里,获得的总分(累积奖励)最高。

奖励实质上是一个数字。当智能体的表现符合我们的预期,奖励为一个正数,其数字越大,奖励越丰厚,智能体也就会更倾向于执行此类行为。反之,若其表现不符合我们的预期,则将会为其施加一个负数的惩罚,数字越小,惩罚越残酷,智能体遇到类似情况后便会尽量避免。
讲到这里,不难发现计算机强化学习的过程与人类从世界中学习的过程如出一辙,然而在计算机中,我们可以清晰的看到强化学习的最终目的是通过梯度下降找到数学上的全局最优解,它可以用一串数字和公式来表达。但是于我们人类而言,我们希望通过“学习”达到的结果是什么呢?为了回答这个问题,我们需要理解学习的本质。
02 大脑是一台预测机器
人类的大脑并不是一个被动的接收器,而是一台预测机器。每个人的脑海中都存在一套关于世界的“心智模型”。比如,在你拿起一杯水前,大脑便会通过心智模型来获得关于杯子的质量、材质、温度等相关信息,并进一步调动肌肉的发力。当水杯和我们预想的一样重,大脑就会觉得“无事发生”,没有发生学习。当水杯滚烫或者很轻时,大脑便会立刻意识到通过现有的心智模型的预测产生了错误。因此,大脑为了消除这种“预测误差”,需要不断调整神经元的连接权重,这便是学习的本质。
所以,只有当现实与你的预期不符时,真正的学习才开始发生。 这就是为什么日复一日的重复工作很少能让你进步,因为没有“误差”,大脑处于待机状态。
那么从更深一层来看,大脑为什么会孜孜不倦的希望消除“预测误差”呢?它希望达到怎样的结果呢?
在1910年,哈雷彗星的周期性回归成为全球媒体关注的焦点。当时,科学家们发现彗星的尾巴包含了氰化物,一种致命的毒气。尽管现代科学解释了彗尾散发出的氰化物甚至远不如城市中一辆小轿车排出的尾气危险,但在那个时代,人们对天文现象的了解有限。许多人陷入极度恐慌恐慌,担心彗尾中的毒气会摧毁地球甚至导致人类灭绝。
恐惧源于无知。
伴随着天文学研究的深入以及天文知识知识的普及,大多数人都知道了哈雷彗星只是一颗拖着尾巴的甲烷冰块。可以想见,在1981哈雷彗星再度回归之时,由于人们消除了对它的不确定性,社会上并没有出现太多声音。
在神经学的层面上,无知是最大的“不可预测”。相较之下,知识是“压缩的预测”:通过将未知的混沌变为能被理解的秩序,我们成功的将自然现象融入了我们的“心智模型”。
03 学习是为了对抗熵增
然而,我们不喜欢不确定性这一点不应被过分指摘,毕竟这一特质源于万亿年前漂浮在海洋中的祖先。
生活在养分、温度、日照舒适且恒定的环境当中,有机体会受到正反馈,即继续合成与繁衍。但是当环境不再适宜有机体生存时,有机体会受到极严重的负反馈,即该有机体的活性降低乃至解体。在如此分明的奖惩机制的规范下,有机体(这里有机体并非单一个体,而是以种群或分子群为单位的学习)开始了自己的进化。在多变的环境中,脆弱的分子不复存在,而适应了环境的稳定分子则保留了下来,并一代一代变得愈加坚固顽强。这些保存下来的有序分子团必然有着降低自己内部熵的能力,否则必然会随着环境的熵增而变得愈发无序。
我们作为当今地球上最具智慧的分子团,必然有着很大的本领将自己与环境的噪声与动荡隔离:一方面用边界把外界的不确定性隔离在外(皮肤、细胞膜、免疫系统),另一方面用抽象把外界的复杂性压缩在内(神经系统、语言、科学、文化)。我们通过持续的能量交换与信息更新,在局部维持一个低熵的结构。也正因如此,进化从本质上并不奖励最强者,而奖励最能减少惊奇、提高可预期性的系统;学习也不只是获取知识的装饰,而是生命为了延续自身而练就的一种本能——在不确定的世界里,用更精确的预测,换取更多的生存余地。
从神经科学的自由能原理来看,生命系统的终极目标就是降低熵(Entropy),也就是降低“惊奇度”(Surprise)。
在神经学的层面上,无知是最大的“不可预测”。相较之下,知识是“压缩的预测”。通过将未知的混沌变为能为大脑多理解的已知的秩序,人在自己的大脑中消除了对这一刺激的惊奇度,局部降低了宇宙中的熵,这便是学习的终极目的。
换言之,学习就是把“未知的混沌”变成“已知的秩序”。
04 如何借鉴 AI 模式高效学习?
那么,我们要怎样借鉴这套机制来实现高效学习呢?
首先,重新理解“失败”:它是最优质的信息源。
在机器学习中,预测误差越大,产生的梯度也越大,模型参数的修正便越显著。对人而言,成功往往掺杂太多噪音——能力、运气、环境交织,难以提取有效信息。而失败,尤其是惨痛的失败,往往直指心智模型的根本缺陷。它如同高信噪比的信号,迫使大脑打破固有连接,开辟新路径。知道“此路不通”,本身已是重要的知识积累。
其次,以“小胜”维持系统动力。
尽管失败指引方向,但若持续受挫,大脑会陷入“习得性无助”,如同那个因反复受罚而放弃行动的机器人。因此,高效的学习者善于设计反馈循环:在挑战高难度任务间隙,穿插一些能够验证现有模型的小任务。这些“预期内的成功”会释放多巴胺,巩固神经通路,为持续学习注入心理能量。
最后,关键在于寻找“可被解决的惊奇”。
大脑既不喜完全已知的无聊,也难承受完全未知的混乱。它渴望处于二者之间的“甜蜜区”——心理学称之为“贝利恩曲线”。真正的顶尖学习者,既非永远不失败(那意味着从未挑战边界),也非屡战屡败(那意味着缺乏修正),而是那些善于管理“预测误差”的人。他们主动将自己置于“略微失控”的境地:既有足够未知以激发修正,又有足够已知以提供安全感与成就感。
因此,人类的一切学习活动,无论形式如何多样,终究殊途同归:
运动员调整投篮姿势,是在消除动作与感知的误差;
科学家修正理论模型,是在消除认知与事实的误差;
哲学家化解逻辑悖论,是在消除信念与信念的误差。
我们都在做同一件事:用更精密的模型,去拟合这个复杂的世界。
学习,归根结底,是人类作为有限的生命体,用以抵抗宇宙熵增的庄严努力。通过一次次消除预测误差,我们将外部的混沌,转化为内心的秩序。也正是在这个过程里,我们于无常的洪流中,锚定了自身存在的意义。