当前位置：首页>学习笔记>学习笔记|麻省理工-人工智能课10学习:最近邻

学习笔记|麻省理工-人工智能课10学习:最近邻

2026-01-09 07:43:44

你好呀，我是希源，见字如面。（全文约3400字，阅读需要10分钟）

B站有很多各个大学的公开课程，最近在学《麻省理工-人工智能》课程，2010年的，作为入门课程，开拓思维、训练逻辑能力很是合适。

分享一下第10节课的内容，一些学到的生活道理和专业知识~

今日两个问题：

①人是如何做到这些事情的，一个计算机又要如何成为可能做到这件事情？（老师端起一杯水喝水，多正常，但是人是怎么做到这个的呢？人是如何学习的？）

②人喝饮料（健怡可乐），狗会是如何看待他喝这杯饮料呢？

这两个问题，一个关乎学习的机制，一个触及理解的本质。本节课先将整个领域的形式概述一下，第二步讲最近邻学习的内容，讲述他的各种应用。最后结尾讨论了关于睡眠的重要性。

机器学习分为两类，一类是基于规律和观测性学习（计算机非常擅长此类），例如最近邻（Nearest Neighbors，模式识别/Pattern Recognition的领域），神经网络（Neural Nets，一种仿生/Mimic Biology尝试），Boosting算法。这类学习也可以看成推土机式计算（Bulldozer Computing）。

另一类分支是基于约束的学习，可以称之为类似于人类的处理方式，例如一次性（One-Shot）学习，基于解释（Explanation）的学习。

请看图：

最近邻这个方法出现很久了，百年前人们就学了，但不代表他过时，他仍然很有用，他是最简单的方法，你在遇到学习问题的时候总会先尝试用它解决。

我们都习惯先尝试用简单的方法解决问题，然后再逐渐更复杂的方法。因为更复杂的方法也往往更难于理解。

关于学习的讨论涉及很多主题，因为搞AI的人发明了一些东西，借鉴了一些东西，盗取了一些东西，拥护一些东西，也改进了一些东西。

学习，是人类智能的最本质性特征。

01最近邻学习：世界因“相似”而可被理解。

内容：得到某种机制，生成一个关于特征的向量集合（特征检测器），它的输出值组成一个向量，进入某个比较器，比较器将会对比这个向量和存放各种可能性的库中的特征向量，通过找到最匹配的结果，比较器能确定这个对象是什么，这样就能进行识别。

这个流程是许多模式识别系统（如图像分类、语音识别、指纹比对等）的经典架构。

举一个例子讲述：

流水线的机器人要区分四种类型的插座盖，他可以怎么做？

通过测量“总面积”与“孔面积”，每个盖子在二维空间中获得一个坐标。新盖子到来时，只需计算它与已有坐标的“距离”，找到最近的那个，即为匹配类别。

那么如何判断离哪个特征点最近？我们对每相邻的两个特征点作垂直平分线，那么它们会彼此分隔，形成一个个区域，落在这个区域内的，就称为离该特征点最近，而这些分隔线就称为决策边界（Decision Boundaries）。

那么如果现在有个全新设计的插座盖子，它的孔面积和之前的B最接近，那么你觉得它的总面积会和谁最接近？大部分的人都会选择B吧，因为——

一个原则：如果某个东西在某些方面很相似，它在其它地方也有可能很相似。

教育的实质大多数是这样的，童话故事，法律案例，医学案例，商业案例...如果你能看出案例同你现在的处境有某些相似之处，你狠有可能会相信其他方面，他也会很像。（插个题外话，突然想起刷到过很多那些人突然领悟以前学的诗词的瞬间，真的很受触动。）

不过我们在学习的时候，不可能只辨别，我们会尝试应用一些先例。

这种理念如何应用到看似不相关的领域呢？

02最近邻学习的应用一：信息检索。

比如，在信息检索中，你有一些来自不同杂志的文章，你感兴趣的是学习一些解决特定问题的内容，那么怎么去找同你的问题最具关联的文章？一个简单的算法是统计当前库中文章的词汇所出现的次数，并同要探索的问题中词出现的次数进行比对。

（插自己想法：这不就是小红书抖音B站大数据的力量吗？他根据你的搜索词关键词推荐给你你喜欢的。全是相似的，然后信息茧房，所以我们要不断扩充自己的搜索词，让他推送的也多样化，看见更广阔的世界。或者你当然也可以选择垂直领域。）

举个二维例子，你感兴趣的关键词是Hack和Computer，那么假设A杂志出现这两个词差不多次数，B杂志出现了很多次Hack，但极少出现Computer，那么肯定是A杂志更符合我们的要求。但是在计算机二维比对中，也许你要探索的问题中词的出现次数特征点距离反而离B杂志更近！这时使用距离去测量就不合适了，改成用向量之间的夹角反而更合适，这就是非标准测度。

03最近邻学习的应用二：机械臂控制。

接下来我们来看机械臂中的应用，假设有个机械臂，由A/B/C三段组成，A/B之间的夹角为a，B/C之间的夹角为b。

我们企图让C末端的手握着一个球沿特定的轨迹运动（根据我们设定的速度和加速度），那么球的运动轨迹可以转换成a和b的变化，但是想要得到精确的数学表达式以此来控制，是不太现实的，除了数学表达式极为复杂，也在于微小的改变（如机械关节处的磨损），也会影响最终运算的结果。

我们可以换一个思路，假设我们有一张足够大的表，对于小球运动轨迹中的每一小段，都存储了对应的角度，速度，加速度和机械扭矩等信息，那么我们让机械臂从头开始，每一次的运动调整中都对这个表进行数据增添和更新，直到它掌握了足够多可能的数据，那么它就会逐渐趋于稳定和准确。

假设身体每个关节可以用100字节信息来记录，投手全身参与的关节有100个，投球轨迹可以分成100段，投手每天投100次球，一年练习100天，能活到100岁。

这个信息大小（10^12）也还不算太大以至于无法存储。人的大脑中有多少神经元?答：小脑10^11个。问：多少突触？答：10^5个。

这真的很想我们通过重复练习，将技能刻入身体记忆。（想到了高中的题海战术。）

我们确实是可以通过不断练习，更新我们的表格，达到更好的技术水平。

在上面的例子中，有几个问题需要注意：

1. 不均匀问题/散布问题（如x集中于一段范围，y到处分布，你不会得到正确答案，因为他一直在混淆）可以进行正规化数据处理；

2. 什么起了作用（有没有答案是完全不依赖于y的情形？）；

3. 如果答案完全不依赖于数据呢？

04关于睡眠的研究。

没有问题求解就无法学习。那问题的求解如何通睡眠量相关呢？需要多少睡眠呢？

他们在目标的处理完全不能自控，对于是不是目标、目标在哪、目标是什么已经判断错乱。

（我感觉，我们大概不会比军人的身体素质更强大，所以更需要好的睡眠。）

缺眠的问题是会累积的，你可能需要8小时睡眠（当然不同人需要的是不同的时长），但你说睡8小时实际可能只睡了7小时，20天的缺1小时就会让你能力下降25%，如果你通宵，21小时缺眠仍然继续工作那你的效率大概和醉酒人士一样了。

小睡会有点帮助，把睡眠分成两段，比如你午睡2小时，夜睡7小时，这也会稍微好一些。

咖啡因也有一点帮助，但是感觉是在提前透支你的精力。（咖啡因过敏的人更是不能用这种方式。）

睡眠很重要，缺眠很严重，不要熬夜！

（睡眠不是时间的浪费，而是记忆的整理、神经的修复、学习的延续。真正的学习，需要清醒的头脑，也需要深度的休息。不过还是很想说，好羡慕高精力人群啊，睡4个小时就够了的人，真是不一样!）

回到最开始的两个问题，第一个问题，我们已经知道如何控制机器手臂的轨迹

第二个问题，狗不会知道为什么要和低糖可乐（或许人是为了不要长胖或许觉得这个更好喝但狗不明白），它缺乏给自己讲故事的能力。（好吧，又是讲故事！我们人类真是太智能了，不只是可以做到模式识别，还可以编制意义、讲述故事、追溯因果）。

把这二者串联起来。这提醒我们要当心混淆关联性和因果性。

这堂课的一些思考：

尊重相似，也警惕相似：最近邻法则揭示了认知的底层逻辑——我们通过类比和参照来理解新事物。尊重这份“相似”，就是尊重知识传承与经验积累的朴素真理。但若只停留于舒适区内的相似，思维便会板结。真正的智慧，在于既接纳经验的指引，也主动走向“有益的陌生”，拓展认知的边界。
“练习”是凡人的神迹：从机械臂到棒球手，一切精湛技能，都源于那张用无数次重复、反馈和调整填满的“经验表”。业精于勤荒于嬉，惟心弗勤，时亦靡克。
睡眠是灵魂的归巢：善待睡眠，就是善待学习、创造与理解的一切根基。
我们因“讲故事”而联结：这是我们区别于高效推土机的本质。不要放弃追问“为什么”，不要停止编织意义。在纷繁的关联中辨析因果，在平凡的动作里看见故事，是我们保持人性深邃与浪漫的荣光。