第五篇 统计学习方法是如何实现分类与聚类的（四） 清华大学计算机系 马少平 第四节：决策树 ——C4.5算法 艾博士：ID3算法是一个被广泛使用的决策树算法，但是也存在一些不足。 小明：ID3算法有哪些不足呢？ 艾博士：ID3算法存在的主要问题是，当按照信息增益选择特征时，会倾向于选择一些取值多的特
Published on 2025-03-08
第五篇 统计学习方法是如何实现分类与聚类的（三） 清华大学计算机系 马少平 第三节：决策树 ——ID3算法 艾博士：我们在对事物进行分类时，常常先用某个特征先划分成几个大类，然后再一层层的根据事物特点进行细化，直到划分到具体的类别。 比如，根据饮食习惯可以判断是哪个地方的人。可以先根据是否喜欢吃辣的
Published on 2025-03-08
第五篇 统计学习方法是如何实现分类与聚类的（二） 清华大学计算机系 马少平 第二节：朴素贝叶斯方法 艾博士：朴素贝叶斯方法是一种基于概率的分类方法，其基本思想是，对于一个以若干特征表示的待分类样本，依次计算样本属于每个类别的概率，其中所属概率最大的类别作为分类结果输出。 为了叙述方便，我们给出如下的
Published on 2025-03-08
第五篇 统计学习方法是如何实现分类与聚类的（一） 清华大学计算机系 马少平 艾博士导读 统计机器学习方法在人工智能发展历史上曾经起到过重要作用，当上个世纪90年代初期人工智能陷入低谷时，也正是统计机器学习的发展才使得人工智能走出了低谷，逐渐得到广泛的应用，当前的人工智能发展高潮应该与统计机器学习方法
Published on 2025-03-08
第四篇 如何用随机算法求解组合优化问题（十四） 清华大学计算机系 马少平 第十四节：总结 艾博士：小明，这篇如何用随机算法求解组合优化问题我们就讲这么多，请你总结一下我们都讲解了哪些内容。 小明边回忆边回答说：这篇内容讲得挺多的，重点是两个随机算法——模拟退火算法和遗传算法，我试着总结一下。 （1）
Published on 2025-03-08
第四篇 如何用随机算法求解组合优化问题（十三） 清华大学计算机系 马少平 第十三节：模拟退火算法与遗传算法的对比 小明：艾博士，模拟退火算法和遗传算法都属于随机算法，那么这两个算法之间有哪些异同呢？ 艾博士：为了说明这两个算法之间的异同，我们做个类比。 模拟退火算法相当于一个喝醉了酒的猴子爬香山。
Published on 2025-03-08
第四篇 如何用随机算法求解组合优化问题（十二） 清华大学计算机系 马少平 第十二节：性能评价问题 小明：艾博士，遗传算法中有很多参数需要确定，如何进行交叉操作、变异操作，适应函数如何定义等，也都有很多方法，如何评价这些方法的好坏呢？ 艾博士：如何对遗传算法的性能进行评价是一件很困难的事情，为此需要确
Published on 2025-03-08
第四篇 如何用随机算法求解组合优化问题（十一） 清华大学计算机系 马少平 第十一节：用遗传算法求解旅行商问题 小明：关于遗传算法介绍了这么多的内容，请艾博士举一个具体求解的例子吧。 艾博士：好的，下面我们还是以旅行商问题为例，看看如何用遗传算法求解该问题。我之前编写过一个遗传算法求解旅行商问题的程序
Published on 2025-03-08
第四篇 如何用随机算法求解组合优化问题（十） 清华大学计算机系 马少平 第十节：遗传算法的实现问题 艾博士：在前面遗传算法的介绍中我们只是给了一个基本的算法框架，要用遗传算法求解实际问题，还有很多问题需要解决，比如编码问题、参数设置问题等。下面我们就一一讨论这几个问题，给出一些指导性的意见。 1.
Published on 2025-03-08
第四篇 如何用随机算法求解组合优化问题（九） 清华大学计算机系 马少平 第九节：遗传算法应用举例 艾博士：下面我们通过前面提到过的求最大值的例子，说明遗传算法是如何求解这个问题的。 例：求解下列函数的最大值，其中x的取值为[0, 31]间的整数。
Published on 2025-03-08
第四篇 如何用随机算法求解组合优化问题（八） 清华大学计算机系 马少平 第八节：遗传算法 艾博士：遗传算法是另一种求解组合优化问题的随机算法，是受达尔文进化论的启发而提出来的一种优化算法。 小明：这个算法竟然和进化论有关。 艾博士：小明，你大概了解进化论吧？ 小明：在生物课上老师讲过达尔文的进化论，
Published on 2025-03-08
第四篇 如何用随机算法求解组合优化问题（七） 清华大学计算机系 马少平 第七节：模拟退火算法应用举例 小明：艾博士，我们讲了这么多的方法，请您介绍一个具体的应用例子吧。 艾博士：好的，下面就以旅行商问题为例，看看如何利用模拟退火算法求解该问题。 例：旅行商问题 设有n个城市，城市间的距离用矩阵 D＝
Published on 2025-03-08
