第一章绪论

11引言

机器学习所研究的主要内容：关于在计算机上从数据中产生“模型”el的算法，即“学习算法”learningalgrih

学习算法：通过处理数据产生模型的算法

有了学习算法，我们给它经验数据，它就能基于这些数据产生模型在面对新情况时例如看到一个没剖开的西瓜，模型会提供一个相应的判断例如好瓜

如果说计算机科学研究关于“算法”的学问，那么机器学习就是研究关于“学习算法”的学问。

本书“模型”泛指从数据中学得的结果

12基本术语

要进行机器学习，先要有数据假定我们收集了一批关于西瓜的数据。如下：

色泽青绿;根蒂蜷缩;鼓声浊响，

色泽乌黑;根蒂稍蜷;敲声沉闷，

色泽浅白;根蒂硬挺;敲声清脆

每对括号内是一条记录，“”意思是“取值为”

这组记录的集合称为一个“数据集”aase，其中每条记录是关于一个事件或对象这里是一个西瓜的描述，称为一个“示例”insane或“样本”saple

反映事件或对象在某方面的表现或性质的事项，例如“色泽“根蒂”“敲声”，称为“属性”aribue或“特征”feaure;属性上的取值，例如“青绿”“乌黑”，称为“属性值”aribuealue

属性张成的空间称为“属性空间”aribuespae、“样本空间”saplespae或“输入空间”

例如我们把“色泽”“根蒂”“敲声”作为三个坐标轴，则它们张成一个用于描述西瓜的三维空间，每个西瓜都可在这个空间中找到自己的坐标位置由于空间中的每个点对应一个坐标向量，因此我们也把一个示例称为个“特征向量”feaureer

这部分很容易理解，数学中有相关的基础

一般地，令x，x，…，x，表示包含个示例的数据集，

每个示例由个属性描述如上面的西瓜数据使用了3个属性，

则每个示例xixixi…xi是维样本空间x中的一个向量，

xi，其中xij是xi在第j个属性上的取值例如上述第3个西瓜在第2个属性上的值是“硬挺“，

称为样本xi的“维数”iensinaliy

从数据中学得模型的过程称为“学习”learning或“训练”raining，这个过程通过执行某个学习算法来完成，

训练过程中使用的数据称为“训练数据”rainingaa，

其中每个样本称为一个“训练样本”rainingsaple，

训练样本组成的集合称为“训练集”rainingse

学得模型对应了关于数据的某种潜在的规律，因此亦称“假设”hyphesis;

这种潜在规律自身，则称为“真相”或“真实”grunruh，学习过程就是为了找出或逼近真相

本书有时将模型称为“学习器””learner，可看作学习算法在给定数据和参数空间上的实例化1234512345xs