机器学习基础概念和术语

作者：禅与计算机程序设计艺术

1.简介

##1.1 什么是机器学习？
是指利用计算机编程、统计方法或者概率论等手段对数据进行预测、分析和训练，最终实现从数据中获取知识、改善行为或预测事件发展结果的一系列的自动化机器学习算法。而机器学习的主要目的是让计算机具备“学习能力”，从而更好地完成任务、解决问题、提高效率、降低成本，在应用场景如图像识别、文本分类、垃圾邮件过滤、医疗诊断、自动驾驶等领域中发挥着举足轻重的作用。

1.1.1 机器学习的定义

机器学习(Machine Learning)是一门多领域交叉学科，涵盖了人工智能、认知科学、计算机科学、模式识别、计算理论、通信工程等多个领域。它是让计算机系统学习并适应环境的一种技术。机器学习包括三个子领域：监督学习、无监督学习和强化学习。

1.1.2 机器学习三要素

1. 数据：机器学习算法所需的数据集通常是由输入变量（特征）和输出变量组成。
2. 模型：机器学习模型是一个函数，它能够将输入变量映射到输出变量上去。
3. 算法：决定如何从给定的输入数据中学习、建立模型的过程即是算法。不同的算法会影响学习结果的准确性、效率、泛化能力等。

1.1.3 机器学习分类

根据学习方式的不同，机器学习可分为三类：

• 监督学习（Supervised learning）：通过给出输入-输出样例数据，利用已有的标签信息训练一个模型，使模型可以对未知的数据进行预测。监督学习又可以分为有监督学习和半监督学习。

• 有监督学习（Semi-supervised l