学习笔记_西瓜书（周志华 机器学习）&&慕课视频(机器学习by蒋良孝、胡成玉）（学习中。。。）

感觉未来是大数据环境下的人工智能时代呀，不能被时代的马车抛弃，西瓜书这么出名，简要了解一下

1 绪论

1.1 引言

机器学习定义：利用经验来改善计算机系统自身的性能

另外一种广泛被引用的英文定义：A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E（T：任务，P：性能评估，E：数据，一段程序利用E提升了在T上的P那么就称之为机器学习）

机器学习的主要内容即 在数据中产生模型的算法

机器学习的核心即 学习算法

机器学习动机： 为了让计算机系统具有人的学习能力以便实现人工智能

机器学习技术：神经网络学习、决策树学习、贝叶斯学习、最近邻学习、线性学习、支持向量机学习等等

经验在计算机中的表现为 数据，那么使得机器学习成为智能分析技术的创新源之一，并且因此受到越多关注

经常和另外一种智能分析技术-数据挖掘来对比

数据挖掘：识别出巨量数据中有效的、新颖的、潜在有用的、最终可理解的模式的非平凡过程

数据挖掘可以视为机器学习与数据库的交叉，主要利用机器学习界提供的技术来分析海量数据，利用数据库界的技术来管理海量数据

机器学习和数据挖掘既有区别又有联系，机器学习偏理论，数据挖掘偏应用

1.2 基本术语

数据集(dataset):类比数据库概念中的table

示例(instance) or 样本(sample):类比数据库中table中的row即一行记录或称之为元组，在空间中也可以描述为 特征向量(feature vector)

属性(attr) or 特征(feature):类比数据库中的col即列，空间中也叫做 维数(dimensionality)

属性空间、样本空间、输入空间：属性值的取值集合

学习或者训练：从数据中产生模型的过程

训练数据

训练样本

训练集

标记(lable):关于示例结果的信息

样例(example):拥有了标记信息的示例

标记空间(lable space) or 输出空间：所有标记的集合

分类(classification)：预测的是离散值

回归(regression):预测的连续值

聚类(clustering)

二分类：预测值只有两个，一个叫正类，一个叫反类

多分类：预测值多于2

测试：学得模型后，利用模型预测的过程

有监督学习：数据集有标记（分类和回归算法属于此）

无监督学习：数据集没有标记（聚类算法属于此）

泛化（generalization):学得的模型适用于新样本的能力

1.3 假设空间

归纳(induction):特殊到一般，泛化过程(generalization)

演绎(deduction)：一般到特殊(specilization)

概念学习、布尔概念学习：研究、应用较少，因为学得语义明确泛化性能好的概念太难了

机械学习

样本噪声

学习：在假设空间进行搜索的过程

假设集合、假设空间、版本空间

1.4 归纳偏好

"奥卡姆剃刀"：若有多个假设与观察一致，则选择最简单的那个

算法的归纳偏好是否与问题本身匹配，大多数时候直接决定了算法能否取得好的性能

"没有免费午餐"定理，即 NFL定理：在脱离实际意义情况下，空泛地谈论哪种算法好毫无意义，要谈论算法优劣必须针对具体学习问题

1.5 发展历程

机器学习是人工智能研究发展到一定阶段的必然产物

1.6 应用现状

应用广泛

"只要有数据存在的地方，机器学习就有价值"

2 模型评估与选择

2.1 经验误差与过拟合

错误率

精度

误差

训练误差

泛化误差

过拟合：学习能力太强，除了训练样本中的"一般规律"学到了，连不太一般的特性也学到了

欠拟合：学习能力弱

欠拟合比较容易克服，例如在决策树学习中扩展分支、在神经网络学习中增加训练轮数等；而过拟合则很麻烦，是机器学习面临的关键障碍，是无法避免的，我们只能"减缓"或者减少其风险

实际中，不同算法甚至相同算法不同调参都产生不同模型，那么使用哪个就是"模型选择"问题

2.2 评估方法

测试集

测试误差：用来当作泛化误差的近似

留出法：一般要多次随机划分重复实验取均值，通常做法是2/3-4/5样本用于训练

p次k折 交叉验证法：常见的10次10折交叉验证法

自助法：数据量少时候有用

调参

验证集

2.3 性能度量

性能度量：对学习器的泛化性能评估

均方误差：回归任务最常用的性能度量

错误率

精度

查准率precision

P=TP/(TP+FP)

查全率recall

R=TP/(TP+FN)

查准率-查全率曲线，即P-R曲线

平衡点，是查准率=查全率的取值，以此点比较学习器的优劣

F1度量：平衡点还是过于简单，F1更常用

Fβ=（1+β2）PR/((β2*P)+R)

当β=1时候为标准的F1

F1=2PR/(P+R)

其中，β>0度量了查全率对查准率的相对重要性，β>1时，查全率更重要,β

Original: https://www.cnblogs.com/yongestcat/p/11262265.html
Author: 九命猫幺
Title: 学习笔记_西瓜书（周志华 机器学习）&&慕课视频(机器学习by蒋良孝、胡成玉）（学习中。。。）

相关阅读

Title: Linux Systemd服务(2021.07.09)

一、概述

本文将介绍通过 systemd来实现服务的自启动。 systemd是一套系统启动和管理的工具，字母 d是守护进程（daemon）的缩写。

二、配置文件

systemd的配置文件主要放置在 /etc/systemd/system/与 /lib/systemd/system目录，如果需要添加服务，只需在目录下添加对应的配置文件即可。例如：

# 添加服务配置文件
$ sudo vim /etc/systemd/system/demo.service
[Unit]
Description=demo # 服务描述
After=network.target # 指定服务依赖的 target

[Service]
User=root # 服务运行用户
Group=root # 服务运行用户组

WorkingDirectory=/root/water # 服务工作目录
ExecStart=/usr/local/bin/java -jar demo.jar # 服务启动命令
Type=simple # 服务进程启动方式

Restart=on-failure # 指定服务何时重启

[Install]
WantedBy=multi-user.target # 指定服务所属 target，与自启动相关，一般不用改

# 重新加载所有 service 的配置
$ sudo systemctl daemon-reload

systemd可以管理所有的系统资源，不同的资源称为 Unit（单位），该部分可以定义 Unit的元数据，以及配置与其它 Unit的关系。主要字段如下：

• Description：简短描述
• Documentation：文档地址
• Requires：当前 Unit 依赖的其他 Unit，如果它们没有运行，当前 Unit 会启动失败
• Wants：与当前 Unit 配合的其他 Unit，如果它们没有运行，当前 Unit 不会启动失败
• BindsTo：与 Requires类似，它指定的 Unit 如果退出，会导致当前 Unit 停止运行
• Before：当前 Unit 必须在该字段指定的 Unit 之前启动
• After：当前 Unit 必须要在该字段指定的 Unit 之后启动

Service用来配置 Service，只有 Service 类型的 Unit 才有该部分。主要字段如下：

• Type：定义启动时的进程行为，它有以下几种值：
• Type=simple：默认值，执行 ExecStart 指定的命令，启动主进程
• Type=forking：以 fork 方式从父进程创建子进程，创建后父进程会立即退出
• Type=oneshot：一次性进程，Systemd 会等当前服务退出，再继续往下执行
• Type=dbus：当前服务通过D-Bus启动
• Type=notify：当前服务启动完毕，会通知 Systemd，再继续往下执行
• Type=idle：若有其他任务执行完毕，当前服务才会运行
• User：启动当前服务的用户
• Group：启动当前服务的用户组
• WorkingDirectory：当前服务的工作目录
• ExecStart：启动当前服务的命令
• ExecStartPre：启动当前服务之前执行的命令
• ExecStartPost：启动当前服务之后执行的命令
• ExecReload：重启当前服务时执行的命令
• ExecStop：停止当前服务时执行的命令
• ExecStopPost：停止当其服务之后执行的命令
• RestartSec：自动重启当前服务间隔的秒数
• Restart：定义何种情况 Systemd 会自动重启当前服务，可能的值包括always（总是重启）、on-success、on-failure、on-abnormal、on-abort、on-watchdog
• TimeoutSec：定义 Systemd 停止当前服务之前等待的秒数
• Environment：指定环境变量

Install用来定义如何启动，以及是否开机启动。主要字段如下：

• WantedBy：它的值是一个或多个 Target，当前 Unit 激活时（enable）符号链接会放入 /etc/systemd/system目录下面以 Target 名 + .wants后缀构成的子目录中
• RequiredBy：它的值是一个或多个 Target，当前 Unit 激活时，符号链接会放入 /etc/systemd/system目录下面以 Target 名 + .required后缀构成的子目录中
• Alias：当前 Unit 可用于启动的别名
• Also：当前 Unit 激活（enable）时，会被同时激活的其他 Unit

三、开机启动

使用以下命令将服务设置为自动启动：

$ sudo systemctl enable demo.service

四、启动服务

设置引导后，服务不会立即启动。您可以使用以下命令启动该服务：

$ sudo systemctl start demo.service

五、查看状态

服务可能无法启动，请使用以下命令检查服务状态：

$ sudo systemctl status demo.service

六、停止服务

您可以使用以下命令终止正在运行的服务：

$ sudo systemctl stop demo.service

如果命令没有响应，可以通过以下命令强制 kill进程：

$ sudo systemctl kill demo.service

七、重启服务

使用以下命令重新启动服务：

$ sudo systemctl restart demo.service

参考文章：

Original: https://www.cnblogs.com/xiaoQQya/p/16313767.html
Author: Hit不死的小强
Title: Linux Systemd服务(2021.07.09)