运行Tensorboard可视化文件

人工智能39

运行Tensorboard可视化文件

命令行输入:

tensorboard --logdir=存放events.out.tfevents.1642406031的文件夹路径 --host=127.0.0.1 port=6060

在终端出现

运行Tensorboard可视化文件

在浏览器中打开网址即可查看。

踩过的坑

1.tensorflow与tensorboard版本不匹配问题

一开始我的tensorflow==1.3.0,tensorboard==2.6.0,结果运行tensorboard可视化命令时报错,

网上说是它们两个版本不匹配。

直接把tensorflow和tensorboard都更新到1.6.0版本,问题解决。注意,我的python==3.6.0,可以按装tensorflow==1.6.0,其他的python版本安装其他的tensorflow的版本即可,保证tensorflow和tensorboard版本匹配即可。

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow==1.6.0
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorboard==1.6.0

2.tensorboad的网址打不开

我的代码是在服务器上,想在本地打开tensorboard网址。

一开始的使用的命令如下,没有添加host和port,复制连接到浏览器是无法访问。

tensorboard --logdir=存放events.out.tfevents.1642406031的文件夹路径

在网上找了方法,需要添加host和port,问题解决。代码如下:

tensorboard --logdir=存放events.out.tfevents.1642406031的文件夹路径 --host=127.0.0.1 port=6060

最后打开网址的界面,开心!

运行Tensorboard可视化文件

Original: https://blog.csdn.net/weixin_44323744/article/details/122893290
Author: weixin_44323744
Title: 运行Tensorboard可视化文件



相关阅读1

Title: 机器学习初探:(十)K均值聚类(K-means)以及KNN算法

K均值聚类(K-means)

运行Tensorboard可视化文件

图片出处

本篇将介绍无监督学习家族中的一种经典聚类算法——K均值聚类(K-means)。

文章目录

; 导论

期末考试结束了,小明同学的数学和英语成绩在60-70分之间,其中,数学成绩为62分,英语成绩为65分。小明的班上一共有15名学生,如果小明的数学和英语成绩达到了班级"中游水平", 他就可以受到表扬,但是如果他是"须努力"的学生,那小明就会被爸爸批评。小明认为他是班级里"中等水平"的学生,但是小明的爸爸认为儿子属于"须努力"的水平。两个人争执不下,各自振振有词。

我们想要确定的是,小明到底属于哪一类学生。因为每一次考试的难度不一样,题目不一样,小明和爸爸心中对于成绩好坏的标准也不一样,所以我们并不能凭借上一次考试的分数和小明或者爸爸一方的说法来简单地认为小明到底是什么水平的学生。我们希望有一种较为公平公正的评价方式,来合理地将同学们分成几个档次。解决这一类问题,我们就可以用 K均值聚类(K-means)

什么是K-means

在机器学习中, 无监督学习一直是我们追求的方向,而其中的 聚类算法更是发现隐藏数据结构与知识的有效手段。目前如谷歌新闻等很多应用都将聚类算法作为主要的实现手段,它们能利用大量的未标注数据构建强大的主题聚类。

给定一组数据点,我们可以用聚类算法将每个数据点分到特定的组中。理论上,属于同一组的数据点应该有相似的属性和/或特征,而属于不同组的数据点应该有非常不同的属性和/或特征1

K-means是机器学习中一个比较常用的算法,属于 无监督学习算法,其常被用于数据的 聚类。我们将每一个类称为一个簇,将每一个簇的中心称为质心。运用K-means算法时,我们只需要指定簇(或称,聚类)的数量 K K K 即可自动将数据聚合到多类中。

  • 相同簇中的数据相似度较高,不同簇中数据相似度较低。
  • 各个簇本身尽可能的紧凑,而各个簇之间尽可能地分开。

假设我们有一张这样的散点图1:

运行Tensorboard可视化文件
图1 散点图

这些点本身是没有标记类别的,但基于点的分布状况,我们可以初步猜测这些点应该分属于三个不同类别。下面,我们指定有K = 3 K=3 K =3 个簇,通过K-means算法即可以得到如下图 2 所示的分类结果。可见,数据点被完美地划分为 3 个类别,其中,每种颜色代表一种不同的类别。

运行Tensorboard可视化文件
图2 K-means算法指定K=3的分类结果

  • K-means的 优点是原理简单,运算速度快,能够较好地聚类大数据集。
  • K-means的 缺点是需要一开始就指定一个聚类数量K K K,数据集中的异常值和聚类初始质心都会较大地影响聚类结果。

; K-means的操作步骤

下面我们来具体看一下,上述分类过程是如何实现的。

K-means背后的原理直观上理解是一个迭代过程,首先人为设定K K K个初始质心(或称,聚类中心),然后通过不断将新的样本分配至离它们最近的质心的方法优化调整质心位置,每次分配后都需要根据类内的样本重新计算质心坐标。

K-means算法流程如下图3所示2:

运行Tensorboard可视化文件
图3 K-means流程图

按照上述介绍的步骤,在K-means方法中,图1至图2的迭代过程的可视化展现效果如下图4。下图折线显示了随着聚类过程进行,聚类质心的移动情况,可见,在迭代至第6次(Iteration number 6)左右时,聚类质心位置不再变动,聚类结果保持稳定。

运行Tensorboard可视化文件
图4 K-means训练过程

; K-means的分类效果

下面,我们来看一下,如何通过K-means方法相对客观公正地判断出王小明同学属于哪一类学生。

我们现在已经收集到王小明班级15名同学的数学和英语成绩(如下表所示)。现在我们要做的就是,以此为依据,将班上的学生分成三档:优秀、中等、须努力(即,指定三个簇)。需要注意的是,根据K-means算法,每一个档次的学生并不一定是5个人。

学生姓名数学成绩英语成绩
王小明

6265李小天4089方兰兰7070赵汤圆8892程小雪9595周超超7572徐小红3336谭小强4442魏大帅6069郑小成8889韩阿龟5775杨聪明6688白海洋8183葛小平9596宋大山2021

随机选择初始的质心(质心的坐标分别表示类内样本两门课程的平均成绩),多次迭代,直至结果不再变化时,可以认为结果收敛,即当前的结果即为结论。用python实现3,结果如下图5:

运行Tensorboard可视化文件
图5 王小明班级学生按三档划分

于是我们可以看到,小明同学赶上了中等水平的末班车,可以收获一次表扬了!

继续思考这个问题,如果将全班同学按照数学和英语成绩分成:优、良、中、合格,须努力这五个水平,按照达到中等水平就可以被表扬的标准,那么小明同学会收获表扬吗?

在解决这个问题时,只需要将簇的个数由3改为5,就是将全班同学分成五档的问题了,结果如下图6:

运行Tensorboard可视化文件
图6 王小明班级学生按五档划分

我们的小明同学简直就是天选之子,再一次赶上了末班车,成功获得了被爸爸表扬的机会!

现在问题继续复杂化:究竟是分成三档还是五档合理呢?其实,我们并不知道需要把小明班的学生分成几档,但是我们仍希望将他们合理地区分。小明班只有15个学生,我们完全可以枚举法,将2类到15类逐个枚举一番。不过如果小明班上有150个学生,这就不是一个好方法了。下面介绍两种能帮助我们确定一个合适的K K K值的方法: 轮廓系数法肘部确定法

; 轮廓系数(Silhouette Coefficient)

轮廓系数是用于评价聚类效果好坏的一种指标,包含有两种因素——内聚度和分离度4。内聚度可以理解为反映一个样本点与类内元素的紧密程度。分离度可以理解为反映一个样本点与类外元素的紧密程度。

轮廓系数S S S的公式如下:
S = b − a m a x { a , b } S = \frac{b-a}{max{a, b}}S =m a x {a ,b }b −a ​

其中,a a a是样本点到 它所属的簇中所有其他样本点的平均距离。b b b是样本点与 下一个最近簇中所有点的平均距离。

化简公式,可得:
S = { 1 − a b a < b 0 a = b a b − 1 a > b S =\begin{cases} 1-\frac{a}{b} & a S =⎩⎪⎨⎪⎧​1 −b a ​0 b a ​−1 ​a b ​
轮廓系数S S S的取值范围为[ − 1 , 1 ] [-1, 1][−1 ,1 ],越趋近于1代表轮廓越明显,越趋近于-1则聚类的效果越差。我们不难看出:当a < b a时,即类内的距离小于类间距离,则聚类结果更紧凑,S S S的值会趋近于1。相反,当时a > b a>b a >b,即类内的距离大于类间距离,说明聚类的结果很松散,S S S的值会趋近于-1。

我们可以根据轮廓系数来确定最佳聚类数。 比如,下图7分别说明了簇数增加的聚类情况以及轮廓系数的变化。使用轮廓系数法时,对于王小明的班级来说,K = 2 K=2 K =2 时轮廓系数最大,分类效果最好。

运行Tensorboard可视化文件
图7 轮廓系数法

; 肘部确定法(Elbow Method)

K-means以最小化样本与质点的平方误差作为目标函数5,将每个簇的质点与簇内样本点的平方距离误差和称为畸变程度。那么,对于一个簇,它的畸变程度越低,代表簇内成员越紧密,畸变程度越高,代表簇内结构越松散。 畸变程度会随着类别的增加而降低,但对于有一定区分度的数据,存在着一个临界点,该点之前畸变程度快速下降,该点之后缓慢下降,从图像上看就像手肘的肘关节。这个临界点就可以考虑为聚类性能较好的点。

我们通过 SSE(和方差) 来衡量这种畸变程度(若要深入了解和方差,请参考机器学习的评价指标 6)。设有多个簇C = { C 1 , C 2 , C 3 , ⋯ , C k } C={C_1,C_2,C_3,\cdots,C_k}C ={C 1 ​,C 2 ​,C 3 ​,⋯,C k ​},μ ( i ) \mu^{(i)}μ(i )是第i i i个簇的中心,则有:
S S E = ∑ i = 1 K ∑ x ∈ C i ∣ x − μ ( i ) ∣ 2 SSE=\sum\limits_{i=1}^{K}\sum\limits_{x\in{C_i}}{|x-\mu^{(i)}|^2}S S E =i =1 ∑K ​x ∈C i ​∑​∣x −μ(i )∣2
下图8绘制了K K K值与SSE的关系图7,从图上我们容易看出,在K = 3 K=3 K =3时,畸变程度发生显著变化,因此我们可以将K = 3 K=3 K =3选为合适的簇数。

运行Tensorboard可视化文件
图8 肘部确定法

需要注意的是,以上这两种方法只是 帮助我们挑选了该方法下最合适的K K K 值,但是实际应用中,我们需要 结合实际情况和需求来确定我们想要的K K K值。最大轮廓系数对应的K K K值,并不一定是正确的聚类结果;肘部确定法也不是在所有的情况下,都能绘制出图8那样有明显拐点的曲线。就像上述两种方法给出的K K K不是同一个值一样,方法只是帮助我们进行判断,但 不是我们选择的唯一依据

; 改进K-means之K-means++

K-means需要人为地在一开始指定聚类质心,初始的质心若寻找的不够恰当,则会影响最后的结果。在前面的例子中如果我们把三个初始质心选择为宋大山、徐小红和谭小强这三个成绩倒数的同学,得到的聚类结果如下图9所示。学习水平较差的学生被分进了两个簇,而中下水平到优秀的学生全部被分进了一个簇,显然这不是一个合适的选择。我们得到的聚类结果,其参考价值较弱。

运行Tensorboard可视化文件

图9 初始质心为倒数3名学生

K-means++算法选择初始的质心的基本思想就是:初始的质心之间的相互距离要尽可能的远。

K-means++ 选择初始质心的步骤详见下图10所示。

运行Tensorboard可视化文件
图10 K-means++流程图

什么是KNN(K-nearest neighbors)

KNN算法,是一种常用的分类算法,其与K-means都使用了邻近算法思想(给定一个点,在数据集中找离它最近的点),二者经常容易被混淆。

该算法的思想是:一个样本与数据集中的 K K K 个样本最相似,如果这 K K K 个样本中的大多数属于某一个类别,则该样本也属于这个类别。使用KNN算法时,我们只依据待判断样本点周边样本的类别,来决定这个未知类别的样本属于什么类。

KNN算法的中心思想是,近朱者赤近墨者黑,即如果你周围的都是好人,则你估计也是好人!

我们以一个例子来说明,从下图11中我们可以看到, 图中的数据样本点都被打好了标签,一类是蓝色的圆圈,一类是红色的圆圈。而紫色的圆圈是需要被分类的待判断样本点。 如果K = 2 K=2 K =2,离紫色圈最近的是两个蓝色圆圈,则紫色圈打上蓝色的标签。 如果K = 6 K=6 K =6,离紫色圈最近的是两个蓝色圈和四个红色圈,则紫色圈打上红色的标签。

运行Tensorboard可视化文件

图11 KNN算法示意图

; K-means与KNN的比较

KNNK-Means分类算法,输入数据均带有标签

即,有监督学习聚类算法,输入的数据没有标签

即,无监督学习K代表K个最邻近的点K代表K个类别没有明显的前期训练过程有明显的前期训练过程

共同点:都用到了邻近算法。

小结

  • K-means是一种 无监督学习聚类算法,可以在有若干 没有分类的数据的情况下,将它们自动地归为 K个类别。每一个类别称为一个簇。
  • 相同簇中的数据相似度较高,不同簇中数据相似度较低。
  • 各聚类本身尽可能的紧凑,而各聚类之间尽可能的分开。
  • K K K的值既可以是我们自己设定的,也可以通过运用轮廓系数法或肘部确定法自动选出。
  • 有大量无序数据时,就可以使用K-means将它们自动、合理地分为K K K个类别。
  • K-means原理简单、速度快,对大数据集有比较好的伸缩性;但同时需要指定聚类数量K K K,对异常值和初始值敏感。K-means++算法可以克服对初始值敏感的缺点,达到更好的聚类效果。
  • KNN是一种 有监督学习分类算法,可以在 已有部分已分类的数据的情况下,根据未知类别数据周围K K K 个样本的大多数类别,来判定未知数据的类别。

参考文献

Original: https://blog.csdn.net/m0_60862600/article/details/123116617
Author: 黑洞拿铁
Title: 机器学习初探:(十)K均值聚类(K-means)以及KNN算法

相关阅读2

Title: 相位解包裹

相位解包裹基本算法

相位解包裹实际上就是求解出k值的过程。相位解包裹里有一个要求,就是物体的落差不能太大,若太大,就不能真实测量出物体的高度,究竟多大算大?这个与投影的条纹宽度有关。但是这个并不在我们的讨论中,这里忽略落差大造成的影响。

具体是通过不断求解后一点与前一个点像素的相位差运行Tensorboard可视化文件来求k值。

如果运行Tensorboard可视化文件运行Tensorboard可视化文件内,则运行Tensorboard可视化文件保存,继续比较下一位置的相位;

如果运行Tensorboard可视化文件大于运行Tensorboard可视化文件 ,则运行Tensorboard可视化文件点的相位减运行Tensorboard可视化文件 ;再继续求差值,直到运行Tensorboard可视化文件运行Tensorboard可视化文件内;

如果运行Tensorboard可视化文件小于运行Tensorboard可视化文件 ,则运行Tensorboard可视化文件点的相位加运行Tensorboard可视化文件;再继续求差值,直到运行Tensorboard可视化文件运行Tensorboard可视化文件内。

运行Tensorboard可视化文件

运行Tensorboard可视化文件

通过这个算法,理论上我们就可以将每个点的实际相位求解出来。实际情况中,像素是二维分布的,那就意味着有不同解包裹的路径。由于每个像素都有着一个确定深度,对应着一个确定的相位值,按理来说解包结果与路径的选取无关。但是由于实验中存在误差,每个像素点的相位值并不准确,这就导致我们以不同路径解包裹时,解出来的结果会存在不一样的地方。为了得到从任意方向解都相同的结果,我们可以直接找出误差的的点或者消除误差。

残差点

我们把由于误差造成相位值错误的点称为残差点。我们举例说明残差点的存在:

比如对于这一未解包的相位矩阵 运行Tensorboard可视化文件

当我们先横向解包裹再竖向解包裹后运行Tensorboard可视化文件

当我们先竖向解包裹再横向解包裹后运行Tensorboard可视化文件

很容易发现这两种不同的解包裹方法得到的相位图并不一样,这就是由于残差点的存在造成的。

如何判断残差点?具体判断是通过将相邻四个像素点的差值相加,看其是否为0,为0则不是残差点,为1或-1则是残差点。如下图:

运行Tensorboard可视化文件

其中:

非残差点:运行Tensorboard可视化文件

残差点:运行Tensorboard可视化文件

我们通过相位解包裹的基本算法可以知道,解包裹的过程具有累加性,若解包裹路径上有一个残差点,都会对整个图的相位信息造成影响。所以必须解决这些残差点的影响。

根据对残差点不同的处理方法,可以分出不同的相位解包裹方法。其中主要有两种:一种是基于路径跟踪的相位解包裹方法(先绕过残差点解包裹,然后再将残差点分类处理的一种方法),另一种是最小二乘法的相位解包裹方法(通过最小二乘法将局部误差对整体的影响降低到最小的方法)。

接下来我再一一介绍这两种方法。

基于路径跟踪的相位解包裹方法

此方法中的代表方法是枝切法,具体可以参考这一篇文献(讲得非常详细)。(152条消息) 光学算法——经典枝切法(解包裹算法)_翟天保的博客-CSDN博客_解包裹算法

主要思想是:

先判断出残差点并分出极性,

然后再以其中一个残差点为中心向外搜索另一残差点并连接,若极性相反,则结束搜索;若极性相同,则扩大搜索范围,直到极性相消或者扩大到最大的范围,结束搜索,再对下一个没有连接的残差点重复操作,直到覆盖整个图,将残差点都连接完毕为止。

然后再对非枝切线上的点进行解包裹,解完包裹后,再以这些点为起点,对枝切线上的点进行解包裹,直到解包完所有的像素点(当通过两个极性相反的残差点时,解包裹的误差会抵消,从而能将误差不推向之后的每一个像素点)。

最小二乘法的相位解包裹方法

主要思想是使缠绕函数的离散偏微分和解缠后函数的离散偏微分的差值达到极小,不考虑相邻像元上相位的积分,只通过使缠绕相位的梯度与真实相位的梯度差的平方最小来实现解缠。(具体算法可以参考这一篇文献里面的部分内容)

(152条消息) 可以参考以下里面关于最小二乘法解包裹的内容-其它文档类资源-CSDN文库

关于枝切法的matlab代码,可以参考一下这位前辈的(非常靠谱)

(152条消息) matlab枝切法解包裹_枝切法-图像处理文档类资源-CSDN文库

Original: https://blog.csdn.net/qq_51057357/article/details/123995924
Author: I am Ironman
Title: 相位解包裹

相关阅读3

Title: win10/win11系统下安装tensorflow-GPU版本

win10/win11系统下安装tensorflow-GPU版本

使用前注意

GPU版本

GPU版的tensorflow在调用的时候有加速效果,运行会比较快一些,当然,如果你的硬件没有GPU,只能使用CPU版本的tensorflow,就不需要安装CUDA和cuDNN,直接运行

pip install tensorflow

即可。

版本匹配!!!

tensorflowGPU版本对python、cuda和cuDNN的版本之间的匹配要求是非常高的,如果版本不匹配很有可能出现运行报错的情况。建议在使用和安装tensorflow之前查询官方文档,确定版本关系。
版本对应关系见网站:
链接: https://tensorflow.google.cn/install/source_windows.

cuda版本

使用控制面板 ,找到NVIDIA控制面板
运行Tensorboard可视化文件
点击左下角《系统信息》,出现如下界面:
运行Tensorboard可视化文件
切换至《组件》,呈现如下:
运行Tensorboard可视化文件
可以看到,我的电脑CUDA的版本为11.2版本。

; 安装anaconda

Anaconda的安装和CUDA系列安装并无必须的匹配关系,可以自行搜索教程安装。

安装对应版本的CUDAtoolkit

NVIDIA控制面板显示我的CUDA为11.2版本,因此进入到anaconda prompt下(也可以在conda提供的虚拟环境下)采用如下命令安装

conda install cudatoolkit=11.2

意外的是,在我安装的时候(2022.1.29),国内的镜像源还没有出现11.2版本的cuda去安装,这里我便采用了官网去下载cuda安装包。
官网下载cuda: https://developer.nvidia.com/cuda-toolkit-archive.

进入后,找到你想下载的版本,下载好安装包之后,双击,之后根据提示完成安装即可,在这里一定要记下来CUDAtoolkit的安装路径!。

安装对应版本的cuDNN

根据之前的查询结果,cuda11.2版本最好对应cuDNN8.1版本,不幸的是,镜像源依旧没有该版本的cuDNN供下载,否则,你可以使用

conda install cuDNN=8.1

进行安装。

为了解决这一问题,可以去官网进行下载cuDNN包,
cuDNN官网:https://developer.nvidia.com/rdp/cudnn-archive.

这里比较麻烦的一点是:下载cuDNN必须注册NVIDIA账号!

从官网下载的cuDNN实际上只有一个压缩包,解压之后会发现:
运行Tensorboard可视化文件

这时候,只需要将bin里面的所有文件复制到CUDAtoolkit的bin路径下,如下图:
运行Tensorboard可视化文件
然后将cuDNN下的include里面的所有文件复制到CUDAtoolkit的include的路径下,如下图:
运行Tensorboard可视化文件

将cuDNN下的lib里面的所有文件复制到CUDAtoolkit的lib路径下:
运行Tensorboard可视化文件

到这里cuDNN就算安装完成了。

; 安装tensorflow

实际上安装tensorflow并不难,只要运行

pip install tensorflow-GPU

会自动安装。

最后,运行

pip list

查看你安装的tensorflow版本号是多少,是否和你的CUDA/cuDNN匹配。

总结

安装tensotflow-GPU最要紧的就是注意你要需要的版本是什么,你安装的版本是什么!
祝顺利!

Original: https://blog.csdn.net/xlxlqqq/article/details/122747988
Author: xlxlqqq
Title: win10/win11系统下安装tensorflow-GPU版本