tensorflow可视化--tensorboard

标签: 可视化  结构  数据

在训练过程中,可以通过tensorboard来查看运行的图以及误差等数据的变化过程,以下介绍tensorboard的几个模块。
(一)简单的结构说明
(1)整个大框架说明
如图1所示,tensorboard的结构包括:inputs,layer1,layer2,loss,train这几个大框架,这几个框架是在同一层次的。

 with tf.name_scope(layer_name): #定义层
 with tf.name_scope('inputs'): #定义输入
 with tf.name_scope('loss'):  #定义损失
 with tf.name_scope('train'):  #定义训练
 writer = tf.summary.FileWriter("Desktop/",sess.graph) #选定可视化存储目录 

这里写图片描述
图1 整个网络的大框架结构图
(2)每个layer的细则
如图2所示,tensorboard的每一层里面包含:weight,biases,Wx_plus_b这几个节点需要设置,

   with tf.name_scope(layer_name):   #层(下面为每层包含的元素)  
        with tf.name_scope('weights'):    #权值
            Weights = tf.Variable(tf.random_normal([in_size,out_size]))   
            tf.summary.histogram(layer_name+"/weights",Weights) #变量    
        with tf.name_scope('biases'):    #偏置
            biases = tf.Variable(tf.zeros([1,out_size])+0.1) 
            tf.summary.histogram(layer_name+"/biases",biases) #常量
        with tf.name_scope('Wx_plus_b'):    #预测值
            Wx_plus_b = tf.matmul(inputs,Weights)+biases 
            tf.summary.histogram(layer_name+"/Wx_plus_b",Wx_plus_b) 
        outputs = activation_function(Wx_plus_b) #输出   
        tf.summary.histogram(layer_name+"/outputs",outputs)

注意:所有操作之后,必须要merge所有设置的kashima节点并且给定一个放置生成图的文件夹。

#合并到Summary中    
merged = tf.summary.merge_all()    
#选定可视化存储目录    
writer = tf.summary.FileWriter("Desktop/",sess.graph)  

需要查看生成结果,则需要在终端输入:

tensorboard --logdir="Desktop/"

得到一个网址,打开网址即可查看。
这里写图片描述
图2 网络层的细则图
(3)网络全图
如图3所示,我们可以看到网络的每个模块包含哪些部分以及数据流向:

import tensorflow as tf    
import numpy as np    
sess = tf.Session()
def add_layer(inputs,in_size,out_size,n_layer,activation_function=None): #activation_function=None默认线性函数    
    layer_name="layer%s" % n_layer    
    with tf.name_scope(layer_name):    
        with tf.name_scope('weights'):    
            Weights = tf.Variable(tf.random_normal([in_size,out_size])) #变量    
            tf.summary.histogram(layer_name+"/weights",Weights) #可视化变量  
        with tf.name_scope('biases'):    
            biases = tf.Variable(tf.zeros([1,out_size])+0.1) #常量
            tf.summary.histogram(layer_name+"/biases",biases) #可视化常量
        with tf.name_scope('Wx_plus_b'):    
            Wx_plus_b = tf.matmul(inputs,Weights)+biases   
            tf.summary.histogram(layer_name+"/Wx_plus_b",Wx_plus_b)#可视化
        if activation_function is None:    
            outputs = Wx_plus_b    
        else:    
            outputs = activation_function(Wx_plus_b)    
        tf.summary.histogram(layer_name+"/outputs",outputs) #可视化
        return outputs    
#创建数据x_data,y_data    
x_data = np.linspace(-1,1,300)[:,np.newaxis] #[-1,1]区间,300个单位,np.newaxis增加维度    
noise = np.random.normal(0,0.05,x_data.shape) #噪点    
y_data = np.square(x_data)-0.5+noise 

with tf.name_scope('inputs'): #结构化    
    xs = tf.placeholder(tf.float32,[None,1],name='x_input')    
    ys = tf.placeholder(tf.float32,[None,1],name='y_input')    

#三层神经,输入层(1个神经元),隐藏层(10神经元),输出层(1个神经元)    
l1 = add_layer(xs,1,10,n_layer=1,activation_function=tf.nn.relu) #隐藏层    
prediction = add_layer(l1,10,1,n_layer=2,activation_function=None) #输出层    

#predition值与y_data差别    
with tf.name_scope('loss'):    
    loss = tf.reduce_mean(tf.reduce_sum(tf.square(ys-prediction),reduction_indices=[1])) #square()平方,sum()求和,mean()平均值    
    tf.summary.scalar('loss',loss) #可视化观看常量    
with tf.name_scope('train'):    
    train_step = tf.train.GradientDescentOptimizer(0.1).minimize(loss) #0.1学习效率,minimize(loss)减小loss误差     
init = tf.global_variables_initializer()       
#合并到Summary中    
merged = tf.summary.merge_all()    
#选定可视化存储目录    
writer = tf.summary.FileWriter("Desktop/",sess.graph)    
sess.run(init) #先执行init    

#训练1k次    
for i in range(1000):    
    sess.run(train_step,feed_dict={xs:x_data,ys:y_data})    
    if i%50==0:    
        result = sess.run(merged,feed_dict={xs:x_data,ys:y_data}) #merged也是需要run的    
        writer.add_summary(result,i) #result是summary类型的,需要放入writer中,i步数(x轴)  

这里写图片描述
图3 网络结构细则图
(二)查看loss
如图4所示为网址打开之后的菜单,点击‘SCALARS’即可查看loss,点击‘GRAPHS’即可查看网络结构图
这里写图片描述
图4 tensorboard菜单图
如图5所示为loss随着迭代的变化图,可以看出随着训练过程进行,误差越来越小。
这里写图片描述
图5 loss数据变化图

版权声明:本文为xuan_zizizi原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/xuan_zizizi/article/details/78410502

智能推荐

Tensorflow基础:TensorBoard可视化

为了更好的管理、调试和优化神经网络的训练过程,Tensorflow提供了一个可视化工具TensorBoard。TensorBoard可以有效地展示Tensorflow在运行过程中的计算图、各种指标随着时间的变化趋势以及训练中使用到的图像等信息。 TensorBoard简介 TensorBoard是Tensorflow的可视化工具,它可以通过Tensorflow程序运行过程中输出的日志文件可视化Te...

Tensorflow 可视化 Tensorboard 1

  Tensorflow 自带的 tensorboard 去可视化我们所建造出来的神经网络是一个很好的学习理解方式。用最直观的流程图告诉你你的神经网络是长怎样,有助于你发现编程中间的问题和疑问。   这次只是简单展示tensorboard的简单使用。所以demo还是使用上上篇博客的demo,只是对一里面的一下层和必要参数进行了包装。这次展示的图是这样的。 图上有三层 我们的代码里面也是只有简单的三...

Tensorflow入门(3)——TensorBoard可视化

一、存储与可视化 运行后在指定目录产生了日志文件  在tensorboard查看方法 方法①:在Anaconda Prompt中先进入日志存放的目录(非常重要!!!)再运行TensorBoard,并将日志的地址指向程序日志输出的地址 命令:tensorboard --logdir=/path/log,启动服务的端口默认为6006;使用 --port 参数可以改编启动服务的端口 方法②:W...

TensorFlow笔记(3) TensorBoard可视化

TensorFlow笔记(3) TensorBoard可视化 1. TensorBoard简介 2. 运行TensorBoard 3. 常用API 1. TensorBoard简介 TensorBoard是TensorFlow的可视化工具 通过运行过程中输出的日志文件可视化程序的运行状态 可以帮助开发者方便的理解、调试、优化TensorFlow 程序 2. 运行TensorBoard 举个例子: ...

tensorflow学习之tensorboard可视化

tensorboard 功能 可视化的好帮手 Event: 展示训练过程中的统计数据(最值,均值等)变化情况 Image: 展示训练过程中记录的图像 Audio: 展示训练过程中记录的音频 Histogram: 展示训练过程中记录的数据的分布图 原理 在运行过程中,记录结构化的数据 运行一个本地服务器,监听6006端口 请求时,分析记录的数据,绘制 1.Histogram: 展示训练过程中记录的数...

猜你喜欢

TensorFlow-TensorBoard可视化

TensorFlow-TensorBoard可视化 (TensorFlow - TensorBoard Visualization) Advertisements 广告 Previous Page 上一页 Next Page   下一页 TensorFlow includes a visualization tool, which is called the TensorBoard. I...

tensorflow使用tensorboard进行可视化

tensorboard使用步骤   ①指定面板图上显示的变量 ②训练过程中将这些变量计算出来,输出到文件中 ③文件解析    tensorboard --logdir=文件名     在vggnet的代码上进心添加tensorboard语句 源代码     指定面板图上显示的变量 因为是标量,所以用tf.summary...

TensorBoard可视化

基本用法 运行以下命令: tensorboard –logdir=log 在浏览器打开:localhost:6006 获取在某一次运行时所消耗的时间和内存 打开tensorboard,点击左侧的Session runs,可以得到某次运行的信息, 选择Color栏中的Struture,Device,Compute time,Memory等选项,可以查看每个节点的结构,在那个设备上运行,运...

冒泡排序,及改进方式,性能优化400%>>>附图解加源码

首先源码附上,源码中带有注释,看不懂没关系,源码后面附带图解,最后附上代码效率提升图 源码如下: 方案一:其实实现很简单,两层循环,每次内层迭代出最大的一个值,将其放入数组最后一个位置,外层循环的末端便往前移一位。其原理如下图 方案一代码块: 方案二:优化改进 仔细观察上面的图,我们不难发现当迭代到图下这样的情况时,其实已经全排序好了,但是我们还是需要对它进行1,2,3,4,5,6的迭代,这些情况...

css3常用选择器

先介绍一下基本选择器,如下几种 *:通配符。选择页面的所有元素 E:元素选择器。对页面的一些元素进行选择,如p,div,li等 .class:类选择器 #id:id选择器。一个Id在一个页面中只能选择,这是和类选择器的区别 E F:后代选择器。如ul li。选中ul下的li E>F:子元素选择器。如下,可以用 h1 > strong {color:red;}使h1的子元素strong变...