搭建解决三好学生成绩问题的神经网络02

搭建解决三好学生成绩问题的神经网络02

前言：

       我们在，搭建了初步的神经网络模型。但是没有进行循环训练神经网络模型，现在我们要对上一节中的神经网络模型进行训练。

训练神经网络模型步骤：

1. 输入数据：x1,x2,x3即两个学生的德育、智育、体育各项的成绩
2. 计算结果：神经网络根据输入的数据和当前的可变参数值计算出结果（y）
3. 计算误差：将计算出来的结果y与我期待的结果（或者说标准答案（yTrain））进行比对，看看误差（loss）是多少。yTrain在三好学生问题中表示两个学生的各自总分。
4. 调整神经网络的可变参数：根据误差的大小，使用反向传播算法，对神经网络中的可变参数进行调节（本问题中的w1,w2,w3）
5. 再次训练：在调节可变参数后，重复上述步骤，直到误差低于我们理想水平。

                                    神经网络训练流程图

代码实现：

1. 在上一个模型的基础上，我们添加了目标值yTrain = tf.placeholder(dtype=tf.float32)和训练误差loss = abs(y - yTrain)。
2. 定义一个优化器变量optimizer。优化器：用来调整神经网络可变参数的对象，TensorFlow中有许多优化器，我们选用的是AlphaGo使用的优化器RMSPropOptimize。这个优化器是通过调用tf.train.RMSPropOptimizer()函数来实现，其中参数0.001是这个优化器的学习率（learn rate），学习率决定优化器每次调整参数的幅度大小。
3. 定义完优化器，我们定义一个训练对象train（代表我们准备如何训练这个神经网络），我们把train对象定义为optimzer.minimize(loss)，也就是说要求优化器按照把loss最小化（minimize）的原则来调整可变参数。

# Author:北京
# QQ:838262020
# time:2019/9/13
import tensorflow as tfx1 = tf.placeholder(dtype=tf.float32)
x2 = tf.placeholder(dtype=tf.float32)
x3 = tf.placeholder(dtype=tf.float32)# 添加一个目标值 
yTrain = tf.placeholder(dtype=tf.float32)w1 = tf.Variable(0.1, dtype=tf.float32)
w2 = tf.Variable(0.1, dtype=tf.float32)
w3 = tf.Variable(0.1, dtype=tf.float32)n1 = x1 * w1
n2 = x2 * w2
n3 = x3 * w3y = n1 + n2 + n3# 训练值和目标值的绝对值差
loss = abs(y - yTrain)# 使用RMSPropOptimzer优化器 
optimzer = tf.train.RMSPropOptimizer(0.001)# 按照最小化的原则处理loss
train = optimzer.minimize(loss)sess = tf.Session()
init = tf.global_variables_initializer()
sess.run(init)result1 = sess.run([train, x1, x2, x3, w1, w2, w3, y, yTrain, loss], feed_dict={x1: 90, x2: 80, x3: 85, yTrain: 85})
print(result1)
result2 = sess.run([train, x1, x2, x3, w1, w2, w3, y, yTrain, loss], feed_dict={x1: 98, x2: 95, x3: 87, yTrain: 96})
print(result2)

 运行结果：

[None, array(90.0, dtype=float32), array(80.0, dtype=float32), array(70.0, dtype=float32), 0.10316052, 0.10316006, 0.10315938, 24.0, array(85.0, dtype=float32), 61.0]
[None, array(98.0, dtype=float32), array(95.0, dtype=float32), array(87.0, dtype=float32), 0.10554425, 0.10563005, 0.1056722, 28.884804, array(96.0, dtype=float32), 67.115196]