TensorFlow中变量初始化与优化机制详解

import tensorflow as tf

# 为了与原问题保持一致，这里假设num_coeffs已定义
num_coeffs = 6 
w = tf.Variable([0.] * num_coeffs, name="parameters")

import tensorflow as tf
import numpy as np

# 禁用TensorFlow 2.x行为，使用TensorFlow 1.x的图模式
tf.compat.v1.disable_eager_execution() # 等同于tf.disable_v1_behavior()

# 定义多项式模型的阶数
num_coeffs = 6 

# 1. 定义模型函数
def model(X, w):
    terms = []
    for i in range(num_coeffs):
        term = tf.multiply(w[i], tf.pow(X, i))
        terms.append(term)
    return tf.add_n(terms)

# 2. 定义占位符用于输入数据和真实标签
# X 用于输入特征（例如，x值）
X = tf.compat.v1.placeholder(tf.float32, name="X_input")
# Y 用于真实标签（例如，y值）
Y = tf.compat.v1.placeholder(tf.float32, name="Y_true")

# 3. 初始化模型参数 w
# 初始值为全零向量
w = tf.Variable([0.] * num_coeffs, name="parameters")

# 4. 构建模型预测
y_model = model(X, w)

# 5. 定义损失函数
# 这里使用均方误差 (Mean Squared Error, MSE)
loss = tf.reduce_mean(tf.square(y_model - Y))

# 6. 选择优化器
# 使用梯度下降优化器，学习率为0.01
learning_rate = 0.01
optimizer = tf.compat.v1.train.GradientDescentOptimizer(learning_rate).minimize(loss)

# 7. 准备训练数据
# 假设真实关系是一个二次多项式加上一些噪声
# y = 1 + 2x + 3x^2 + noise
true_w = np.array([1., 2., 3., 0., 0., 0.]) # 真实的系数
X_train = np.linspace(-1, 1, 100).astype(np.float32)
Y_true_values = np.polyval(true_w[::-1], X_train) # np.polyval需要系数从高次到低次，所以反转
Y_train = Y_true_values + np.random.randn(*X_train.shape) * 0.1 # 添加噪声

# 8. 启动TensorFlow会话并训练模型
init = tf.compat.v1.global_variables_initializer()

with tf.compat.v1.Session() as sess:
    sess.run(init)

    print("初始参数 w:", sess.run(w)) # 在训练前查看w的值

    training_steps = 1000
    for step in range(training_steps):
        # 运行优化器和损失计算
        _, current_loss = sess.run([optimizer, loss], feed_dict={X: X_train, Y: Y_train})

        if step % 100 == 0:
            print(f"步骤 {step}, 损失: {current_loss:.4f}")
            # print(f"当前参数 w: {sess.run(w)}") # 可以选择打印实时参数

    final_w = sess.run(w)
    print("\n最终参数 w:", final_w)
    print("真实参数 w:", true_w)

    # 简单验证：查看最终参数是否接近真实参数
    # 注意：由于噪声和优化限制，不会完全一致