在 Tensorflow 中获取线性回归的系数答案

【问题标题】：Get coefficients of a linear regression in Tensorflow在 Tensorflow 中获取线性回归的系数
【发布时间】：2018-02-08 02:11:19
【问题描述】：

我在 Tensorflow 中做了一个简单的线性回归。我怎么知道回归的系数是多少？我已经阅读了文档，但我无法在任何地方找到它！ (https://www.tensorflow.org/api_docs/python/tf/estimator/LinearRegressor)

编辑代码示例

import numpy as np
import tensorflow as tf

# Declare list of features, we only have one real-valued feature
def model_fn(features, labels, mode):
  # Build a linear model and predict values
  W = tf.get_variable("W", [1], dtype=tf.float64)
  b = tf.get_variable("b", [1], dtype=tf.float64)
  y = W * features['x'] + b
  # Loss sub-graph
  loss = tf.reduce_sum(tf.square(y - labels))
  # Training sub-graph
  global_step = tf.train.get_global_step()
  optimizer = tf.train.GradientDescentOptimizer(0.01)
  train = tf.group(optimizer.minimize(loss),
                   tf.assign_add(global_step, 1))
  # EstimatorSpec connects subgraphs we built to the
  # appropriate functionality.
  return tf.estimator.EstimatorSpec(
      mode=mode,
      predictions=y,
      loss=loss,
      train_op=train)

estimator = tf.estimator.Estimator(model_fn=model_fn)
# define our data sets
x_train = np.array([1., 2., 3., 4.])
y_train = np.array([0., -1., -2., -3.])
x_eval = np.array([2., 5., 8., 1.])
y_eval = np.array([-1.01, -4.1, -7, 0.])
input_fn = tf.estimator.inputs.numpy_input_fn(
    {"x": x_train}, y_train, batch_size=4, num_epochs=None, shuffle=True)
train_input_fn = tf.estimator.inputs.numpy_input_fn(
    {"x": x_train}, y_train, batch_size=4, num_epochs=1000, shuffle=False)
eval_input_fn = tf.estimator.inputs.numpy_input_fn(
    {"x": x_eval}, y_eval, batch_size=4, num_epochs=1000, shuffle=False)

# train
estimator.train(input_fn=input_fn, steps=1000)
# Here we evaluate how well our model did.
train_metrics = estimator.evaluate(input_fn=train_input_fn)
eval_metrics = estimator.evaluate(input_fn=eval_input_fn)
print("train metrics: %r"% train_metrics)
print("eval metrics: %r"% eval_metrics)

【问题讨论】：

您能否发布您的代码，以便我们了解您到底做了什么？一般很难回答...
对不起。我正在关注tensorflow.org/get_started/get_started 中的教程示例中的示例
您没有使用tf.estimator.LinearRegressor，而是实现了您自己的估算器，对吧？（相当于一个线性回归器）。
@jdehesa 我也尝试过使用该选项。在那种情况下，我怎样才能得到系数值？

标签： python machine-learning tensorflow

【解决方案1】：

编辑：正如Jason Ching 指出的那样，发布此答案后发生了一些变化。现在有估计器方法get_variable_names 和get_variable_value，估计器权重似乎不再自动添加到tf.GraphKeys.MODEL_VARIABLES。

估计器被设计为基本上作为一个黑盒工作，因此没有直接的 API 来检索权重。即使在您的情况下，您是定义模型的人（而不是使用预先存在的模型），您也无法直接访问估计器对象中的参数。

也就是说，您仍然可以通过其他方式检索变量。如果您知道变量的名称，一种选择是简单地使用get_operation_by_name 或get_tensor_by_name 从图形对象中获取它们。更实用和通用的选择是使用集合。当您调用tf.get_variable 或之后调用tf.add_to_collection 时，您可以将模型变量放在一个公共集合名称下以供以后检索。如果您查看tf.estimator.LinearRegressor 的实际构建方式（在this module 中搜索函数linear_model），所有模型变量都会添加到tf.GraphKeys.GLOBAL_VARIABLES 和tf.GraphKeys.MODEL_VARIABLES。这是（大概，我还没有真正检查过）所有可用的罐装估算器的共同点，因此通常在使用其中一个时，您应该能够简单地做到：

model_vars = tf.get_collection(tf.GraphKeys.MODEL_VARIABLES)

在这种情况下，最好使用tf.GraphKeys.MODEL_VARIABLES，而不是tf.GraphKeys.GLOBAL_VARIABLES，后者用途更广泛，也可能包含其他不相关的变量。

【讨论】：

我的 tf.GraphKeys.MODEL_VARIABLES 是空的。我正在使用这个：print([(v, linear_regressor.get_variable_value(v)) for v in linear_regressor.get_variable_names()])
@JasonChing 谢谢，我已经更新了答案（或者您可以自己发布另一个答案，我会支持并参考它）。显然，自发布答案以来，他们进行了一些更改。

【解决方案2】：

试试这个：

LR.train(input_fn=train_input_data,steps = 1)

with tf.Session() as sess:
    last_check = tf.train.latest_checkpoint(tf_data)
    saver = tf.train.import_meta_graph(last_check + '.meta')
    print (last_check +'.meta')
    saver.restore(sess, last_check)
    ######
    Model_variables = tf.GraphKeys.MODEL_VARIABLES
    Global_Variables = tf.GraphKeys.GLOBAL_VARIABLES
    ######
    all_vars = tf.get_collection(Model_variables)
    # print (all_vars)
    for i in all_vars:
        print (str(i) + '  -->  '+ str(i.eval()))

【讨论】：