从最后一个 updated_on 日期推送数据

Question

所以我在我的 jdbc logstash 输入中使用以下查询。

statement => "SELECT * from mydata WHERE updated_on > :sql_last_value  ORDER BY updated_on"
use_column_value =>true
tracking_column =>updated_on
tracking_column_type => "@timestamp"

或

statement => "SELECT * from mydata WHERE  :sql_last_value > updated_on ORDER BY updated_on"
use_column_value =>true
tracking_column =>updated_on
tracking_column_type => "@timestamp"

这里，我的 :sql_last 值被认为是配置文件的最后运行时间。 示例：

"updated_on": "2019-09-26T08:11:00.000Z",
"@timestamp": "2019-09-26T08:17:52.974Z"

这里我的 sql_last_value 对应于@timestamp， 我希望它考虑 updated_on 。

如何更改它以考虑最后更新的日期而不是执行时间？

Answer 1

所以这是your current configuration：

    statement => "SELECT * from agedata WHERE updated_on > :sql_last_value ORDER BY updated_on"
    use_column_value => true
    tracking_column => updated_on
    tracking_column_type => "timestamp"

它所说的基本上是sql_last_value 变量将存储/记住上次运行的updated_on 列的最后一个值，因为use_column_value 是true（不是最后一次运行时间值 按照您的建议，否则 use_column_value 将是 false)。

所以你的配置已经达到了你的预期。