【问题标题】:can Kafka connect value conveter (JSONConverter) can be used to convert GPB?Kafka连接值转换器(JSONConverter)可以用来转换GPB吗?
【发布时间】:2019-10-03 19:06:12
【问题描述】:

Kafka连接值转换器(JSONConverter)可以用来转换GPB吗?

我使用 kafka connect 作为接收器并将所有主题消息 (GPB) 写入数据库

我在属性文件的 value.converter 字段中使用默认的 JSONConverter 作为 valueconverter,这可以用来转换 GPB 对象吗?

如果不能,我可以使用用于反序列化此对象的反序列化器类还是我需要编写一些其他自定义类?你能分享一些相同的例子吗

【问题讨论】:

    标签: json apache-kafka apache-kafka-connect


    【解决方案1】:

    不,JSONConverter 需要严格格式的 JSON,Protocol Buffers(我假设这就是 GPB 的意思?)是二进制记录,需要适当的转换器。

    幸运的是,社区在这里提供了一个:https://github.com/blueapron/kafka-connect-protobuf-converter/blob/master/README.md

    【讨论】:

    • 是的,我已经阅读过这方面的内容,但只是在想我们是否可以在 kafka lib 中使用任何已经可用的转换器。是confluent还是它的第三方支持的?
    • 它是一个社区转换器,但如果您尝试将 protobuf 与 Kafka Connect 一起使用,它是正确的选择。
    猜你喜欢
    • 2017-12-04
    • 2018-02-13
    • 1970-01-01
    • 2010-09-20
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2020-06-02
    相关资源
    最近更新 更多