自主学习搭建kafka,在此期间也遇见了一些问题,具体步骤与解决方案在下文介绍。

1、安装jdk

jre下载地址:https://www.oracle.com/technetwork/java/javase/downloads/jre8-downloads-2133155.html
具体安装方法不再赘述。

2、 安装Zookeeper

下载地址:https://zookeeper.apache.org/releases.html

下载后,解压放在目录D:\bigdata(本文所用的目录)下,关于zookeeper以及kafka的目录,路径中最好不要出现空格,比如D:\Program Files,尽量别用,运行脚本时会有问题。

①进入zookeeper的相关设置所在的文件目录,例如本文的:D:\bigdata\zookeeper-3.4.12\conf

②将"zoo_sample.cfg"重命名为"zoo.cfg"

③打开zoo.cfg(至于使用什么编辑器,根据自己喜好选即可),找到并编辑:
dataDir=/tmp/zookeeper to D:/bigdata/zookeeper-3.4.12/data或 D:\bigdata\zookeeper-3.4.12\data(路径仅为示例,具体可根据需要配置)
这里注意,路径要么是"/“分割,要么是转义字符”\",这样会生成正确的路径(层级,子目录)。

④与配置jre类似,在系统环境变量中添加:
a.系统变量中添加ZOOKEEPER_HOME=D:\bigdata\zookeeper-3.4.12
b.编辑系统变量中的path变量,增加%ZOOKEEPER_HOME%\bin

⑤在zoo.cfg文件中修改默认的Zookeeper端口(默认端口2181)

⑥打开cmd窗口,输入zkserver,运行Zookeeper,运行结果如下:
kafka搭建和安装

3 安装kafka

下载地址:http://kafka.apache.org/downloads
要下载Binary downloads这个类型,不要下载源文件,这种方便使用。下载后,解压放在D:\bigdata目录下。

①进入kafka配置文件所在目录,D:\bigdata\kafka_2.11-2.2.0\config

②编辑文件"server.properties",找到并编辑:

log.dirs=/tmp/kafka-logs to log.dirs=D:/bigdata/kafka_2.11-2.2.0/kafka-logs 或者 D:\bigdata\kafka_2.11-2.2.0\kafka-logs

同样注意:路径要么是"/“分割,要么是转义字符”\",这样会生成正确的路径(层级,子目录)。错误路径情况可自行尝试,文件夹名为这种形式:bigdatakafka_2.11-2.2.0kafka-logs

③在server.properties文件中,zookeeper.connect=localhost:2181代表kafka所连接的zookeeper所在的服务器IP以及端口,可根据需要更改。本文在同一台机器上使用,故不用修改。

④kafka会按照默认配置,在9092端口上运行,并连接zookeeper的默认端口2181。

4 运行kafka

提示:请确保启动kafka服务器前,Zookeeper实例已经在运行,因为kafka的运行是需要zookeeper这种分布式应用程序协调服务。

①进入kafka安装目录D:\bigdata\kafka_2.11-0.9.0.1

②按下shift+鼠标右键,选择"在此处打开命令窗口",打开命令行。

③在命令行中输入:.\bin\windows\kafka-server-start.bat .\config\server.properties 回车。

④正确运行的情况为:
kafka搭建和安装

到目前为止,zookeeper以及kafka都已正确运行。保持运行状态,不要关闭。

5 创建主题

①创建主题,命名为"test001",replicationfactor=1(因为只有一个kafka服务器在运行)。可根据集群中kafka服务器个数来修改replicationfactor的数量,以便提高系统容错性等。

②在D:\bigdata\kafka_2.11-2.2.0\bin\windows目录下打开新的命令行

③输入命令:
kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test001
kafka搭建和安装
该窗口可以关闭。

6 创建生产者(producer)和消费者(consumer)

①在D:\bigdata\kafka_2.11-2.2.0\bin\windows目录下打开新的命令行。

②输入命令,启动producer:
kafka-console-producer.bat --broker-list localhost:9092 --topic test001
kafka搭建和安装
该窗口不要关闭。

③同样在该目录下打开新的命令行。

④输入命令,启动consumer:
kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic topic001 --from-beginning
kafka搭建和安装
现在生产者、消费者均已创建完成。

⑤在producer命令行窗口中任意输入内容,回车在consumer命令行窗口中即可看到相应的内容。

参考博客:
https://blog.csdn.net/m0_37738114/article/details/80405068
https://blog.csdn.net/zajbetterme/article/details/84553594

分类:

技术点:

相关文章: