首页> 运维> nginx> 正文

Nginx怎么整合Kafka

王林
发布: 2023-05-21 12:07:06
转载
2109 人浏览过

背景

nginx-kafka-module是nginx的一个插件,可以将kafka整合到nginx中,便于web项目中前端页面埋点数据的收集,如前端页面设置了埋点,即可将用户的一些访问和请求数据通过http请求直接发送到消息中间件kafka中,后端可以通过程序消费kafka中的消息来进行实时的计算。比如通过sparkstream来实时的消费kafka中的数据来分析用户pv,uv、用户的一些行为及页面的漏斗模型转化率,来更好的对系统进行优化或者对来访用户进行实时动态的分析。

具体整合步骤

1.安装git

yum install -y git
登录后复制

2.切换到/usr/local/src目录,然后将kafka的c客户端源码clone到本地

cd /usr/local/src git clone https://github.com/edenhill/librdkafka
登录后复制

3.进入到librdkafka,然后进行编译

cd librdkafka yum install -y gcc gcc-c++ pcre-devel zlib-devel ./configure make && make install
登录后复制

4.安装nginx整合kafka的插件,进入到/usr/local/src,clone nginx整合kafka的源码

cd /usr/local/src git clone https://github.com/brg-liuwei/ngx_kafka_module
登录后复制

5.进入到nginx的源码包目录下 (编译nginx,然后将将插件同时编译)

cd /usr/local/src/nginx-1.12.2 ./configure --add-module=/usr/local/src/ngx_kafka_module/ make && make install
登录后复制

6.修改nginx的配置文件:设置一个location和kafaka的topic

#添加配置(2处) kafka; kafka_broker_list f1:9092 f2:9092 f3:9092; location = /kafka/access { kafka_topic access888; }
登录后复制

如下图:

Nginx怎么整合Kafka

Nginx怎么整合Kafka

7.启动zk和kafka集群(创建topic)

zkserver.sh start kafka-server-start.sh -daemon config/server.properties
登录后复制

8.启动nginx,报错,找不到kafka.so.1的文件

error while loading shared libraries: librdkafka.so.1: cannot open shared object file: no such file or directory

9.加载so库

#开机加载/usr/local/lib下面的库 echo "/usr/local/lib" >> /etc/ld.so.conf #手动加载 ldconfig
登录后复制

10.测试,向nginx中写入数据,然后观察kafka的消费者能不能消费到数据

curl http://localhost/kafka/access -d "message send to kafka topic" curl http://localhost/kafka/access -d "小伟666"测试
登录后复制

也可以模拟页面埋点请求接口来发送信息:

Nginx怎么整合Kafka

后台kafka消费信息如图:

Nginx怎么整合Kafka

以上是Nginx怎么整合Kafka的详细内容。更多信息请关注PHP中文网其他相关文章!

相关标签:
来源:yisu.com
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责声明 Sitemap
PHP中文网:公益在线PHP培训,帮助PHP学习者快速成长!