如何在CentOS上快速部署Kafka,轻松实现高效消息队列,成为企业级解决方案的得力助手?
- 内容介绍
- 文章标签
- 相关推荐
说起来,

公司级消息队列的痛点:为什么选择Kafka?老实说,
传统消息队列常面临高并发压力、数据丢失风险和 性瓶颈。Kafka以其自己的优势成为公司首选:
- 高吞吐量单台服务器可处理百万级消息,完美应对海量日志收集需求
- 低延迟毫秒级响应时间满足实时分析程序要求
- 持久化存储消息落盘保障。 不怕机器故障导致数据丢失
- 弹性 无缝支持集群横向 随业务增长轻松调整规模
- 环境完善与Spark/Flink/Spark Streaming等大数据组件深度集成
快速部署教程:3步搭建公司级Kafka环境
1. 环境准备 - 为Kafka铺平道路
注意事项:Java版本必须≥1.8!否则会报错"Unsupported major.minor version"
# 安装依赖 sudo yum -y install java-1.8.0-openjdk-devel wget tar # 验证Java版本 java -version # 应显示openjdk version "1.8.xxx"
2. 一键部署 - 快速启动Kafka服务
# 下载并解压当前版本
wget https://archive.apache.org/dist/kafka/3.2.0/kafka_2.13-3.2.0.tgz
tar -xzf kafka_2.13-3.2.0.tgz
# 配置Zookeeper
sed -i 's/clientPort=.*/clientPort=2181/' config/zookeeper.properties
sed -i 's/dataDir=.*/dataDir=\/var\/lib\/zookeeper/' config/zookeeper.properties
# 配置Kafka主要参数
sed -i 's/listeners=.*/listeners=PLAINTEXT:\/\/$HOSTNAME:9092/' config/server.properties
sed -i 's/log.dirs=.*/log.dirs=\/var\/lib\/kafka-logs/' config/server.properties
mkdir -p /var/lib/{zookeeper。kafka-logs}
chmod 755 /var/lib/{zookeeper,kafka-logs}
# 开启服务
nohup ./bin/zookeeper-server-start.sh config/zookeeper.properties> zk.log 2>&1 &
nohup ./bin/kafka-server-start.sh config/server.properties> kafka.log 2>&1 &
sleep 5
# 验证服务状态
ps aux | grep kafka | grep -v grep
ps aux | grep zkServer | grep -v grep
netstat -tlnp | grep 9092 && netstat -tlnp | grep 2181
echo "若看到进程和端口信息,则安装成功!"
3. 快速验证功能
# 创建测试主题 ./bin/kafka-topics.sh --create --topic test --bootstrap-server $HOSTNAME:9092 --partitions 4 # 生产测试消息 ./bin/kafka-console-producer.sh --topic test --bootstrap-server $HOSTNAME:9092。再看高阶技巧,建立生产级别架构
序号 技术要点 执行方法 ① 高可用集群 - 三节点ZooKeeper集群 - 三节点Broker集群 - ISR副本机制
- 从容灾备份方案来看。
- 跨机房异地多活配置
生产环境关键配置参考表 配置项 默认值 推荐值 作用 log.flush.offset.checkpoint.time.ms 6,0, 检查是否需要刷新日志到磁盘的间隔时间 生产环境建议设为更小值如5秒以提高持久化能力
说起来,

公司级消息队列的痛点:为什么选择Kafka?老实说,
传统消息队列常面临高并发压力、数据丢失风险和 性瓶颈。Kafka以其自己的优势成为公司首选:
- 高吞吐量单台服务器可处理百万级消息,完美应对海量日志收集需求
- 低延迟毫秒级响应时间满足实时分析程序要求
- 持久化存储消息落盘保障。 不怕机器故障导致数据丢失
- 弹性 无缝支持集群横向 随业务增长轻松调整规模
- 环境完善与Spark/Flink/Spark Streaming等大数据组件深度集成
快速部署教程:3步搭建公司级Kafka环境
1. 环境准备 - 为Kafka铺平道路
注意事项:Java版本必须≥1.8!否则会报错"Unsupported major.minor version"
# 安装依赖 sudo yum -y install java-1.8.0-openjdk-devel wget tar # 验证Java版本 java -version # 应显示openjdk version "1.8.xxx"
2. 一键部署 - 快速启动Kafka服务
# 下载并解压当前版本
wget https://archive.apache.org/dist/kafka/3.2.0/kafka_2.13-3.2.0.tgz
tar -xzf kafka_2.13-3.2.0.tgz
# 配置Zookeeper
sed -i 's/clientPort=.*/clientPort=2181/' config/zookeeper.properties
sed -i 's/dataDir=.*/dataDir=\/var\/lib\/zookeeper/' config/zookeeper.properties
# 配置Kafka主要参数
sed -i 's/listeners=.*/listeners=PLAINTEXT:\/\/$HOSTNAME:9092/' config/server.properties
sed -i 's/log.dirs=.*/log.dirs=\/var\/lib\/kafka-logs/' config/server.properties
mkdir -p /var/lib/{zookeeper。kafka-logs}
chmod 755 /var/lib/{zookeeper,kafka-logs}
# 开启服务
nohup ./bin/zookeeper-server-start.sh config/zookeeper.properties> zk.log 2>&1 &
nohup ./bin/kafka-server-start.sh config/server.properties> kafka.log 2>&1 &
sleep 5
# 验证服务状态
ps aux | grep kafka | grep -v grep
ps aux | grep zkServer | grep -v grep
netstat -tlnp | grep 9092 && netstat -tlnp | grep 2181
echo "若看到进程和端口信息,则安装成功!"
3. 快速验证功能
# 创建测试主题 ./bin/kafka-topics.sh --create --topic test --bootstrap-server $HOSTNAME:9092 --partitions 4 # 生产测试消息 ./bin/kafka-console-producer.sh --topic test --bootstrap-server $HOSTNAME:9092。再看高阶技巧,建立生产级别架构
序号 技术要点 执行方法 ① 高可用集群 - 三节点ZooKeeper集群 - 三节点Broker集群 - ISR副本机制
- 从容灾备份方案来看。
- 跨机房异地多活配置
生产环境关键配置参考表 配置项 默认值 推荐值 作用 log.flush.offset.checkpoint.time.ms 6,0, 检查是否需要刷新日志到磁盘的间隔时间 生产环境建议设为更小值如5秒以提高持久化能力

