Apache Flink 是一个分布式流处理框架,支持批处理和流处理。以下是 Flink 框架的安装与配置步骤(以 单机模式 和 集群模式(Standalone) 为主,适用于 Linux / macOS / Windows)。
java -version
若无 Java,可安装:
# Ubuntu
sudo apt install openjdk-8-jdk
官网地址:
https://flink.apache.org/downloads/
示例(Flink 1.17.0):
wget https://archive.apache.org/dist/flink/flink-1.17.0/flink-1.17.0-bin-scala_2.12.tgz
tar -zxvf flink-1.17.0-bin-scala_2.12.tgz
cd flink-1.17.0
目录结构:
flink-1.17.0/
├── bin/ # 启动脚本
├── conf/ # 配置文件
├── lib/ # 依赖库
├── log/ # 日志
适合学习、测试
./bin/start-cluster.sh
http://localhost:8081
./bin/stop-cluster.sh
conf/flink-conf.yamljobmanager.rpc.address: localhost
taskmanager.numberOfTaskSlots: 2
parallelism.default: 2
说明:
jobmanager.rpc.address:JobManager 地址taskmanager.numberOfTaskSlots:每个 TaskManager 的 slot 数conf/workers(旧版本为 slaves)localhost
多节点示例:
node1
node2
node3
./bin/start-cluster.sh
查看进程:
jps
应看到:
StandaloneSessionClusterEntrypoint(JobManager)TaskManagerRunner./bin/flink run examples/streaming/WordCount.jar
tail -f log/flink-*-taskexecutor-*.log
前提:已安装 Hadoop YARN
./bin/flink run -m yarn-cluster examples/streaming/WordCount.jar
kubectl apply -f flink-configuration-configmap.yaml
kubectl apply -f jobmanager-deployment.yaml
kubectl apply -f taskmanager-deployment.yaml
| 配置项 | 说明 |
|---|---|
jobmanager.memory.process.size |
JobManager 内存 |
taskmanager.memory.process.size |
TaskManager 内存 |
parallelism.default |
默认并行度 |
rest.port |
Web UI 端口 |
修改 conf/flink-conf.yaml:
rest.port: 8082
✅ 安装步骤概览:
flink-conf.yaml✅ 适用场景:
如果你需要 Flink + Kafka / HDFS / MySQL 集成配置,或 有具体操作系统(如 CentOS、Windows),可以告诉我,我可以提供更详细的配置示例。
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。