Flink 1.8 的快照版本已经发布,我们可以来使用一下,当然了,过程肯定还是有一些曲折的,这里已经帮大家给记录下来了,顺便给大家踩坑
image.png
使用过程
下载
git clone https://github.com/apache/flink
编译(大概有20分钟这样)
cd flink mvn clean package -DskipTests
编译通过版本在build-target
目录中
[admin@storm1 flink]$ ls build-target bin conf examples lib LICENSE log NOTICE opt README.txt
直接运行cluster
版本是可以的
[admin@storm1 bin]$ ./start-cluster.sh Setting HADOOP_CONF_DIR=/etc/hadoop/conf because no HADOOP_CONF_DIR was set. Starting cluster. Setting HADOOP_CONF_DIR=/etc/hadoop/conf because no HADOOP_CONF_DIR was set. Setting HADOOP_CONF_DIR=/etc/hadoop/conf because no HADOOP_CONF_DIR was set. Starting standalonesession daemon on host storm1.starsriver.cn. Setting HADOOP_CONF_DIR=/etc/hadoop/conf because no HADOOP_CONF_DIR was set. Setting HADOOP_CONF_DIR=/etc/hadoop/conf because no HADOOP_CONF_DIR was set. Starting taskexecutor daemon on host storm1.starsriver.cn.
运行在yarn上,还需要做一些变动
lib中需要如下几个包 打包下载
flink-hadoop-compatibility_2.11-1.8-SNAPSHOT.jarjavax.ws.rs-api-2.0.1.jarjersey-common-2.27.jarjersey-core-1.9.jar
就可以启动yarn-session.sh
了
bin/yarn-session.sh run -n 2 -tm 2048 -s 4
或者是单个yarn-job
flink run -d -m yarn-cluster ./dataset-1.0-SNAPSHOT-all.jar -yn 2 -ytm 2048m
作者:dounine
链接:https://www.jianshu.com/p/a1ce14658244
點擊查看更多內(nèi)容
為 TA 點贊
評論
評論
共同學習,寫下你的評論
評論加載中...
作者其他優(yōu)質(zhì)文章
正在加載中
感謝您的支持,我會繼續(xù)努力的~
掃碼打賞,你說多少就多少
贊賞金額會直接到老師賬戶
支付方式
打開微信掃一掃,即可進行掃碼打賞哦