flink源码编译-job提交,Flink源码编译与Job提交流程解析

马肤

温馨提示:这篇文章已超过400天没有更新,请注意相关的内容是否还可用!

摘要:,,本文介绍了Flink源码编译及作业提交的过程。需要下载并解压Flink源码,然后进行编译。编译完成后,可以通过Flink提供的作业提交工具将作业提交到Flink集群中进行处理。整个过程相对简单,但需要一定的技术基础和对Flink的基本了解。Flink是一个流处理框架,广泛应用于大数据处理领域。

在 standalone 集群中,用于启动 TaskManager 的类为 TaskManagerRunner。

flink源码编译-job提交,Flink源码编译与Job提交流程解析 第1张

通过快捷键 ctrl+n 找到并打开类:org.apache.flink.runtime.taskexecutor.TaskManagerRunner。

为了启动 TaskManager,你需要进行以下步骤:

1、打开 master 启动类。

在启动 TaskManager 之前,你需要确保 master 节点已经成功启动。

2、修改运行配置

在运行 TaskManager 时,需要根据 master 的配置进行相应的调整,需要注意日志配置,特别是日志文件的名称需要稍作修改,可以设置如下参数:

-Dlog.file=./log/flink-taskmanager-1.local.log

以及选择合适的日志配置文件路径,如:

-Dlog4j.configuration=./conf/log4j.properties-Dlogback.configurationFile=./conf/logback.xml

3、修改 flink-conf.yaml 配置文件。

flink源码编译-job提交,Flink源码编译与Job提交流程解析 第2张

在项目的根目录下找到 conf 文件夹,并打开其中的 flink-conf.yaml 文件,在此文件中,你需要添加或修改以下配置(主要是关于 TaskManager 的内存配置):

taskmanager.resource-id: 设置 TaskManager 的资源标识,例如tm_hitao

taskmanager.cpu.cores: 设置 TaskManager 使用的 CPU 核心数,例如设置为 1。

taskmanager.memory.task.heap.size: 设置任务堆外内存大小,例如512m

taskmanager.memory.managed.size: 设置托管内存大小,例如512m

taskmanager.memory.network.mintaskmanager.memory.network.max: 分别设置网络内存的最小和最大值,例如都设置为128m

taskmanager.memory.task.off-heap.size: 设置任务堆外内存大小,根据实际需求进行设置,例如设置为0m

上述配置中的数值仅供参考,实际部署时需要根据集群的硬件资源和业务需求进行调整,确保所有配置正确后,即可启动 TaskManager。


0
收藏0
文章版权声明:除非注明,否则均为VPS857原创文章,转载或复制请以超链接形式并注明出处。

相关阅读

  • 【研发日记】Matlab/Simulink自动生成代码(二)——五种选择结构实现方法,Matlab/Simulink自动生成代码的五种选择结构实现方法(二),Matlab/Simulink自动生成代码的五种选择结构实现方法详解(二)
  • 超级好用的C++实用库之跨平台实用方法,跨平台实用方法的C++实用库超好用指南,C++跨平台实用库使用指南,超好用实用方法集合,C++跨平台实用库超好用指南,方法与技巧集合
  • 【动态规划】斐波那契数列模型(C++),斐波那契数列模型(C++实现与动态规划解析),斐波那契数列模型解析与C++实现(动态规划)
  • 【C++】,string类底层的模拟实现,C++中string类的模拟底层实现探究
  • uniapp 小程序实现微信授权登录(前端和后端),Uniapp小程序实现微信授权登录全流程(前端后端全攻略),Uniapp小程序微信授权登录全流程攻略,前端后端全指南
  • Vue脚手架的安装(保姆级教程),Vue脚手架保姆级安装教程,Vue脚手架保姆级安装指南,Vue脚手架保姆级安装指南,从零开始教你如何安装Vue脚手架
  • 如何在树莓派 Raspberry Pi中本地部署一个web站点并实现无公网IP远程访问,树莓派上本地部署Web站点及无公网IP远程访问指南,树莓派部署Web站点及无公网IP远程访问指南,本地部署与远程访问实践,树莓派部署Web站点及无公网IP远程访问实践指南,树莓派部署Web站点及无公网IP远程访问实践指南,本地部署与远程访问详解,树莓派部署Web站点及无公网IP远程访问实践详解,本地部署与远程访问指南,树莓派部署Web站点及无公网IP远程访问实践详解,本地部署与远程访问指南。
  • vue2技术栈实现AI问答机器人功能(流式与非流式两种接口方法),Vue2技术栈实现AI问答机器人功能,流式与非流式接口方法探究,Vue2技术栈实现AI问答机器人功能,流式与非流式接口方法详解
  • 发表评论

    快捷回复:表情:
    评论列表 (暂无评论,0人围观)

    还没有评论,来说两句吧...

    目录[+]

    取消
    微信二维码
    微信二维码
    支付宝二维码