首页 > 其他分享 >华为云flink使用说明

华为云flink使用说明

时间:2022-12-07 16:23:13浏览次数:29  
标签:队列 创建 跨源 flink 作业 点击 说明 华为

华为云flink使用说明

准备资源

  • 开通kafka集群环境(取决于source算子与Sink算子)
  • 开通obs对象存储服务

购买队列

  • 进入数据湖探索DLI产品页面
  • 点击立即购买按钮
  • 选择按需计费
  • 专属资源模式必选,否则创建flink jar作业失败
  • 后续步骤需要创建跨源连接,前提条件之一就是包年包月或者专属资源模式

作业配置

需要配置桶信息,否则在创建flink作业时 OBS桶 选项选择桶信息后还会提示该桶未授权

  • 进入数据湖探索DLI控制台
  • 选择全局配置,作业配置
  • 设置作业相关的桶信息

授权

如果不授权,创建跨源连接会失败,授权时全选即可。

全选后点击更新委托授权即可。

查看授权信息

  • 进入控制台,鼠标悬停在用户名上
  • 点击统一身份认证
  • 进入统一身份认证页面
  • 点击左侧委托菜单
  • 查看委托权限信息

创建跨源连接

跨源连接用来解决数据湖探索的flink jar作业与flink的源算子与下沉算子网络不通的问题

  • 进入数据湖探索DLI控制台
  • 进入跨源管理
  • 选择增强型跨源
  • 点击创建按钮

创建连接

  • 弹性资源池选择刚刚购买的队列
  • 队列资源可通过资源管理下面的队列管理进行查看,新增,删除等
  • 私有云,子网建议与flink的源算子与下沉算子保持一致
  • 点击确定即可创建
  • 点击连接名称,查看资源的状态,绑定关系,以及创建日志(失败时可以通过日志进行调试等)

测试队列的网络连通性

测试队列连通性需要在创建并绑定跨源连接之后

  • 进入DLI控制台
  • 选择资源管理下的队列管理菜单
  • 在创建的队列的操作列,选择更多,测试地址连通性
  • 新开一个标签页
  • 打开Kafka控制台
  • 点击列表中的名称,选择基本信息
  • 复制内网连接地址
  • 返回到连通性界面,粘贴其中一个地址,格式:ip:port
  • 点击测试,测试连通性

上传jar包

将flink的jar程序上传至obs中

当上面的授权,跨源,连通性都没有问题之后,开始创建作业

  • 创建作业

  • 填写作业相关信息
    • 类型选择Flink Jar
    • 输入作业名称
    • 添加描述信息,作为以后运维的依据
    • 点击确定,会跳转到具体信息页面

  • 选择队列(刚刚创建的队列,确保连通性正常)
  • 应用程序选择jar包,需要从对象存储OBS中选择
  • 主类选择指定,并填写类名
  • 版本选择最新版本
  • 选择设置好的OBS桶,运行日志会在该桶中
  • 点击右上角保存按钮

运行Flink作业

  • 点击启动
  • 可通过任务列表查看数据执行情况

监控作业运行情况

可通过任务列表,执行计划,提交日志,运行日志来监控作业执行情况

执行计划的每个算子可以通过点击查看算子详情

通过点击更多,FlinkUI来查看开源Flink的UI界面

欢迎大家留言,以便于后面的人更快解决问题!另外亦欢迎大家可以关注我的微信公众号,方便利用零碎时间互相交流。共勉!

标签:队列,创建,跨源,flink,作业,点击,说明,华为
From: https://www.cnblogs.com/caozz/p/huawei_flink.html

相关文章

  • 关于MFC中resource.h头文件中宏的说明
    在写MFC程序时,当需要动态创建一些控件的时候,需要传递一个ID给相应的控件,比如创建一个按钮CButtonm_bnTestButton;m_bnTestButton.Create(_T("我的按钮"),WS_VISIBLE|WS_C......
  • flink
    Flink端到端的一致性-source端(kafkaconsumer) 偏移量保存下来,如果后续任务出现了故障,恢复的时候可以由连接器重置偏移量,重新消费数据,保证一致性。-内部(checkpoin......
  • Flink端到端的一致性
    Flink端到端的一致性-source端(kafkaconsumer) 偏移量保存下来,如果后续任务出现了故障,恢复的时候可以由连接器重置偏移量,重新消费数据,保证一致性。-内部(checkpoin......
  • 实时数仓原来如此:Kafka+Flink+Hudi
    原来使用kafka消费者直接进行mysql数据同步,现在发现当时只考虑了数据的同步,对于后续数据的存储和使用没有考虑全面。面对大量流式数据,面向的是应用,数据同步之后,数据如何存......
  • synchronized 和 lock 有什么区别?用新的lock有什么好处?举例说明
    1)synchronized属于JVM层面,属于java的关键字monitorenter(底层是通过monitor对象来完成,其实wait/notify等方法也依赖于monitor对象只能在同步块或者方法中才能调用wait/no......
  • 一加9手机降级说明
    手机型号:一加9 LE2110降级过程Android13->Android12->Android11ColorOS13.0.0F.17->ColorOS12->ColorOS11->ColorOS11.2A13(11最后一个版本)准备工作:需要备......
  • EBS: 物料成本转总帐一些表字段说明
    --转总帐批次表--KEY:GL_TRANSFER_RUN_ID,APPLICATION_ID,SET_OF_BOOKS_IDSELECT*fromXLA_GL_TRANSFER_BATCHES_ALLXGTBWHEREGL_TRANSFER_RUN_I......
  • 华为命令
    Telnet配置1、密码登录[Huawei]user-interfaceconsole0//进入管理控制口[Huawei-ui-console0]authentication-modepasswordPleaseconfiguretheloginpassword......
  • Flink Plan Visualizer | Apache Flink Machine Learning Library & Apache
    ApacheFlinkMachineLearningLibrary|ApacheFlinkMachineLearningLibraryhttps://nightlies.apache.org/flink/flink-ml-docs-stable/QuickStart|ApacheFli......
  • Oracle触发器中的NEW和Old关键字说明
    触发器中经常会用到NEW和OLD两个关键字,这是系统默认的吗?只要带上NEW或者OLD,系统就知道是新数据还是老数据?CREATEORREPLACETRIGGERtrg_del_emp_infoBEFOREDELETEON......