首页 > 其他分享 >Flink数仓项目常见问题总结

Flink数仓项目常见问题总结

时间:2022-08-28 11:34:05浏览次数:67  
标签:OutputTag 数仓 常见问题 startTag phoenix maxwell flink version Flink

Flink数仓项目常见问题总结

 

一、开发中的常见bug

 

1、OutputTag的对象新建问题缺少花括号

 

 

 

Exception in thread "main" org.apache.flink.api.common.functions.InvalidTypesException: Could not determine TypeInformation for the OutputTag type. The most common reason is forgetting to make the OutputTag an anonymous inner class. It is also not possible to use generic type variables with OutputTags, such as 'Tuple2<A, B>'.

问题原因:类型擦除问题

因为flink要识别侧输出的数据类型。这是实现成了匿名内部类,泛型里就带类型了,flink就能够推测出你要输出的是什么数据类型。

OutputTag<String> startTag = new OutputTag<String>("startTag"){};

OutputTag<String> startTag = new OutputTag<String>("startTag");

 

解决方案:

记得新建对象时加花括号OutputTag<String> startTag = new OutputTag<String>("startTag"){};

 

2、maxwell启动失败!!!

原因:在MySQL中增加新的数据库时gmall0106_config ,如果之前已经初始化过Binlog,会导致maxwell的配置表中找不到 gmall0106_config的元数据信息,导致启动失败

 

 

 

解决方案:

删除maxwell的元数据信息,重启maxwell.

 

3、ERROR (com.alibaba.druid.pool.DruidDataSource:init) - init datasource error, url: jdbc:phoenix:hadoop102,hadoop103,hadoop104:2181

java.sql.SQLException: ERROR 726 (43M10):  Inconsistent namespace mapping properties. Cannot initiate connection as SYSTEM:CATALOG is found but client does not have phoenix.schema.isNamespaceMappingEnabled enabled

 

 

 

错误原因:hbase服务器的namespace和phoenix客户端(idea)的schema没有实现映射

 

解决方案: <configuration>

<!-- 注意:为了开启hbase的namespace和phoenix的schema的映射,在程序中需要加这个配置文件,另外在linux服务上,也需要在hbase以及phoenix的hbase-site.xml配置文件中,加上以上两个配置,并使用xsync进行同步-->

<property>

    <name>phoenix.schema.isNamespaceMappingEnabled</name>

    <value>true</value>

</property>

 

<property>

    <name>phoenix.schema.mapSystemTablesToNamespace</name>

    <value>true</value>

</property>

</configuration>

注:phoenix客户端(cmd)客户端配置文件也需要添加以上两个配置

 

3、Exception in thread "main" org.apache.flink.table.api.TableException: Could not instantiate the executor. Make sure a planner module is on the classpath

 

 

 

原因:执行flinkSQL时,缺少配置信息

解决方案两种:

1)添加黄色配置信息StreamTableEnvironment tableEnv = StreamTableEnvironment.create(env, EnvironmentSettings.newInstance().useAnyPlanner().build());

2)添加必要依赖

dependency>

    <groupId>org.apache.flink</groupId>
    <artifactId>flink-table-planner-blink_${scala.version}</artifactId>
    <version>${flink.version}</version>
</dependency>

 

 

标签:OutputTag,数仓,常见问题,startTag,phoenix,maxwell,flink,version,Flink
From: https://www.cnblogs.com/xie-pf/p/16632444.html

相关文章

  • Flink 消费 Kafka 数据后在写回 Kafka 示例
    今天介绍一下Flink从kafka读取数据后,再将数据写回kafka的一个案例示例代码/***从一个topic读取数据,在写回另一个topic*/publicclassSinkToKafka0824{......
  • flink cdc 使用
    flinkcdc使用目前cdc产品非常多,目前我使用canal,flinkcdc(集成debezium)二者对比相对来说flinkcdc更加强大,功能很多但是有很多坑,迭代速度很快,借助flink......
  • 【AGC】崩溃服务之常见问题
    ​ 1、崩溃服务后,应用出现崩溃闪退的情况。解决方案:1、如果是集成崩溃服务后,打开应用直接崩溃闪退,则有可能是崩溃服务未能进行正确的集成配置,需要按照以下步骤进行排查:......
  • Flink出现network.partition.ProducerFailedException: java.lang.NullPointerExcepti
    一、错误日志org.apache.flink.runtime.io.network.netty.exception.RemoteTransportException:Erroratremotetaskmanager'xx.xxx.xxx.xxx/xxx.xxx.xxx.xxx:34750'......
  • 【AGC】【云数据库】云数据库常见问题
    ​1、【问题描述】是否可以添加支持kotlin文件的导出功能?​【解决方案】目前,我们没有这样的开发议程,因为有对Java的支持。 2、【问题描述】咨询一下云数据关联......
  • 【付费推广】常见问题合集,主子任务结构
    主子任务结构Q1:主子任务结构是什么?付费推广平台统一任务结构,区分主子任务,在子任务维度设置人群包、关键词、影子投放目标应用、oCPD转化目标。具体的介绍可参考学习《投......
  • 消息队列常见问题总结
    消息队列常见问题总结作者:Grey原文地址:博客园:消息队列常见问题总结CSDN:消息队列常见问题总结说明本文是极客时间消息队列高手课的学习笔记消息队列的主要作用解......
  • 【索引】Mysql索引常见问题
    1、什么是索引:索引是一种数据结构,用来提高在数据表中的数据查询效率,同时也是随机读和有效排序的基础。2、为什么使用索引:根本原因在于磁盘速度与内存速度差距甚大,所......
  • 【FAQ】统一扫码服务常见问题
    ​ 1、华为统一扫码服务在控制台打印的日志如何关闭?​答:非常抱歉,目前扫码SDK未提供相关api可以关闭日志打印。 2、统一扫码服务支持同时识别多个一维码吗?​答:非常......
  • Flink1.10定义UDAGG遇到SQL validation failed. null 问题
    按照以下代码测试定义的UDAGG会一直出现org.apache.flink.table.api.ValidationException:SQLvalidationfailed.null问题importorg.apache.flink.configuration.Jo......