首页 > 其他分享 >Kafka数据对接

Kafka数据对接

时间:2023-08-08 14:56:07浏览次数:36  
标签:对接 kafka jks key org import Kafka 数据 store

1、数据流向:被动接收数据

特点:及时性高,数据延迟小,Kafka的数据发送和接收都是毫秒级的。

 

2、接入参数

   kafka:

     security.protocol: SSL

     ssl.endpoint.identification.algorithm:

     ssl:

       protocol: SSL

       key-store-type: JKS

       trust-store-type: JKS

       #key-store-location: file:/root/kafka/ssl/client.keystore.jks

       key-store-location: file:/Users/Downloads/kafka/client.keystore.jks

       key-store-password: kafka-12345

       key-password: kafka-12345

       trust-store-location: file:/Users//Downloads/kafka/client.truststore.jks

       #trust-store-location: file:/root/kafka/ssl/client.truststore.jks

       trust-store-password: kafka-12345

     properties:

       ssl:

         endpoint: 

          identification:

             algorithm: ''

       security: 

        protocol: SSL

     bootstrap-servers: iot.test.com:9002

     producer:

       key-serializer: org.apache.kafka.common.serialization.StringSerializer

       value-serializer: org.apache.kafka.common.serialization.StringSerializer

     consumer:

       group-id: kafka-demo-kafka-group

       key-deserializer: org.apache.kafka.common.serialization.StringDeserializer

       value-deserializer: org.apache.kafka.common.serialization.StringDeserializer

 

3、认证文件

  client.keystore.jks

  client.truststore.jks

 

4、依赖坐标

    <!-- kafkfa -->

    <dependency>

        <groupId>org.springframework.kafka</groupId>

        <artifactId>spring-kafka</artifactId>

    </dependency>

 

5、主题订阅

主题名称:XXX-Product_event

确认硬件设备对应的主题消息,订阅该主题以接收消息。

 

6、监听服务-代码示例

import com.alibaba.fastjson.JSON;

import com.alibaba.fastjson.JSONArray;

import com.alibaba.fastjson.JSONObject;

import com.cscecnf.trolley.entity.PersonnelIdentification;

import com.cscecnf.trolley.util.DateUtils;

import lombok.extern.log4j.Log4j2;

import org.apache.kafka.clients.consumer.ConsumerRecord;

import org.springframework.kafka.annotation.KafkaListener;

import org.springframework.stereotype.Service;

import org.springframework.util.StringUtils;

 

/**

 * Kafka监听服务

 */

@Log4j2

@Service

public class KafkaListenerService {

 

    /**

     * 消费端:指定监听主题

     * @param consumerRecord 监听消息

     */

    @KafkaListener(topics = {"XXX-Product_event"})

    public void handlerMsg(ConsumerRecord<String, String> consumerRecord) {

        log.info("接收到消息:消息主机Key:" + consumerRecord.key() );

        log.info("接收到消息:消息值Value:" + consumerRecord.value() + ",消息偏移量:" + consumerRecord.offset());

        getXxxMessage(consumerRecord.value());

    }

 

    /**

     * 获取XX信息并入库

     * @param record record

     */

    private void getXxxMessage(String record){

        if (StringUtils.isEmpty(record)){

            return ;

        }

        JSONObject jsonObject = JSON.parseObject(record);

    // 根据实际业务返回的数据结构进行解析;

    }

 

}

 

标签:对接,kafka,jks,key,org,import,Kafka,数据,store
From: https://www.cnblogs.com/heyi-77/p/17614316.html

相关文章

  • IBM SPSS Statistics 27 (数据统计分析软件) v27.0.1 中文永久使用
    IBMSPSSStatistics27是一款功能强大的数据统计分析软件,被广泛应用于科学研究、市场调查、商业决策等领域。本文将对SPSSStatistics27进行800字详细介绍。点击获取IBMSPSSStatistics27 首先,SPSSStatistics27拥有丰富的数据分析工具和统计方法。用户可以导入各种格式......
  • Python爬虫在电商数据挖掘中的应用
    作为一名长期扎根在爬虫行业的专业的技术员,我今天要和大家分享一些有关Python爬虫在电商数据挖掘中的应用与案例分析。在如今数字化的时代,电商数据蕴含着丰富的信息,通过使用爬虫技术,我们可以轻松获取电商网站上的产品信息、用户评论等数据,为商家和消费者提供更好的决策依据。在本文......
  • SQL 中 select 和 group by 中数据的相互约束关系
    前提本文的前提是mysql的sql_mode中含有ONLY_FULL_GROUP_BY。如果不含有ONLY_FULL_GROUP_BY,那么就没有本文后续说的限制。可以使用下面这条sql查看。SHOWVARIABLESLIKE'sql_mode';--输出sql_mode|ONLY_FULL_GROUP_BY,STRICT_TRANS_TABLES,NO_ZERO_IN_DATE,NO_ZER......
  • 数据挖掘具体步骤
    数据挖掘具体步骤1、理解业务与数据2、准备数据数据清洗:缺失值处理:异常值:数据标准化:特征选择:数据采样处理:3、数据建模分类问题:聚类问题:回归问题关联分析集成学习imageBagging(例如随机森林算法)BoostingStacking4、模型评估......
  • Django博客开发教程:使用富文本编辑器添加数据
    在Djangoadmin后台添加数据的时候,文章内容文本框想发布一篇图文并茂的文章需就得手写Html代码,这十分吃力,也没法上传图片和文件。这显然不是我等高大上程序猿想要的。为提升效率,我们可以使用富文本编辑器添加数据。支持Django的富文本编辑器很多,这里我推荐使用DjangoUeditor,Uedi......
  • 根据DataFrame A列的值筛选DataFrame B中的数据
    importpandasaspd#创建示例DataFrameAdataA={'ID':[1,2,3,4],'Category':['A','B','A','C']}dfA=pd.DataFrame(dataA)#创建示例DataFrameBdataB={'ID':[1,2,3,4]......
  • Django博客开发教程:用Admin管理后台管理数据
    上节我们我们把数据库迁移到数据库里去了,那么现在我们数据库里是个什么样的情况呢?我们点击Pycharm右上角的Database,然后在网站项目里选中我们的数据库文件db.sqlite3,把它拖到Database框里。然后点击db,就可以查看到我们的网站数据库,我们可以对数据进行增、删、改、查操作。更多......
  • android 导出带数据库文件的APK
    http://www.ophonesdn.com/article/show/111技术文章基于OPhoneSDK1.5的英文电子词典的实现基于OPhoneSDK1.5的英文电子词典的实现OPhone平台开发,2009-12-0711:06:42标签:OPhoneSDK1.5英文词典英文词典是手机中经常使用的应用。因此,在本文将......
  • Spring Boot中使用MongoDB数据库
    本章我们来学习SpringBoot中使用MongoDB数据库,有两种使用方式,一是直接使用mongotemplate,二是新建实体相关的repository接口。引入依赖在pom.xml中加入spring-boot-starter-data-mongodb引入对mongodb的访问支持依赖,它的实现依赖spring-data-mongodb。<dependency><groupId>o......
  • hadoop组件---数据仓库(五)---通过JDBC连接hive的thrift或者hiveserver2
    我们在上一篇文章中已经学习了Hive的常用命令,但是如果使用其他的语言如何跟Hive进行交互呢。Thrift简介Hive拥有HiveServer(Thrift)或者Hiveserver2组件,提供了JDBC驱动服务,使得我们可以用Java代码或者Python来连接Hive并进行一些关系型数据库的sql语句查询等操作。HiveServer或者Hi......