首页 > 其他分享 >7.20日每周总结

7.20日每周总结

时间:2024-07-29 22:41:24浏览次数:17  
标签:总结 7.20 每周 前端 Hadoop Hive IDEA 数据 虚拟机

本周我主要完成了Hadoop与IntelliJ IDEA的集成,通过IDEA连接到虚拟机上的Hive,并通过前端页面插入数据到Hive中。这一过程涉及多个步骤和技术的应用。

首先,我在虚拟机上安装并配置了Hadoop和Hive。确保Hadoop的分布式文件系统(HDFS)和YARN资源管理器正常运行。接下来,我配置了Hive,创建了相应的数据库和表结构,以便能够存储前端传递过来的数据。

然后,我在本地机器上配置了IntelliJ IDEA,以便通过它与虚拟机进行交互。为了实现这一点,我使用了SSH连接插件,并配置了虚拟机的IP地址和端口,确保IDEA能够远程连接到虚拟机。

在前端部分,我使用了一个简单的Web页面,通过表单输入数据。为了将这些数据传递到后端并最终存储到Hive中,我使用了一个Java后台服务。这个服务通过JDBC连接到Hive,接收到前端传递的数据后,执行相应的SQL插入操作。

具体流程如下:

  1. 安装和配置Hadoop和Hive:在虚拟机上安装Hadoop,并确保HDFS和YARN正常运行。随后安装Hive,并配置其与Hadoop的集成。
  2. 配置IntelliJ IDEA:在本地机器上使用IntelliJ IDEA,通过SSH连接到虚拟机。配置好连接后,可以在IDEA中直接执行Hive的SQL操作。
  3. 前端页面设计:使用HTML和简单的表单,设计一个数据输入页面。用户通过这个页面提交数据。
  4. 后端服务开发:使用Java开发一个简单的Web服务,通过JDBC连接到Hive。接收到前端数据后,构建SQL插入语句并执行。
  5. 数据插入操作:前端用户提交数据后,后端服务接收并解析数据,生成SQL语句,插入到Hive表中。

通过以上步骤,我成功实现了从前端页面输入数据到Hive数据库的全过程。这一项目不仅加深了我对Hadoop和Hive的理解,也提高了我在IntelliJ IDEA中进行大数据操作的技能。此外,这个项目也展示了如何通过Java后台服务将数据从前端传递到Hive中,为以后的大数据项目提供了一个良好的示范。

标签:总结,7.20,每周,前端,Hadoop,Hive,IDEA,数据,虚拟机
From: https://www.cnblogs.com/litianyu1969/p/18331222

相关文章

  • 2024年7.26-7.29学习总结/day29-32
    2024年7.26-7.29学习总结部署上线乐泡泡用户中心项目开坑伙伴匹配系统项目刷牛客刷leetcode部署上线​ 域名备案已申请,但是还没通过,让我周三再申请一次,难受。系统上线之后查询系统还有点bug不过别的功能基本上没有问题。这个项目很简单,就算是从0到1走通了全栈开发的一......
  • LLM并行训练7-混合并行总结
    概述根据前面的系列文章,对预训练大模型里用到的主要并行加速技术做了一系列拆分分析.但是在实际的训练里往往是多种并行混合训练.我们要怎么配置这些并行策略才能让训练框架尽可能的减少通信瓶颈,提升GPU计算利用率呢?这里的变量太多了,以最简单的3D并行为例:硬件层面有......
  • Pinely Round 4 (Div. 1 + Div. 2) 赛后总结
    PinelyRound4(Div.1+Div.2)赛时提交情况:CF1991A.MaximizetheLastElement赛时思路首先,CF判断了足足2min确定我是真人,看到题目时首先想到的是,最后保留的数字之前及之后必然有偶数个数字,且\(n\)为奇数,所以我们可以确定若\(a_i\)是最后保留的数字,\(i\)必然为奇......
  • STL用法总结(二)(deque,map,set)
    4.deque(双端队列)1.介绍首尾都可插入和删除的队列为双端队列#include<deque>//初始化定义deque<int>dq;2.方法函数代码含义q.push_back(x)/pusu_front(x)把x插入队尾/队首q.back()/front()返回队尾/队首元素q.pop_back()/pop_front()删除队尾/队首元素q.erase(ite......
  • 【前端 · 面试 】HTTP 总结(十一)—— HTTPS 概述
    最近我在做前端面试题总结系列,感兴趣的朋友可以添加关注,欢迎指正、交流。争取每个知识点能够多总结一些,至少要做到在面试时,针对每个知识点都可以侃起来,不至于哑火。HTTPS前言通过前面内容的学习,相信大家对HTTP的概念、特点、请求方法及缓存等的......
  • 2024.7.25 模拟赛总结
    T1icanStatement:给定一个有\(n(1\len\le10^7)\)个元素的序列\(a(a_i\le10^9)\),求满足\(i<j\)且\(a_i<a_j\)的点对\((i,j)\)中\(j-i\)的最大值。Solution:考虑什么样的\(a_i\)可能作为点对中较靠左边的元素出现。显然对于一个\(k>i\)且\(a_k......
  • 前端实现图片或视频预览的三种方法总结
    在前端开发中,实现图片或视频预览是一个常见的需求。以下是三种常用的方法来实现图片或视频的预览功能:1.HTML标签直接预览1.1图片预览使用<img>标签可以直接显示图片,并且可以通过src属性动态加载图片。<imgsrc="image.jpg"alt="预览图"/>1.2视频预览使用<video>......
  • Pinely Round 4 (Div. 1 + Div. 2) 复盘总结
    PinelyRound4(Div.1+Div.2)发挥到极致了,写出了两题A.MaximizetheLastElement对于每个满足他左边的数的个数和他后面的数的个数都是奇数的数,取最大值即可。#include<bits/stdc++.h>usingnamespacestd;typedeflonglongll;//#defineintlonglong#defi......
  • Python内置模块常用总结
    目录unittestunittest点击查看代码importunittestfromhtmltestreportimportHTMLTestReportclassTestOne(unittest.TestCase):@classmethoddefsetUpClass(cls)->None:print(f'setUpClass')@classmethoddeftearDownClass......
  • 2023暑假总结2
    暑假总结27.1~7.157月份前半月我们主要是和NOI选手一起打比赛和自己刷题,感谢这次NOI让我真正地体会到了高手的厉害,但也让我觉得NOI其实也不是想象中的那么困难,让我看到了希望。由于之前写过总结,这里就一笔带过了。7.17模拟测试这次模拟测试是和七林一起考的,第一题是一个结......