首页 > 其他分享 >2024.1.21日报

2024.1.21日报

时间:2024-01-21 10:46:44浏览次数:41  
标签:检索 2024.1 21 hdfs 日报 虚拟机 实验 spark

今天继续学习spark,完成了实验三和实验四,实验三配置环境之前基本已经完成了 虚拟机截图如下

 实验四上来遇到了一个问题,就是我的sparkshell找不到本地文件的路径,因此我选择把他上传到了hdfs中,查阅资料的时候发现这可能是因为spark检索文件的时候是从不同的节点上检索,所以需要保证这个文件在三台虚拟机上的同一个位置都存在才行,这样做无疑是很麻烦的,因此用hdfs会方便一些,默认也是从hdfs检索

 

 

 

 

 

 

 

标签:检索,2024.1,21,hdfs,日报,虚拟机,实验,spark
From: https://www.cnblogs.com/Arkiya/p/17977584

相关文章

  • 百度网盘(百度云)SVIP超级会员共享账号每日更新(2024.01.21)
    一、百度网盘SVIP超级会员共享账号可能很多人不懂这个共享账号是什么意思,小编在这里给大家做一下解答。我们多知道百度网盘很大的用处就是类似U盘,不同的人把文件上传到百度网盘,别人可以直接下载,避免了U盘的物理载体,直接在网上就实现文件传输。百度网盘SVIP会员可以让自己百度账......
  • 21String类的实现
    String类的实现//#include<string>#include<iostream>usingnamespacestd;classString{private: char*_pstr; friendStringoperator+(constString&s1,constString&s2); friendostream&operator<<(ostream&out,constS......
  • P2181 对角线
    题目链接:首先由于不会有三条对角线交于一点,所以过某一个交点有且只能有\(2\)条对角线。而这两条对角线实质上是确定了\(4\)个顶点,因此我们只需要确定\(4\)个顶点就得到了这个唯一确定的交点。因此我们只需要求这样4个顶点的搭配有多少个了,也就是从\(n\)个顶点中取\(4\)......
  • 2024.1.20
    1.异常(1)检查性异常:最具代表性的检查性异常是用户错误或问题引起的异常,这是程序员无法预见的。例如要打开一个不存在的文件时,一个异常就发生了,这些异常不能被简单地忽略。(2)运行时异常:运行时异常时可能被程序员避免的异常。与检查性异常相反,运行时异常可以在编译时被忽略。(3......
  • Office 2021:高效工作,轻松生活 mac/win版
    Office2021是微软公司推出的一款办公软件套件,包括Word、Excel、PowerPoint、Outlook等多个应用程序,是全球范围内广泛使用的办公软件之一。→→↓↓载Office2021mac/win首先,Office2021在功能上进行了许多改进和升级,使得用户可以更加高效地完成各种任务。其中最显著的特点是增......
  • 2024.1.20
                                 关于STL中二分函数的用法#include<bits/stdc++.h>usingnamespacestd;#definelllonglongconstintN=1e7+5;llw[N];lln,k;intmain(){ios::sync_with_stdio(false......
  • SP2150
    不难想到,求区间和可以先\(O(n)\)预处理前缀和,后面就能做到对于区间\([l,r]\)可以\(O(1)\)求出\(\sum_{i=l}^ra_i\)。接下来考虑如何求解答案。设预处理后的前缀和数组\(sum_i=\sum_{j=1}^ia_j\)。区间\([l,r]\)满足要求,当且仅当\(sum_r-sum_{l-1}=47\)成立。将上......
  • NOIP2021
    NOIP2021来啦!Day0为了方便,我们提前一天便到了考点附近。出发之前,我们又在机房里呆了两个小时,大家都在忙着复习着诸如线段树等模板。两个小时的车程后,我们吃过饭,老师又把我们集中开会,跟我们讲了一堆注意事项。讲完之后,大家都睡了。Day1第一次打联赛,不免有些小紧张,毕竟这些题目......
  • P8112 [Cnoi2021] 符文破译 题解
    题目传送门思路先看数据范围,我们发现两个字符串的长度最大会达到\(5\times10^7\)。这立刻打消了我用暴力的想法。于是,我选择了用KMP模式匹配,这一个能够在线性时间内判定字符串\(A\)是否是字符串\(B\)的字串,并求出字符串\(A\)在字符串\(B\)中各次出现的位置。如......
  • UVA821
    题目的大意是求所有点对之间最短路之和的平均值。要求所有点对之间的最短路(即全源最短路),并且数据范围很小。很容易想到使用Floyd算法。Floyd的实现(会用的可以跳过)Floyd本质上是一种动态规划。设\(d_{i,j}\)表示从\(i\)到\(j\)的最短路径的长度(注意题目输入为有向边,所......