首页 > 其他分享 >暑假总结

暑假总结

时间:2023-08-21 09:11:08浏览次数:33  
标签:总结 存储 系统 分布式计算 Hadoop 存放 暑假 分布式

互联网的快速发展带来了数据快速增加,海量数据的存储已经不是一台机器所能处理的问题了。Hadoop的技术就应运而生。在看了超人学院吴超老师的讲解之后,对这个概念有了一个比较系统的了解。可以讲Hadoop的核心内容看作是两个部分,一个是分布式存储,一个是分布式计算。

对于分布式存储,Hadoop有自己的一套系统来处理叫Hadoop distribution file system。为什么分布式存储需要一个额外的系统来处理呢,而不是就把1TB以上的文件分开存放就好了呢。如果不采用新的系统,我们存放的东西没办进行一个统一的管理。存放在A电脑的东西只能在连接到A去找,存在B的又得单独去B找。繁琐且不便于管理。而这个分布式存储文件系统能把这些文件分开存储的过程透明化,用户看不到文件是怎么存储在不同电脑上,看到的只是一个统一的管理界面。现在的云盘就是很好的给用户这种体验。
对于分布式计算。在对海量数据进行处理的时候,一台机器肯定也是不够用的。所以也需要考虑将将数据分在不同的机器上并行的进行计算,这样不经可以节省大量的硬件的I/O开销。也能够将加快计算的速度。Hadoop对分布式计算的系统为MapReduce。Map即将数据分开存放进行计算,Reduce将分布计算的得到的结果进行整合,最后汇总得到一个最终的结果。这样对Hadoop的技术有一个清晰框架思路。

标签:总结,存储,系统,分布式计算,Hadoop,存放,暑假,分布式
From: https://www.cnblogs.com/wangzelin/p/17645107.html

相关文章

  • 每周总结
      本周是开学前的第二周,马上开学,时间过得真快,下个学习也该考虑考不考研了,好,言归正传,看看本周都干了什么,本周说干了一些事情其实也没有干什么,我主要觉得大数据的学习到学校准备再看一遍,老师讲的很好,就是没记住,现在主要考虑的是开学考,其实一个管理系统对于我来说其实问题不是很大......
  • NOIP模拟2总结
    NOIP模拟2总结目录NOIP模拟2总结整体上:个体上第一题:zerosEGOI2021day1t1第二题:lunaEGOI2021day1t2第三题:cowsEGOI2021day2t3第四题:lanternsEGOI整体上:T1非常简单,但是在简单的T2耗费了大量的时间用于证明,导致简单的T3题都没看就跳过,T4暴力没得分个体上第一题:zero......
  • 假期第六周总结
    这周我学习了解了之后要完成的网站建设任务,并对其中需要用到的技术进行了一些了解和学习。然而,我发现自己和完成任务之间还存在一些差距。特别是在大数据的知识方面,我还需要进一步学习。此外,我也在网站建设的前后端技术方面努力巩固之前学习的Javaweb知识。我学习了Javaweb的基......
  • 暑假生活第五周
    本周我致力于学习Hadoop,并在家里安排了适合学习的环境。以下是我一周的学习情况总结:学习时间:我每天平均投入6个小时学习Hadoop,总共学习了30个小时。学习内容:我着重学习了Hadoop的基本概念、架构和核心组件。具体包括以下几个方面:Hadoop生态系统:我深入了解了Hadoop的生态系统......
  • 构建高效远程团队协作网络的最佳实践分享与经验总结
    随着全球化和科技发展的推进,越来越多的企业开始采用远程办公模式。构建高效远程团队协作网络成为了提高工作效率和团队凝聚力的关键。本文将分享一些构建高效远程团队协作网络的最佳实践和经验总结,帮助团队更好地远程协作。1.选择合适的协作工具选择适合团队需求的协作工具是构......
  • 本周总结
    本周回顾这周也就是在配环境、学习啥的,还抽出了两三天和好朋友出去玩儿啦!遇到的问题hadoop启动有点儿问题,按照教程来,教程好了,我没了解决方法查找其他的教程解决对应的问题,完美解决啦!下周预计接着进行相关知识的学习,应对不久之后的开学考试!......
  • 算法总结
    前言:有关于算法的一切的大合集基本数据结构及排序方法手撸完全二叉树/满二叉树红黑树节点分为红色或者黑色;根节点必为黑色;叶子节点都为黑色,且为null;连接红色节点的两个子节点都为黑色(红黑树不会出现相邻的红色节点);从任意节点出发,到其每个叶子节点的路径中包含相同数......
  • 「C」2022/10/26晚学习总结
    2022/10/26晚学习总结主要内容范围:教材23章今晚浅学了一点点东西,记录一下.fma函数在math.h里,浮点数乘加,比自己手动算精度高.doublefma(doublex,doubley,doublez);返回值:x*y+zmemcpy函数在string.h里,内存复制,他和strcpy的区别是,他不仅仅能复制字符......
  • C++ 变量初始化总结
    堆空间,new操作初始化1、对于有自己写构造函数的类,不论类型名后面有没有括号()或者数组[],都用构造函数进行初始化,如果构造函数delete,则编译报错;2、如果没有构造函数,则不加括号的new只分配内存空间,不进行内存的初始化,3、而加了括号()的new会在分配内存的同时初始化为0。栈空间......
  • LCD常见接口总结
    LCD的接口有多种,分类很细。主要看LCD的驱动方式和控制方式,目前手机上的彩色LCD的连接方式一般有这么几种:MCU接口(也写成MPU接口的),RGB接口,SPI接口VSYNC接口,MIPI接口、MDDI接口,DSI接口等。其中只有TFT模块才有RGB接口。应用比较多的就是MCU接口和RGB接口。MCU接口因为主要针对单片机......