首页 > 系统相关 >Hadoop Ubuntu18.04下安装&测试

Hadoop Ubuntu18.04下安装&测试

时间:2024-12-02 10:55:29浏览次数:11  
标签:Hadoop hadoop etc 3.4 usr 测试 Ubuntu18.04 local

引子 因为工作需要,接触下大数据,那么接下来一些学习笔记会陆续记录着,OK,让我们开始吧。 一、Hadoop介绍 Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统( Distributed File System),其中一个组件是HDFS(Hadoop Distributed File System)。HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS放宽了(relax)POSIX的要求,可以以流的形式访问(streaming access)文件系统中的数据。Hadoop的框架最核心的设计就是:HDFS和MapReduce。HDFS为海量的数据提供了存储,而MapReduce则为海量的数据提供了计算。 二、安装 1、下载 Hadoop https://hadoop.apache.org/releases.html下载二进制版本 0 Javac http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html 2、安装 Java mkdir /urs/local/hadoop tar -zxvf jdk-8u221-linux-x64.tar.gz mkdir /usr/local/hadoop tar -zxvf hadoop-3.4.1.tar.gz 3、配置 vi /usr/local/hadoop/hadoop-3.4.1/etc/hadoop/hadoop-env.sh 0 vi /etc/profile 0 source /etc/profile 验证: hadoop version 0 三、测试 1、修改配置文件 vi /usr/local/hadoop/hadoop-3.4.1/etc/hadoop/core-site.xml 0 vi /usr/local/hadoop/hadoop-3.4.1/etc/hadoop/hdfs-site.xml 0 2、测试,启动 hadoop namenode -format 0 3、官方例子 cd /usr/local/hadoop/hadoop-3.4.1 mkdir input cp ./etc/hadoop//*.xml input/ hadoop jar /usr/local/hadoop/hadoop-3.4.1/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.4.1.jar grep ./input/ ./output 'df[a-z.]+' cat ./output/* 0  

标签:Hadoop,hadoop,etc,3.4,usr,测试,Ubuntu18.04,local
From: https://www.cnblogs.com/nick-algorithmer/p/18581247

相关文章

  • 软件工程课堂测试九
    软件需求与分析课堂测试九—结构化建模分析II(100分)(45分钟)            1、 需求描述:请设计一个仓储管理系统原型系统,该系统支持多个仓库的设立。统一设立物资台账,物资台账需包含物资编码、物资名称、规格、材质、供应商、品牌、物资分类,用户可以自定义物资的物......
  • 你是如何测试代码的性能的?都有用到哪些工具?
    作为大型语言模型,我不会直接“运行”或“测试”代码,但我可以提供关于前端代码性能测试方法和工具的信息,并帮助你理解如何使用它们。前端性能测试主要关注以下几个方面:加载性能:页面加载速度有多快?运行时性能:页面交互有多流畅?动画是否卡顿?内存使用:页面消耗多少内存?是......
  • JUnit介绍:单元测试
    1、什么是单元测试单元测试是针对最小的功能单元编写测试代码(Java程序最小的功能单元是方法)单元测试就是针对单个Java方法的测试。2、为什么要使用单元测试确保单个方法运行正常;如果修改了代码,只需要确保其对应的单元测试通过。可以自动化运行所有测试并获得报告。......
  • 渗透测试思路
    信息搜集(侦察):收集目标组织的信息,包括网络结构、系统、服务、应用程序和可能的漏洞。漏洞扫描:使用自动化工具扫描目标系统,识别潜在的安全漏洞。漏洞挖掘(利用开发):对发现的漏洞进行深入分析,开发或寻找现有的漏洞利用代码。开始攻击(初始访问):利用漏洞获取目标系统的初始访问......
  • 使用DataGrip连接Oracle数据库造测试数据
    文章目录前言DataGrip连接Oracle数据库连接数据库构成操作数据库造测试数据总结前言软件测试中,当涉及到对特定规则的验证时,常常需要我们在数据库中构造合适的数据。以航空公司为例,航段数与会员等级之间存在着明确的关联规则,测试这一规则需要一定的航段数,我们就需要......
  • 探索性测试
     探索性测试及基本用例 目录1测试决策5要素2缺陷检测3探索性测试3.1探索性测试的定义3.2探索性测试方法3.3探索性测试的核心优势3.4如何评估探索性测试的测试效果4传统的测试和精益与探索式测试区别4.1传统的测试与探索式测试的区别4.2 ......
  • MaxCompute+Hadoop搭建实践
    本文以E-MapReduce的Hive为例,为您介绍在MaxCompute中如何创建外部项目,并查询Hadoop中的表数据。使用限制仅华东1(杭州)、华东2(上海)、华北2(北京)、华北3(张家口)、华南1(深圳)、中国香港、新加坡和德国(法兰克福)地域支持构建湖仓一体能力。MaxCompute与Hadoop集群所在的VPC必须部署......
  • 说说你对冒烟测试的理解
    在前端开发中,冒烟测试(SmokeTesting)是一种快速验证构建版本是否稳定的初步测试。它主要关注核心功能和主要流程是否能够正常工作,不深入细节或边缘情况。可以把它想象成字面意义上的“冒烟”——如果硬件通电后冒烟了,那肯定有问题,不需要进一步测试其他功能。前端冒烟测试通常会覆......
  • 你写的前端代码有做过单元测试吗?使用什么工具?怎么测试的?
    通常,前端单元测试会涵盖以下几个方面:组件渲染:测试组件是否正确渲染,包括props的传递、状态的变化以及UI的更新。事件处理:测试组件对用户交互的响应,例如点击、输入等事件是否触发了正确的函数,并产生了预期的效果。异步操作:测试组件中异步操作的逻辑,例如API调用、......
  • #渗透测试#SRC漏洞挖掘#红蓝攻防#黑客工具之Burp Suite介绍02-如何破解(中英对比)
    免责声明本教程仅为合法的教学目的而准备,严禁用于任何形式的违法犯罪活动及其他商业行为,在使用本教程前,您应确保该行为符合当地的法律法规,继续阅读即表示您需自行承担所有操作的后果,如有异议,请立即停止本文章读。                             ......