#

hdfs

  • 大数据踩过的坑

    搭建集群的时候,hdfs的数据挂载点一定要指定到独立的目录,不要制定到/home之类的下面,因为在使用过程中很有可能导致某个挂载点满了,要是这样的话,/home可能就满了,影响lin

    作者:viking714
    2020-07-13 14:43:52
  • HDFS原理及架构

    HDFS架构 HDFS是一个master/slave结构的服务,其中NameNode是master,一般只在一台节点上启动;DataNode是slave,一般每台节点都会启动一个;DataNode不断

    作者:afeiye
    2020-07-13 06:41:50
  • hadoop shell

    1、查看帮助hadoop fs -help 2、上传hadoop fs -put     如

    作者:lzf05303774
    2020-07-13 00:02:58
  • HDFS的Shell操作(笔记)

    *基本操作(单集群):***1、创建文件夹命令[hadoop@master ~]$ hadoop fs -mkdir -p /201910212、上传文件命令[hadoop@master ~]$ h

    作者:wx5da03a3bd2999
    2020-07-12 13:16:33
  • 好程序员大数据学习路线分享HDFS读流程

      1.客户端或者用户通过调用FileSystem对象的Open()方法打开需要读取的文件,这时就是HDSF分布式系统所获取的一个对象  2.FileSystem通过远程协议调用NameNode确定文

    作者:wx5d42865f47214
    2020-07-10 06:59:59
  • ambari 搭建hadoop大数据平台系列6-验证测试

    ambari 搭建hadoop大数据平台系列6-验证测试web 检查组件服务是否正常启动shell 端检查服务是否健康hdfs fsck / -files -blocks -locations&nbs

    作者:TIMES2020
    2020-07-09 20:34:35
  • hdfs基本概念(设计思想 特性 工作机制 上传下载 namenode存储元数据机制)

    2019/2/16 星期六 hdfs基本概念(设计思想 特性 工作机制 上传下载 namenode存储元数据机制)1、hdfs总的设计思想:设计目标:提高分布式并发处理数据的效率(提高并发度和移动运算

    作者:马吉辉
    2020-07-09 16:14:57
  • hdfs--hadoop--双namenode三datanode

    前提:搭建zookeeper集群、java环境、无秘互通注意:文中加粗部分表示需要按实际情况修改的部分 zookeeper可以参考:zookeeper传送门 下载安装包 https://mirr

    作者:yr_linux运维
    2020-07-07 12:40:14
  • 大数据之hadoop

    一、大数据大数据:解决海量数据问题的技术。大数据由巨型数据集组成,把数据集合并进行分析可得出许多额外的信息和数据关系性。大数据是指无法在一定时间内用常规软件工具对其内容进行抓取、管理和处理的数据集合。

    作者:神奇的小哈
    2020-07-06 08:28:20
  • Hadoop 查看某个文件分成几个块,分别在那台机架的哪个机器上

    命令是 hadoop fsck /g6/input/baidu.log -files -blocks -locations -racks [hadoop@hadoop002 ~]$ hadoop fs

    作者:Stitch_x
    2020-07-06 00:39:42