这里搭建一个 3 节点的 Spark 集群,其中三台主机上均部署 Worker 服务。同时为了保证高可用,除了在 hadoop001 上部署主 Master 服务外,还在 hadoop002 和 hadoop003 上分别部署备用的 Master 服务,Master 服务由 Zookeeper 集群进行协调管理
阅读全文
Spark开发环境搭建
官方下载地址:http://spark.apache.org/downloads.html ,选择 Spark 版本和对应的 Hadoop 版本后再下载:
阅读全文
Linux环境下Hive的安装
下载所需版本的 Hive,这里我下载版本为 cdh5.15.2。下载地址:http://archive.cloudera.com/cdh5/cdh/5/
阅读全文
Linux下Python安装
系统环境:centos 7.6
阅读全文
Linux下JDK的安装
系统环境:centos 7.6
阅读全文
Linux下Flume的安装
Flume 需要依赖 JDK 1.8+,JDK 安装方式见本仓库:
阅读全文
Hadoop集群环境搭建
这里搭建一个 3 节点的 Hadoop 集群,其中三台主机均部署 DataNode 和 NodeManager 服务,但只有 hadoop001 上部署 NameNode 和 ResourceManager 服务。
阅读全文
Hadoop单机版环境搭建
Hadoop 的运行依赖 JDK,需要预先安装,安装步骤见:
阅读全文
HBase集群环境配置
这里搭建一个 3 节点的 HBase 集群,其中三台主机上均为 Regin Server。同时为了保证高可用,除了在 hadoop001 上部署主 Master 服务外,还在 hadoop002 上部署备用的 Master 服务。Master 服务由 Zookeeper 集群进行协调管理,如果主 Master 不可
阅读全文
HBase基本环境搭建
HBase 需要依赖 JDK 环境,同时 HBase 2.0+ 以上版本不再支持 JDK 1.7 ,需要安装 JDK 1.8+ 。JDK 安装方式见本仓库:
阅读全文