Cloudera大数据平台环境搭建CDH5.13.1傻瓜式说明书

1、. Cloudera大数据平台环境搭建版版本v1.0作者郭维忠发布日期2018-03-10. 目录 TOC o 1-3 h z u HYPERLINK l _Toc510183717Cloudera大数据平台环境搭建 PAGEREF _Toc510183717 h 1HYPERLINK l _Toc510183718版 PAGEREF _Toc510183718 h 1HYPERLINK l _Toc5101837191.根底环境 PAGEREF _Toc510183719 h 3HYPERLINK l _Toc5101837201.1.软件环境 PAGEREF _Toc510183720 h

2、 3HYPERLINK l _Toc5101837211.2.配置规划 PAGEREF _Toc510183721 h 3HYPERLINK l _Toc5101837221.3.所需要的软件资源 PAGEREF _Toc510183722 h 3HYPERLINK l _Toc5101837231.4.修改机器名所有节点 PAGEREF _Toc510183723 h 3HYPERLINK l _Toc5101837241.5.设置防火墙所有节点 PAGEREF _Toc510183724 h 3HYPERLINK l _Toc5101837251.6.配置免密码登录SSH PAGEREF

3、_Toc510183725 h 3HYPERLINK l _Toc5101837261.7.关闭SELINU*所有节点 PAGEREF _Toc510183726 h 3HYPERLINK l _Toc5101837271.8.修改Linu*核参数所有节点 PAGEREF _Toc510183727 h 3HYPERLINK l _Toc5101837281.9.其他安装与配置所有节点 PAGEREF _Toc510183728 h 3HYPERLINK l _Toc5101837291.10.配置NTP效劳 PAGEREF _Toc510183729 h 3HYPERLINK l _Toc5

4、101837301.11.安装oracle JDK1.8 所有节点 PAGEREF _Toc510183730 h 3HYPERLINK l _Toc510183731安装主节点 PAGEREF _Toc510183731 h 3HYPERLINK l _Toc5101837322.安装CM PAGEREF _Toc510183732 h 3HYPERLINK l _Toc5101837332.1.传包，解包 PAGEREF _Toc510183733 h 3HYPERLINK l _Toc5101837342.2.创立数据库 PAGEREF _Toc510183734 h 3HYPERLIN

5、K l _Toc5101837352.3.创立用户 PAGEREF _Toc510183735 h 3HYPERLINK l _Toc5101837362.4.制作本地YUM源 PAGEREF _Toc510183736 h 3HYPERLINK l _Toc5101837372.5.拷贝jar包 PAGEREF _Toc510183737 h 3HYPERLINK l _Toc5101837382.6.修改cloudera-scm-agent配置 PAGEREF _Toc510183738 h 3HYPERLINK l _Toc5101837392.7.启动CM Server和Agent P

6、AGEREF _Toc510183739 h 3HYPERLINK l _Toc510183740 PAGEREF _Toc510183740 h 3HYPERLINK l _Toc5101837413.安装CDH PAGEREF _Toc510183741 h 3HYPERLINK l _Toc5101837423.1.登录后界面 PAGEREF _Toc510183742 h 3HYPERLINK l _Toc5101837433.2.选择CM版本 PAGEREF _Toc510183743 h 3HYPERLINK l _Toc5101837443.3.指定主机 PAGEREF _Toc

7、510183744 h 3HYPERLINK l _Toc5101837453.4.选择CDH版本 PAGEREF _Toc510183745 h 3HYPERLINK l _Toc5101837463.4.1.出现 主机运行状态不良错误 PAGEREF _Toc510183746 h 3HYPERLINK l _Toc5101837473.5.检查主机正确性 PAGEREF _Toc510183747 h 3HYPERLINK l _Toc5101837483.6.选择安装的效劳 PAGEREF _Toc510183748 h 3HYPERLINK l _Toc5101837493.7.角色

8、分配 PAGEREF _Toc510183749 h 3HYPERLINK l _Toc5101837503.8.数据库设置 PAGEREF _Toc510183750 h 3HYPERLINK l _Toc5101837513.8.1.测试连接报错： PAGEREF _Toc510183751 h 3HYPERLINK l _Toc5101837523.9.群集设置 PAGEREF _Toc510183752 h 3HYPERLINK l _Toc5101837533.10.开场安装 PAGEREF _Toc510183753 h 3HYPERLINK l _Toc5101837543.11

9、.安装完成 PAGEREF _Toc510183754 h 3HYPERLINK l _Toc5101837553.11.1.警告信息： PAGEREF _Toc510183755 h 3HYPERLINK l _Toc5101837564.常见错误 PAGEREF _Toc510183756 h 3HYPERLINK l _Toc5101837574.1.初始化数据库错误： PAGEREF _Toc510183757 h 3HYPERLINK l _Toc5101837584.2.未能连接到 Host Monitor PAGEREF _Toc510183758 h 3. 根底环境软件环境本文

10、将介绍Centos7.4 离线安装CDH和Cloudera Manager过程，软件版本如下：NO.软件名称版本操作系统Centos7.4 64 位JDKjdk-8u151-linu*-*64Clouder ManagerCDH数据库Mysql 5.7JDBC配置规划本次安装共5台效劳器，效劳器配置及用途如下：NO.机器名称网IP配置用途node1688C/32Gb/1TB主，CM，MysqlDBnode1698C/32Gb/1TB从node1708C/32Gb/1TB从node1718C/32Gb/1TB从node1728C/32Gb/1TB从所需要的软件资源JDK环境：JDK版本：1.8.

11、0_151 jdk-8u151-linu*-*64.rpm下载地址：.oracle./technetwork/java/javase/downloads/jdk8-downloads-2133151.htmlCM包：CM版本：5.13.1 下载地址：CDH包CDH版本：，；.sha1；manifest.json下载地址：JDBC连接jar包：jar包版本：，下载地址：修改机器名所有节点修改机器名称# hostnamectl set-hostname * /设置机器名#hostname / 查看本机名这种方式，在Centos7中可以永久性改变主机名称。每个节点机器，都要配置hosts# vi /

12、etc/hosts容都改为：127.0.0.1 localhost /建议保存此行172.16.3.168 node168172.16.3.169 node169172.16.3.170 node170172.16.3.171 node171172.16.3.172 node172设置防火墙所有节点注：为了简便，可以先关闭防所有节点火墙，安装完成后，再按照下面步骤设置。防火墙常用命令：# firewall-cmd -state查询防火墙状态#systemctl stop firewalld.service 关闭防火墙#systemctl start firewalld.service 开启防火

13、墙#systemctl disable firewalld.service 制止firewall开机启动设置防火墙策略，在所有节点执行下面脚本执行前要启动防火墙：/集群机器间可以相互firewall-cmd -permanent -add-rich-rule=rule family=ipv4 source address=172.16.3.168 port protocol=tcp port=0-65535 acceptfirewall-cmd -permanent -add-rich-rule=rule family=ipv4 source address=172.16.3.169 port

14、 protocol=tcp port=0-65535 acceptfirewall-cmd -permanent -add-rich-rule=rule family=ipv4 source address=172.16.3.170 port protocol=tcp port=0-65535 acceptfirewall-cmd -permanent -add-rich-rule=rule family=ipv4 source address=172.16.3.171 port protocol=tcp port=0-65535 acceptfirewall-cmd -permanent -

15、add-rich-rule=rule family=ipv4 source address=172.16.3.172 port protocol=tcp port=0-65535 accept /设置可以的端口firewall-cmd -permanent -add-port=0-65535/tcpfirewall-cmd -reload注意：需要在所有的节点上执行，因为涉及到的端口太多了，临时开放所有端口是为了安装起来方便，安装完毕后可以根据需要设置防火墙策略，保证集群平安。配置免密码登录SSH将子节点设置为从主节点ssh无密码登陆主节点从节点需要无密码互通，否则后面会出现问题在主节点上执行

16、：#cd /进入到根目录# ssh-keygen -t rsa一路回车，生成无密码的密钥对。把公钥拷贝至node169效劳器上：# scp /root/.ssh/id_rsa.pub rootnode169: /输入node169机器上root用户密码拷备成功登录到node169效劳器上：然后在node169效劳器上，把公钥的容追加到authorized_keys文件末尾这个文件也在隐藏文件夹.ssh下，如果没有可以新建：# cat id_rsa.pub /.ssh/authorized_keys如果提示下面信息，则需要创立./ssh目录：-bash: /root/.ssh/authorize

17、d_keys: No such file or directory/创立/.ssh目录,再追加公钥容# mkdir /.ssh# cat id_rsa.pub /.ssh/authorized_keys并设置authorized_keys的权限：# chmod 600 /.ssh/authorized_keys测试：在node168点上执行ssh node169，正常情况下，不需要密码就能直接登陆进去了。在node168节点出现下面表示成功登录node169节点：以同样的方式将公钥拷贝至其他节点效劳器上。关闭SELINU*所有节点关闭linu* SELINU*平安核# setenforce 0

18、 临时生效修改 /etc/selinu*/config 下的 SELINU*=disabled 重启后永久生效# vi /etc/selinu*/config容增加：SELINU*=disabled 重启后生效：# reboot查看SELINU* 是否关闭：#sestatus在Centos7中遇到SELINU*无法关闭的问题，重新启动机器恢复正常修改Linu*核参数所有节点为防止安装过程中出现的异常问题，首先调整Linu*核参数。设置swappiness，控制换出运行时存的相对权重，Cloudera 建议将 swappiness 设置为 10：/查看swappiness# cat /proc/

19、sys/vm/swappiness/永久性修改，执行下面两条命令# sysctl -w vm.swappiness=10# echo vm.swappiness = 10 /etc/sysctl.conf 关闭透明大页面：自CentOS6版本开场引入了Transparent Huge Pages(THP)，从CentOS7版本开场，该特性默认就会启用。尽管THP的本意是为提升存的性能，不过*些数据库厂商还是建议直接关闭THP，否则可能会导致性能出现下降。首先查看透明大页是否启用，always never表示已启用，always never表示已禁用：# cat /sys/kernel/mm/t

20、ransparent_hugepage/defragalways madvise never# cat /sys/kernel/mm/transparent_hugepage/enabledalways madvise never以上状态就说明是启用的。临时关闭重启机器会变回默认开启状态：# echo never /sys/kernel/mm/transparent_hugepage/defrag#echo never /sys/kernel/mm/transparent_hugepage/enabled永久关闭：/编辑/etc/rc.d/rc.local# vi /etc/rc.d/rc.l

21、ocal/在文件后添加下面容:if test -f /sys/kernel/mm/transparent_hugepage/enabled; thenecho never /sys/kernel/mm/transparent_hugepage/enabledfiif test -f /sys/kernel/mm/transparent_hugepage/defrag; thenecho never /sys/kernel/mm/transparent_hugepage/defragfi保存退出，然后赋予rc.local文件执行权限：#chmod +* /etc/rc.d/rc.local重启系

22、统，以后再检查THP状态，显示状态被禁用了。修改文件句柄数：修改系统文件句柄数限制：/查看文件句柄数，显示1024，显然太小#ulimit -n 1024/修改限制#vi /etc/security/limits.conf /在文件后参加下面容：* soft nofile 100000* hard nofile 100000修改后需要重启机器。其他安装与配置所有节点为防止安装过程中出现异常问题，安装相关依赖包：# yum -y install psmisc MySQL-python at bc bind-libs bind-utils cups-client cups-libs cyrus-s

23、asl-gssapi cyrus-sasl-plain ed fuse fuse-libs d d-tools keyutils-libs-devel krb5-devel lib_err-devel libselinu*-devel libsepol-devel libverto-devel mailcap noarch mail* mod_ssl openssl-devel pcre-devel postgresql-libs python-psycopg2 redhat-lsb-core redhat-lsb-submod-security *86_64 spa* time zlib-d

24、evel#yum install -y python-l*ml#yum install krb5-devel cyrus-sasl-gssapi cyrus-sasl-deve lib*ml2-devel lib*slt-devel mysql mysql-devel openldap-devel python-devel python-simplejson sqlite-devel# chmod +* /etc/rc.d/rc.local# yum -y install rpcbind# systemctl start rpcbind# echo systemctl start rpcbin

25、d /etc/rc.d/rc.local配置NTP效劳集群中所有主机必须保持时间同步，如果时间相差较大会引起各种问题。具体建立过程如下：所有节点安装相关组件：# yuminstallntpntpdate-yNTP效劳端主节点：查找时间同步效劳器：翻开网址，容如下：编辑 /etc/ntp.conf：# vi /etc/ntp.conf/在文件中输入上面网页容：启动ntp效劳：# systemctl start ntpd配置开机启动：# systemctlenablentpd.service 注意：如果ntpd 开机启动失效，有可能是因为安装了chronyd并且是开机自启状态，所以导致ntpd开机

26、自启失败。# 查看 chronyd设置状态#systemctl status chronyd显示如下：以面说明，chronyd显示为开机启动状态。将chronyd设为禁用状态：#systemctl disable chronyd.service此时，NTP的效劳开机自启动完成！检查是否设置成功：# ntpq-p/更新时间#timedatectlNTP客户端所有从节点：远程客户端时间同步测试# date#是NTP效劳端IP，显示如下信息，测试成功：客户端设置方案任务，每30分钟同步时间#crontab -e /参加容：0-59/30 * * * * /usr/sbin/ntpdate 172.1

27、6.3.168 & /sbin/hwclock -w设置定时任务开机启动/设置开机启动# systemctl enable crond.service/查看状态# systemctl status crond安装oracle JDK1.8 所有节点下载rpm 安装包jdk-8u151-linu*-*64.rpmCentOS系统一般自带OpenJdk，需要卸载掉自带的OpenJdk，使用# rpm -qa | grep java查询java相关的包，使用# rpm -e nodeps +包名强制卸载掉，下面安装oralce JDK# rpm -ivh jdk-8u151-linu*-*64.rp

28、m配置JAVA_HOME环境变量：修改/etc/profile文件配置环境变量，执行命令：# vi /etc/profile 在profile文件最后，输入下面容，保存并退出。e*port PATH=$PATH:$JAVA_HOME/bin 执行下面命令，让配置生效# source /etc/profile /使修改立即生效#echo $PATH /查看PATH值#echo $JAVA_HOME /查看JAVA_HOME值在Centos7中修改/etc/profile文件配置环境变量，机器启动后有时不生效，可以修改/etc/ bashrc文件配置环境变量：# vi /etc/bashrc/在文

29、件最后参加：e*port PATH=$PATH:$JAVA_HOME/bin /使修改立即生效# source /etc/bashrc /查看JAVA_HOME值#echo $JAVA_HOME Mysql安装主节点到官网 s:/dev.mysql./downloads/file/id=469456选择对应安装包：下载安装包解压安装包/解压后文件列表：按次序安装按monlibsclientserver的顺序安装：#rpm -ivh mysql-munity-devel-5.7.18-1.el7.*86_64.rpm /安装下面包，否则Hue安装报连接错误# 启动数据库# systemctl s

30、tart mysqld 查看状态：# systemctl status mysqld修改MySQL初始密码1、先修改配置文件/etc/my.f令MySQL跳过登录时的权限检验，在mysqld下参加一行：skip-grant-tables2、重启MySQL#service mysqld restart3、免密码登录MySQL。#mysql4、mysql客户端执行如下命令，修改root密码mysql use mysql;mysql UPDATE user SET authentication_string = password(your-password) WHERE host = localho

31、st AND user = root;mysql select host,user,authentication_string, password_e*pired from user; mysql update user set password_e*pired=N where password_e*pired=Y /密码不过期mysql update user set host=% where user=root and host=localhost; /远程可mysql flush privileges; /刷新mysql e*it;/退出5、修改配置文件/etc/my.f删除此前新增那一

32、行skip-grant-tables，并重启MySQL(这一步非常重要，不执行可能导致严重的平安问题)#service mysqld restart /重启 Mysql安装CM传包，解包在主节点上下载相关软件包，这里将软件包下载到/data/ cdh/目录下。#cd /data/cdh下载Mysql JDBC包：下载CM：#wgetarchive-primary.cloudera./cm5/cm/5/cloudera-manager-centos7-cm5.13.1_*86_64.tar.gz 下载CDH：将CM解压到/opt/目录：#tar -z*vf cloudera-manager-ce

33、ntos7-cm5.13.1_*86_64.tar.gz -C /opt/#ls /opt/创立数据库在主节点上：# mysql -h127.0.0.1 -uroot -p /加参数-h127.0.0.1 指定本机方式，否则可能不允许执行grantEnter password: 输入数据库密码/在MariaDB (none)命令状态输入下面脚本：create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;create database amon DEFAULT CHARSET utf8 COLLATE utf8_gener

34、al_ci;create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci;create database monitor DEFAULT CHARSET utf8 COLLATE utf8_general_ci;create database oozie DEFAULT CHARSET utf8 COLLATE utf8_general_ci;grant all privileges on *.* to rootlocalhost identified by root with grant option;grant all o

35、n *.* to root% Identified by root;flush privileges;e*it;/复制Mysql JDBC包到目录#/初始化CM，执行下面脚本#/如果出现下面错误：java.sql.SQLE*ception: Access denied for user rootlocalhost (using password: YES)/解决方法：在/etc/hosts 文件中，加上127.0.0.1 localhost.node168主节点/etc/hosts容：脚本/scm_prepare_database.sh 执行成功界面：创立用户在所有节点上执行：# userad

36、d -system -home=/opt/cm-5.13.1/run/cloudera-scm-server -shell=/bin/false -ment Cloudera SCM User cloudera-scm制作本地YUM源在主节点上：/进入软件包目录#cd /data/cdh/拷贝三个文件到/opt/cloudera/parcel-repo/目录#cp CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel.sha1 manifest.json /opt/cloudera/parce

37、l-repo/进入/opt/cloudera/parcel-repo/目录#cd /opt/cloudera/parcel-repo/修改文件名此时/opt/cloudera/parcel-repo/目录下文件：拷贝jar包在所有节点上：/如果没有/usr/share/java/目录，则创立#cp mysql-connector-java-5.1.43-bin.jar /usr/share/java/mysql-connector-java.jar在主节点上：/将mysql JDBC jar 包拷贝到目录#cp mysql-connector-java-5.1.43-bin.jar 修改clo

38、udera-scm-agent配置在主节点上，修改文件：/将config.ini server_host=localhost 容改为在主节点上：/将cm-5.13.1 打包，并复制到其他节点#cd /opt /复制到其他节点#scp cm-5.13.1.tar.gz node169:/opt/#scp cm-5.13.1.tar.gz node170:/opt/#scp cm-5.13.1.tar.gz node171:/opt/#scp cm-5.13.1.tar.gz node172:/opt/在所有从节点上解压：/将cm-5.13.1 包解压#cd opt #tar -*zvf cm-5

39、.13.1.tar.gz /解压后删除启动CM Server和Agent在主节点上，启动cloudera-scm-server：#启动过程较慢，可通过日志，查看启动过程。在所有节点上，启动cloudera-scm-agent：#CM地址：主节点IP:7180用户名、密码：admin 安装CDH登录后界面承受协议：选择CM版本本文档选择Cloudera E*press免费版。指定主机在搜索主机名和IP地址框输入node169-172，这里输入的容支持正则表达式。输入后点【搜索】按钮，出现机器列表：选择当前管理的主机选择项卡，点【继续】。选择CDH版本这里需要选择制作本地源时的版本，如果选择别的版本的就会去官网下载，那样安装速度会很慢。点【继续】按钮，进入安装界面。出现主机运行状态不良错误遇到节点主机运行状态不良的提示，解决方法是删除故障节点Agent效劳cm_guid文件：cloud