大数据Hadoop之——部署hadoop+hive+Mysql环境（window11(1)

avatar
作者
猴君
阅读量:3
2）Hadoop配置环境变量
  • HADOOP_HOME

注意：

如果 jdk 默认安装C:\Program Files\Java\，则需要修改 %HADOOP_HOME%/etc/hadoop/hadoop-env.cmd 文件，

例如

将    set JAVA_HOME=C:\Program Files\Java\jdk1.8.0_191

改为 set JAVA_HOME=C:\PROGRA~1\Java\jdk1.8.0_191

或者直接改环境变量JAVA_HOME= 从C:\Program Files\Java\ 改成C:\PROGRA~1\Java\

验证

$ hadoop --version

3）在hadoop解压目录下创建相关目录
  • 创建data和tmp目录

  • 在data文件夹下面再创建namenode和datanode目录

4）修改Hadoop配置文件
  • 配置文件目录：$HADOOP_HOME\etc\hadoop
1、core-site.xml文件：添加以下配置
<configuration>     <property>         <name>fs.defaultFS</name>         <value>hdfs://localhost:9000</value>     </property>   </configuration>
2、hdfs-site.xml文件：添加以下配置，路径改成自己的安装路径
<configuration> 	<property> 		<name>dfs.replication</name> 		<value>1</value> 	</property> 	<property> 		<name>dfs.namenode.name.dir</name>     		<value>/D:/bigdata/hadoop/hadoop-3.1.3/data/namenode</value>     	</property> 	<property> 		<name>dfs.datanode.data.dir</name>     		<value>/D:/bigdata/hadoop/hadoop-3.1.3/data/datanode</value>   	</property> </configuration>
3、mapred-site.xml文件：添加以下配置
<configuration>     <property>         <name>mapreduce.framework.name</name>         <value>yarn</value>     </property> </configuration>
4、yarn-site.xml文件：添加以下配置
<configuration> <!-- Site specific YARN configuration properties -->      <property>         <name>yarn.nodemanager.aux-services</name>         <value>mapreduce_shuffle</value>     </property>     <property>         <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>         <value>org.apache.hadoop.mapred.ShuffleHandler</value>     </property>     <property>         <name>yarn.nodemanager.resource.memory-mb</name>         <value>1024</value>     </property>     <property>         <name>yarn.nodemanager.resource.cpu-vcores</name>         <value>1</value>     </property>  </configuration>
5）替换文件
1、替换bin目录下文件（winutils）

打开winutils文件，把里面的bin文件复制到hadoop的安装路径，替换掉原来的bin文件，替换过程如下：

下载：apache-hadoop-3.1.0-winutils
也可以去GitHub上下载其它对应版本

2、按照路径找到图中该文件

把它复制到上一级目录，即

6）格式化节点
$ hdfs namenode -format
7）运行

【温馨提示】回到hadoop安装bin目录下，右击以管理员的身份运行start-all.cmd文件，要不然会报权限问题

出现下面四个窗口就是 成功了，注意每个窗口标题的后面的名称，比如yarn nodemanager,如果没有出现则是失败

8）验证

hdfs web 地址：http://localhost:9870/

yarn web 地址：http://localhost:8088/

到此为止window版本的hadoop就安装成功了

三、安装mysql8.x

上述的 hive初始化是在 mysql安装完成后实现的。

1、下载mysql

官网下载：MySQL :: Download MySQL Community Server

2、配置mysql环境变量
3、初始化mysql

【温馨提示】右键以管理员身份运行cmd，否则在安装时会报权限的错，会导致安装失败的情况。

# 切换到mysql bin目录下执行 # cd D:\software\window-hadoop-hive\mysql\mysql-8.0.28-winx64\bin # d: $ mysqld --initialize --console
4、安装mysql服务
$ mysqld --install mysql
5、通过命令启动服务
$ net start mysql
6、通过mysql客户端登录验证并修改root密码
$ mysql -uroot -p #输入上面初始化的密码
8、重置mysql root密码（命令行都要以管理员运行 ）
  • 停止mysql服务
$ net stop mysql
  • 启动MySQL服务的时候跳过权限表认证
$ mysqld --console --skip-grant-tables --shared-memory
  • 在新开的命令行中执行mysql

【温馨提示】由于上面的命令行被mysql的服务给占用，我们得重新开启一个新的命令行

$ mysql
  • 将root用户的密码清空
$ update user set authentication_string = ''  where user='root' ;    
  • quit 退出，然后在之前的命令行将我们开启的mysql服务停止掉（Ctrl+C或者关闭命令行），然后执行net start mysql 重新启动mysql服务
$ net  start mysql
  • 在我们之后开启的命令行中输入mysql -uroot -p 然后按enter键，输入密码继续按enter键（这里密码已经被清空）
$ mysql -uroot -p
  • 修改密码
ALTER USER 'root'@'localhost' IDENTIFIED BY '123456'; FLUSH PRIVILEGES;

【问题】如果mysql工具出现错误：

Authentication plugin ‘caching_sha2_password’ cannot be loaded

【原因】

很多用户在使用Navicat Premium 12连接MySQL数据库时会出现Authentication plugin ‘caching_sha2_password’ cannot be loaded的错误。

出现这个原因是mysql8 之前的版本中加密规则是mysql_native_password,而在mysql8之后,加密规则是caching_sha2_password, 解决问题方法有两种,一种是升级navicat驱动,一种是把mysql用户登录密码加密规则还原成mysql_native_password.

【解决】

管理员权限运行命令

ALTER USER ‘root’@‘localhost’ IDENTIFIED BY ‘123456’;

ALTER USER ‘root’@‘localhost’ IDENTIFIED WITH mysql_native_password BY ‘123456’;

FLUSH PRIVILEGES;

  • 退出后，使用新密码登录
$ mysql -uroot -p

四、Hive安装（window10环境）

1）下载Hive

各版本下载地址：Index of /dist/hive

这选择最新版本

hive 3.1.2版本下载地址：http://archive.apache.org/dist/hive/hive-3.1.2/apache-hive-3.1.2-bin.tar.gz

2）Hive配置环境变量
3）新建本地目录（后面配置文件会用到）
4）在hadoop上创建hdfs目录（后面配置文件会用到）
$ hadoop fs  -mkdir       /tmp $ hadoop fs  -mkdir       /user/ $ hadoop fs  -mkdir       /user/hive/ $ hadoop fs  -mkdir       /user/hive/warehouse  $ hadoop fs  -chmod g+w   /tmp $ hadoop fs  -chmod g+w   /user/hive/warehouse

5）修改Hive 配置文件

配置文件目录hive\apache-hive-3.1.2-bin\conf中4个默认的配置文件模板拷贝成新的文件名

hive-default.xml.template -----> hive-site.xml
hive-env.sh.template -----> hive-env.sh
hive-exec-log4j.properties.template -----> hive-exec-log4j2.properties
hive-log4j.properties.template -----> hive-log4j2.properties

1、hive-site.xml 文件：配置文件内容如下
<?xml version="1.0" encoding="UTF-8" standalone="no"?> <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>  <configuration>   <!--hive的临时数据目录，指定的位置在hdfs上的目录-->     <property>         <name>hive.metastore.warehouse.dir</name>         <value>/user/hive/warehouse</value>         <description>location of default database for the warehouse</description>     </property>   <!--hive的临时数据目录，指定的位置在hdfs上的目录-->     <property>         <name>hive.exec.scratchdir</name>         <value>/tmp/hive</value>         <description>HDFS root scratch dir for Hive jobs which gets created with write all (733) permission. For each connecting user, an HDFS scratch dir: ${hive.exec.scratchdir}/&lt;username&gt; is created, with ${hive.scratch.dir.permission}.</description>     </property>   <!-- scratchdir 本地目录 -->     <property>         <name>hive.exec.local.scratchdir</name>         <value>F:/bigdata/apache-hive/my_hive/scratch_dir</value>         <description>Local scratch space for Hive jobs</description>     </property>   <!-- resources_dir 本地目录 -->     <property>         <name>hive.downloaded.resources.dir</name>         <value>F:/bigdata/apache-hive/my_hive/resources_dir/${hive.session.id}_resources</value>         <description>Temporary local directory for added resources in the remote file system.</description>     </property>   <!-- querylog 本地目录 -->     <property>         <name>hive.querylog.location</name>         <value>F:/bigdata/apache-hive/my_hive/querylog_dir</value>         <description>Location of Hive run time structured log file</description>     </property>   <!-- operation_logs 本地目录 -->     <property>         <name>hive.server2.logging.operation.log.location</name>         <value>F:/bigdata/apache-hive/my_hive/operation_logs_dir</value>         <description>Top level directory where operation logs are stored if logging functionality is enabled</description>     </property>   <!-- 数据库连接地址配置 -->     <property>         <name>javax.jdo.option.ConnectionURL</name>         <value>jdbc:mysql://localhost:3306/hive?serverTimezone=UTC&amp;useSSL=false&amp;allowPublicKeyRetrieval=true</value>         <description>         JDBC connect string for a JDBC metastore.         </description>     </property>   <!-- 数据库驱动配置 -->     <property>         <name>javax.jdo.option.ConnectionDriverName</name>         <value>com.mysql.cj.jdbc.Driver</value>         <description>Driver class name for a JDBC metastore</description>     </property>   <!-- 数据库用户名 -->     <property>         <name>javax.jdo.option.ConnectionUserName</name>         <value>root</value>         <description>Username to use against metastore database</description>     </property>   <!-- 数据库访问密码 -->     <property>         <name>javax.jdo.option.ConnectionPassword</name>         <value>root</value>         <description>password to use against metastore database</description>     </property>   <!-- 解决 Caused by: MetaException(message:Version information not found in metastore. ) -->     <property>         <name>hive.metastore.schema.verification</name>         <value>false</value>         <description>         Enforce metastore schema version consistency.         True: Verify that version information stored in is compatible with one from Hive jars. Also disable automatic         schema migration attempt. Users are required to manually migrate schema after Hive upgrade which ensures         proper metastore schema migration. (Default)         False: Warn if the version information stored in metastore doesn't match with one from in Hive jars.         </description>     </property>   <!-- 自动创建全部 --> <!-- hive Required table missing : "DBS" in Catalog""Schema" 错误 -->     <property>         <name>datanucleus.schema.autoCreateAll</name>         <value>true</value>         <description>Auto creates necessary schema on a startup if one doesn't exist. Set this to false, after creating it once.To enable auto create also set hive.metastore.schema.verification=false. Auto creation is not recommended for production use cases, run schematool command instead.</description>     </property> 	  <!-- 指定hiveserver2连接的host（hive用户要绑定的网络接口） --> <property>    <name>hive.server2.thrift.bind.host</name>    <value>localhost</value>    <description>Bind host on which to run the HiveServer2 Thrift service.</description> </property>  <!-- 指定hiveserver2连接的端口号,hs2端口 默认是10000，为了区别，我这里不使用默认端口--> <property>     <name>hive.server2.thrift.port</name>     <value>10002</value> </property>  <property>   <name>hive.server2.active.passive.ha.enable</name>   <value>true</value>   <description>Whether HiveServer2 Active/Passive High Availability be enabled when Hive Interactive sessions are enabled.This will also require hive.server2.support.dynamic.service.discovery to be enabled.</description> </property>   </configuration>
2、hive-env.sh 文件：配置文件内容如下
# Set HADOOP_HOME to point to a specific hadoop install directory export HADOOP_HOME=D:\software\window-hadoop-hive\hadoop\hadoop-3.1.3   # Hive Configuration Directory can be controlled by: export HIVE_CONF_DIR=D:\software\window-hadoop-hive\hive\apache-hive-3.1.2-bin\conf   # Folder containing extra libraries required for hive compilation/execution can be controlled by: export HIVE_AUX_JARS_PATH=D:\software\window-hadoop-hive\hive\apache-hive-3.1.2-bin\lib
6）替换hvie中的bin目录

【温馨提示】2.2.0版本之后就不提供cmd相关文件了，所以得去下载apache-hive-2.2.0-src.tar.gz，把这个版本里的bin目录文件替换到hive安装bin目录下。

下载：apache-hive-2.2.0-src.tar.gz

7）下载mysql-connector-java-*.jar

这里将mysql-connector-java-*.jar拷贝到hvie安装目录lib下

下载地址：https://repo1.maven.org/maven2/mysql/mysql-connector-java/8.0.28/mysql-connector-java-8.0.28.jar

8）创建Hive 初始化依赖的数据库hive,注意编码格式：latin1

在  mysql 数据库中创建 hive 数据库，名称就是 hive，编码 latin1

9）Hive 初始化数据

默认已经安装mysql8.0（见下面mysql安装）

# 在hive的bin目录下执行 $ hive --service schematool -dbType mysql -initSchema

10）启动Hive 服务
1、首先启动Hadoop

在hyadoop安装目录 sbin 下执行指令：stall-all.cmd，上面其实已经验证过了，启动是没问题的。

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数大数据工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。
img
img
img
img
img

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）
img

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

里一直到现在。**

深知大多数大数据工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。
[外链图片转存中…(img-LRCpnr4Y-1713019756866)]
[外链图片转存中…(img-W8yAgEKP-1713019756866)]
[外链图片转存中…(img-UnKxUWeD-1713019756867)]
[外链图片转存中…(img-pGbeaoUA-1713019756867)]
[外链图片转存中…(img-YCGj98NH-1713019756867)]

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）
[外链图片转存中…(img-MN9lHRtj-1713019756867)]

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

相关阅读
  1. 如何查看和设置我的Android N设备的权限？
  2. 如何在安卓手机上自定义应用图标？
  3. 如何在安卓微信中同时听语音和查看图片？
  4. 华为哪些设备将支持升级至安卓7.0？
  5. 微信安卓软件中Q10功能有哪些独特之处？
  6. 安卓用户如何挑选最佳视频播放器应用？
  7. 安卓系统中用户文件目录的确切位置是什么？
  8. 小米4用户如何安全升级到安卓8.0系统？
  9. 如何成功将魅蓝5升级至安卓原生7.0版本？
  10. 16GB存储的安卓手机是否能满足日常需求？

广告一刻

为您即时展示最新活动产品广告消息，让您随时掌握产品活动新动态！