spark如何连接mysql数据库

avatar
作者
猴君
阅读量:0

在Spark中连接MySQL数据库有两种方式:

  1. 使用JDBC连接:
import org.apache.spark.sql.SparkSession  val spark = SparkSession.builder()   .appName("MySQLExample")   .getOrCreate()  val url = "jdbc:mysql://hostname:port/databaseName" val table = "tableName" val properties = new Properties() properties.put("user", "username") properties.put("password", "password")  val df = spark.read.jdbc(url, table, properties) df.show() 
  1. 使用MySQL Connector for Apache Spark:

首先需要在spark-submit命令中添加MySQL Connector的jar包路径:

spark-submit --jars /path/to/mysql-connector-java.jar --class your_class your_jar.jar 

然后在代码中使用MySQL Connector连接MySQL数据库:

import org.apache.spark.sql.SparkSession  val spark = SparkSession.builder()   .appName("MySQLExample")   .getOrCreate()  val url = "jdbc:mysql://hostname:port/databaseName" val table = "tableName" val properties = new Properties() properties.put("user", "username") properties.put("password", "password")  val df = spark.read.format("jdbc")   .option("url", url)   .option("dbtable", table)   .option("user", properties.getProperty("user"))   .option("password", properties.getProperty("password"))   .load()  df.show() 

以上是两种连接MySQL数据库的方式,可以根据需要选择适合自己的方法。

广告一刻

为您即时展示最新活动产品广告消息,让您随时掌握产品活动新动态!