Windows下安装DataX-web源码并使用_业界新闻

发布时间:2024-07-29 17:19

阅读量:0

环境要求：
1.DataX成功安装并且能运行

一.下载DataX-web

下载地址：https://github.com/WeiYe-Jing/datax-web/blob/master/userGuid.md

我这是下载的源码，用idea启动使用

下载好后解压到本地，用idea打开，项目结构如下

二.创建DataX-web所需的库和表

1.先创建个数据库，库名为datax_web。你也可以叫其他名字

2.在datax_web数据库中执行datax_web.sql文件。

datax_web.sql文件位置在刚才下载的datax-web项目里

三.修改配置

1.修改datax_admin下resources/application.yml文件

1.1修改数据源配置，目前仅支持mysql

 #数据源   datasource:     #    username: root     #password: root     #url: jdbc:mysql://localhost:3306/datax_web?serverTimezone=Asia/Shanghai&useLegacyDatetimeCode=false&useSSL=false&nullNamePatternMatchesAll=true&useUnicode=true&characterEncoding=UTF-8          #数据库密码     password: ${DB_PASSWORD:root123}     #数据库账号     username: ${DB_USERNAME:root}     #数据库连接地址     url: jdbc:mysql://${DB_HOST:127.0.0.1}:${DB_PORT:3306}/${DB_DATABASE:datax_web}?serverTimezone=Asia/Shanghai&useLegacyDatetimeCode=false&useSSL=false&nullNamePatternMatchesAll=true&useUnicode=true&characterEncoding=UTF-8     driver-class-name: com.mysql.jdbc.Driver

1.2修改日志路径path

logging:   #level:     #com.wugui.datax.admin.mapper: info     #path: ./data/applogs/admin   level:     com.wugui.datax.admin.mapper: error     path: ./data/applogs/admin

1.3修改邮件发送配置(不需要最后也把他写上，随便写个邮件，密码就行，不然启动报错)

# datax-web email   mail:     host: smtp.qq.com     port: 25     #username: xxx@qq.com     #password: xxx     username: 123456@qq.com     password: 123456     properties:       mail:         smtp:           auth: true           starttls:             enable: true             required: true         socketFactory:           class: javax.net.ssl.SSLSocketFactory

2.修改datax_executor下resources/application.yml文件

2.1修改日志路径path

# log config logging:   config: classpath:logback.xml   path: ./data/applogs/executor/jobhandler

2.2修改datax.job配置

datax:   job:     admin:       ### datax-web admin address       addresses: http://127.0.0.1:8080     executor:       appname: datax-executor       ip:       port: 9999       ### job log path       logpath: ./data/applogs/executor/jobhandler       ### job log retention days       logretentiondays: 30   executor:     jsonpath: /Users/mac/data/applogs    pypath: /Users/mac/tools/datax/bin/datax.py

admin.addresses datax_admin部署地址，如调度中心集群部署存在多个地址则用逗号分隔，执行器将会使用该地址进行"执行器心跳注册"和"任务结果回调"；
executor.appname 执行器AppName，每个执行器机器集群的唯一标示,执行器心跳注册分组依据；
executor.ip 默认为空表示自动获取IP，多网卡时可手动设置指定IP，该IP不会绑定Host仅作为通讯实用；地址信息用于 "执行器注册" 和 "调度中心请求并触发任务"；
executor.port 执行器Server端口号，默认端口为9999，单机部署多个执行器时，注意要配置不同执行器端口；
executor.logpath 执行器运行日志文件存储磁盘路径,需要对该路径拥有读写权限;
executor.logretentiondays 执行器日志文件保存天数,过期日志自动清理, 限制值大于等于3时生效; 否则, 如-1, 关闭自动清理功能；
executor.jsonpath datax json临时文件保存路径
pypath DataX启动脚本地址，例如：xxx/datax/bin/datax.py 如果系统配置DataX环境变量（DATAX_HOME），logpath、jsonpath、pypath可不配，log文件和临时json存放在环境变量路径下。