問題應該算挺常見的但是一句話還挺難說清楚,所以百度特別難搜。 場景就是,有一堆以員工名稱命名的文件(名稱可能還有字母數字等前尾碼),現在給定一個員工清單,需要從這些文件中篩選出員工清單上列出的員工的文件,並複製到另外一個目錄中。 輸入: 1. 許多文件名包含員工名稱的文件 2.一個清單文件,裡面包含 ...
一、下載這些軟體(見)
系統變數設置(安裝maven和jdk略)
vi /etc/profile
JAVA_HOME=/usr/local/jdk1.8.0_40
CLASSPATH=$JAVA_HOME/lib/
PATH=$PATH:$JAVA_HOME/bin
DATAX_HOME=/usr/local/datax
PATH=$PATH:$DATAX_HOME/bin
export MAVEN_HOME=/usr/local/apache-maven-3.6.3
export PATH=$PATH:$MAVEN_HOME/bin
生效系統變數
source /etc/profile
yum install python
二、安裝配置datax
wget http://datax-opensource.oss-cn-hangzhou.aliyuncs.com/datax.tar.gz
tar -zxvf datax.tar.gz && mv datax /usr/local/ cd /usr/local/datax/bin/ python datax.py /usr/local/datax/job/job.json
報錯:
com.alibaba.datax.common.exception.DataXException: Code:[Common-00], Describe:[您提供的配置文件存在錯誤信息,請檢查您的作業配置 .] - 配置信息錯誤,您提供的配置文件[/usr/local/datax/plugin/reader/._drdsreader/plugin.json]
進入查詢,刪除文件
cd /usr/local/datax/plugin/reader
ll -a
[root@Data1 reader]# ll -a
total 76
drwxr-xr-x 21 502 games 4096 Feb 19 21:05 .
drwxr-xr-x 4 502 games 66 Feb 19 21:05 ..
drwxr-xr-x 3 502 games 224 Feb 19 21:05 cassandrareader
-rwxr-xr-x 1 502 games 212 Oct 12 2019 ._cassandrareader
....
刪除._開頭語文件
rm -f ._*
cd /usr/local/datax/plugin/writer/
rm -f ._*
再次運行成功安裝完成:
python /usr/local/datax/bin/datax.py /usr/local/datax/job/job.json
由於/etc/profile中加了DATAX_HOME的環境變數,也可以用下麵語句測試dataX是否安裝成功:
[root@node-4 bin]# python $DATAX_HOME/bin/datax.py $DATAX_HOME/job/job.json
安裝datax-web
centos7安裝DataX可視化工具DataX-web
三、安裝環境:Centos7,JDK1.8, Python 2.7.5,Datax 最新版本,Datax-web-2.1.2
1、下載datax-web免編譯壓縮包
datax-web壓縮包:https://pan.baidu.com/s/13yoqhGpD00I82K4lOYtQhg 提取碼:cpsk
2、解壓壓縮包
tar -xvf datax-web-2.1.2.tar.gz
3、安裝
cd datax-web-2.1.2/bin
./install.sh #一鍵安裝
會有交互 提示,一路輸入 y就行
4、配置
cd datax-web-2.1.2/modules/datax-execute/bin
cd /usr/local/datax-web-2.1.2/modules/datax-admin/bin
配置datax-web的資料庫:
四、在navicat裡面執行sql文件
MySQL8.0及以上版本創建資料庫並分配用戶授權
1)create database `datax_web` character set utf8mb4;
2)CREATE USER 'root'@'%' IDENTIFIED BY 'jysj@123456';
3)flush privileges;
4)grant all privileges on *.* to root@'%' with grant option;
5)ALTER USER 'root'@'%' IDENTIFIED WITH mysql_native_password BY 'jysj@123456';
6)flush privileges;
執行一鍵安裝腳本
進入解壓後的目錄,找到bin目錄下麵的install.sh文件,如果選擇互動式的安裝,則直接執行
./bin/install.sh
在交互模式下,對各個模塊的package壓縮包的解壓以及configure配置腳本的調用,都會請求用戶確認,可根據提示查看是否安裝成功,如果沒有安裝成功,可以重覆嘗試; 如果不想使用交互模式,跳過確認過程,則執行以下命令安裝
./bin/install.sh --force
啟動datax-web服務
cd datax-web-2.1.2/bin
./start-all.sh
訪問web頁面:http://192.168.100.4:9527/index.html
預設admin/123456
5、
報錯:[odpsreader,mysqlwriter]載入失敗,1s後重試... Exception:Code:[Common-00], Describe:[您提供的配置文件存在錯誤信息,請檢查您的作業配置 .] - 配置信息錯誤,
您提供的配置文件[/home/lijixin/datax/datax/plugin/reader/._oraclereader/plugin.json]不存在. 請檢查您的配置文件.
經DataX智能分析,該任務最可能的錯誤原因是:
com.alibaba.datax.common.exception.DataXException: Code:[Common-00], Description:[您提供的配置文件存在錯誤信息,請檢查您的作業配置。].
-配置信息錯誤 ,您提供的配置文件:/Users/hn/datax/plugin/reader/.DS_Store/plugin.json]不存在,請檢查您的配置文件。
查看plugins里是否有clickhouse的writer和reader的文件夾,文件夾裡面是jar包,下載從百度網盤
裡面找到文件夾上傳到對應的centos7上的對應文件夾裡面,並且保證裡面沒有垃圾文件,全部是文件夾,沒有._的開頭的文件。