一、 kettle開發、上線常見問題以及防錯規範步驟

来源:https://www.cnblogs.com/double-kill/archive/2017/12/28/8133972.html
-Advertisement-
Play Games

此篇說明對應的kettle版本是6.1,實際使用時7.x應該也是一樣的。 一、 kettle開發流程(規範步驟,防止出錯) (一) Kettle設置檢查 如果不加一下配置項,數據轉換後中文會出現亂碼,很難處理。 本地連接資源庫:配置項 defaultFetchSize 500 useCursorFe ...


 此篇說明對應的kettle版本是6.1,實際使用時7.x應該也是一樣的。

一、    kettle開發流程(規範步驟,防止出錯)

(一)       Kettle設置檢查

資源庫連接

如果不加一下配置項,數據轉換後中文會出現亂碼,很難處理。

 

 

本地連接資源庫:配置項

defaultFetchSize 500

useCursorFetch true

characterEncoding UTF-8

useUnicode true

 

 

(二)       Kettle註意事項

1、每個trans、jobs的名稱都應該和文件名一致。在使用資源庫的時候,不是按照文件名生成對象,而是按照名稱屬性生成。{所以如果有名稱屬性相同的就會衝突}

 

 

 

 

 

 

2、資源庫方式trans相對job的位置只能通過圖中下麵的一種方式(相對位置)。而不能通過設置trans文件位置的方式(因為是資源庫,並不是真的文件)。

 

 

 

 

(三)       資源庫方式開發

1、從線上導出一個job(包含了資料庫的連接等信息),直接導出成整資源庫的文件。

2、把這個文件資源庫導入到03測試庫。

3、把這個資料庫連接信息dataCenters對應的ip改成04上的開發庫(只改一個ip,其他連接信息是一致的)。

4、在這個庫上進行相關開發操作。

 

 

二、    上線流程

5、開發完成需要上線,直接把前面的資源庫的ip地址換成線上ip地址即可。

6、把開發庫上其他的東西都刪掉,只保留新開發的內容。

7、然後導出成整個文件的資源庫。把這個文件資源庫導入到線上。

 

(一)       安全流程

為了防止開發過程當中忘了改ip地址,直接連到生產庫去,或者把生產庫上的連接地址衝掉了。這裡加上一個流程:

每次開發:從線上導資源庫到本地先導入到03的預發佈庫去。改完ip地址再導入到04的開發庫去。

 

每次上線的話:反過來。先導入到03庫,刪除不必要的東西,改完ip地址再導入到線上環境

 

 

(二)       驗證流程

由於kettle的特殊性。需要在任何改動後做驗證。

1、 每次修改、新增了kettle任務。必須要把job、trans都一步一步點開。查看是否能在job里順利找到子trans。同時查看資料庫連接信息是否正確(有沒有被開發庫的設置衝掉)。

2、 給發新增的任務(job或者trans)在jenkins中增加對應的調度。(這裡建議調度名稱和調度要生成數據的表名一致)要有詳細的備註。

4、 每次修改、新增了kettle任務之後,都要在表結構同步好之後,jenkins中先構建一次任務,看看kettle任務是否能夠執行成功。

5、 任務跑成功之後,要連到生產庫查看對應數據是否正確。

6、 啟動web後要點開相應功能查看web展示上是否正確。

 

 

(三)       遷移註意事項

 

如果是新部署的kettle

 

kettle的資源庫,需要用圖形界面打開,手動再設置一遍(要先刪除/root/.kettle/目錄下的配置文件,重新配置;然後會重新生成配置文件,這時才能正確連上資源庫)

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 前言 一款不錯的代碼質量管理工具Sonar 前期準備 官方參考文檔 https://docs.sonarqube.org/display/SONAR/Documentation 軟體下載 https://www.sonarqube.org/downloads/ https://dev.mysql.c ...
  • 問題背景: 一塊近似最小系統的控制小板,主要用於對電機,氣閥,集成液晶屏以及其他的部件控制。考慮電流會較大採用DC-DC穩壓管。 電路焊接完成後,最小系統正常工作。 問題: 加上液晶屏後,串口屏出現閃爍,5V電壓不穩。排除線路板線徑過細問題。 更換晶元後問題依然存在,但是穩壓晶元在某寶買的,還是擔心 ...
  • 原文:http://os.51cto.com/art/201609/518191.htm 經常使用Linux的開發人員或者運維人員,可能對configure->make->make install相當熟悉。事實上,這叫GNU構建系統,利用腳本和make程式在特定平臺上構建軟體。這種方式成為一種習慣, ...
  • awk是一種編程語言,主要用於在linux/unix下對文本和數據進行處理,是linux/unix下的一個工具。數據可以來自標準輸入、一個或多個文件,或其它命令的輸出。awk的處理文本和數據的方式:逐行掃描文件,預設從第一行到最後一行,尋找匹配的特定模式的行,併在這些行上進行你想要的操作。gawk是 ...
  • 背景 預設都是筆記本鍵盤才有Fn組合功能鍵,台式機很少有。今天領到的是聯想鍵盤,給我的台式機使用後F12很麻煩,必須Fn+F12才可以。 需求 恢復預設的F1~F12功能 方案 只需要下載驅動安裝: Windows 7 32-bit,Windows Vista 32-bit,Windows XP(3 ...
  • 常用功能差異 1. 鎖差異 : • Oracle鎖加在數據塊上 • InnoDB 是在索引上加鎖,所以MySQL鎖的粒度沒有Oracle 精細。 2. 導入導出 : • Oracle採用EXP /IMP ,EXPDP/IMPDP導入導出。 • MySQL採用mysqldump導出,導入可以採用管道或 ...
  • 操作系統 : CentOS7.3.1611_x64 go語言版本:1.8.3 linux/amd64 InfluxDB版本:1.1.0 influxdata主目錄結構 目錄解析說明: influxdb 為源碼的主目錄 influxql 實現了InfluxDB查詢語言的解析器(源碼主目錄裡面引用的是i ...
  • 近期閱讀了一些深度學習在文本分類中的應用相關論文( " 論文筆記 " ),同時也參加了CCF 大數據與計算智能大賽(BDCI)2017的一個文本分類問題的比賽:讓AI當法官,並取得了最終評測第四名的成績(比賽的具體思路和代碼參見 " github項目repo " )。因此,本文總結了文本分類相關的深 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...