Java之通過介面獲取數據並用JDBC存儲到資料庫中

来源:https://www.cnblogs.com/ailanlan/archive/2019/07/26/11250783.html
-Advertisement-
Play Games

最近做數據同步功能,從介面獲取數據然後存到資料庫中以便後續對數據進行相關操作,下麵就貼一下相關代碼。 從介面拿到數據後,下麵就將數據存到資料庫中: 其中AUTOID_SEQ.NEXTVAL為Oracle中的自增序列 至此,數據已經同步到指定的資料庫中啦,打完收工! 註意:拼接sql的時候一定要按照字 ...


最近做數據同步功能,從介面獲取數據然後存到資料庫中以便後續對數據進行相關操作,下麵就貼一下相關代碼。

 1 import com.alibaba.fastjson.JSON;
 2 import com.alibaba.fastjson.JSONObject;
 3 
 4 public class Digests {
 5     private static final String APPKEY = "appkey";
 6     private static final String SECRET = "secret";
 7     private static final String OPENAPI_IP_PORT_HTTP = "ip";
 8     
 9     /**
10      * 分頁獲取數據。
11      */
12     private static final String GET_DATA = "balabala";
13 
14     //md5加密
15     public static final String md5(String s) {
16         char[] hexDigits = { '0', '1', '2', '3', '4', '5', '6', '7', '8', '9',
17                 'a', 'b', 'c', 'd', 'e', 'f' };
18         try {
19             MessageDigest mdTemp = MessageDigest.getInstance("MD5");
20             try {
21                 mdTemp.update(s.getBytes("UTF-8"));
22             } catch (UnsupportedEncodingException e) {
23                 mdTemp.update(s.getBytes());
24             }
25             byte[] md = mdTemp.digest();
26             int j = md.length;
27             char[] str = new char[j * 2];
28             int k = 0;
29             for (int i = 0; i < j; ++i) {
30                 byte byte0 = md[i];
31                 str[(k++)] = hexDigits[(byte0 >>> 4 & 0xF)];
32                 str[(k++)] = hexDigits[(byte0 & 0xF)];
33             }
34             return new String(str).toUpperCase();
35         } catch (Exception e) {
36         }
37         return null;
38     }
39 
40     //創建token
41     public static final String buildToken(String url, String paramJson,
42             String secret) {
43         String tempUrl = null;
44         if (url.contains("https://"))
45             tempUrl = url.substring("https://".length());
46         else {
47             tempUrl = url.substring("http://".length());
48         }
49         int index = tempUrl.indexOf("/");
50         String URI = tempUrl.substring(index);
51         String[] ss = URI.split("\\?");
52         if (ss.length > 1) {
53             return md5(ss[0] + ss[1] + secret);
54         }
55         return md5(ss[0] + paramJson + secret);
56     }
57 
58     /**
59      * HTTP方式 分頁獲取數據。
60      */
61     public static String getData(double pageNo, Long startTime) throws Exception {  //第一個參數是當前頁數,第二個參數是請求數據的開始時間(為毫秒數)
62         String url = OPENAPI_IP_PORT_HTTP + GET_DATA ;
63         Map<String, Object> map = new HashMap<String, Object>();
64         JSONObject jsonObject = JSONObject.parseObject(getDefaultUserUUID());
65         String opUserUuid = jsonObject.getString("data");
66         //System.out.println(opUserUuid);
67         map.put("appkey", APPKEY);// 設置APPKEY
68         map.put("time", System.currentTimeMillis());// 設置時間參數
69         map.put("pageNo", pageNo);// 設置當前頁數
70         map.put("pageSize", 1000);// 設置一頁多少條
71         map.put("opUserUuid", opUserUuid);// 設置操作用戶UUID
72         map.put("startTime", startTime);// 設置開始時間
73         map.put("endTime", System.currentTimeMillis());// 設置結束時間
74         String params = JSON.toJSONString(map);
75         System.out.println(" ====== getData請求參數:【" + params + "】");
76         String data = HttpClientSSLUtils.doPost(
77                 url + "?token="
78                         + Digests.buildToken(url + "?" + params, null, SECRET),
79                 params);
80         System.out.println(" ====== getData請求返回結果:【{" + data + "}】");
81 
82         return data;
83     }
84 }

 

從介面拿到數據後,下麵就將數據存到資料庫中:

  1 import net.sf.json.JSONArray;
  2 import net.sf.json.JSONObject;
  3 
  4 public class SyncDataFn {
  5     
  6     public int jxJson() throws Exception {
  7         //此處省略資料庫連接相關語句,具體見上一篇properties配置文件連接資料庫
  8 
  9         // 創建Statement用於執行SQL語句
 10         connection.setAutoCommit(false);
 11         stmt = connection.createStatement();
 12         
 13         Long maxtime;
 14         String sqlMaxtime = "select max(eventTime) as maxTime from data";
 15         ResultSet rs1 = stmt.executeQuery(sqlMaxtime); // 查詢資料庫看數據是否已經存在,表示只更新沒有更新進來的數據
 16         if (rs1.next()) { // 該條數據存在
 17             maxtime = rs1.getLong("maxTime");
 18         } else {
 19             maxtime = (long) 0;
 20         }
 21         rs1.close();
 22         
 23         //得到json數據
 24         String json = Digests.getDoorEventsHistory(1, maxtime);
 25         JSONObject jsonObject = (JSONObject) JSONObject.fromObject(json);
 26         String to = (String) jsonObject.getString("data");
 27         JSONObject toObject = JSONObject.fromObject(to);
 28         double total = Integer.parseInt(toObject.getString("total"));
 29         int page = (int) Math.ceil(total / 1000);
 30         for (double k = 1; k <= page; k++) {
 31 
 32             //得到json數據
 33             String jsonTemp = Digests.getData(k, maxtime);
 34             String data = JSONObject.fromObject(jsonTemp).getString("data");
 35             String list = JSONObject.fromObject(data).getString("list");
 36             JSONArray jsonArr = JSONArray.fromObject(list);
 37 
 38             String dataName[] = new String[jsonArr.size()];
 39             String eventType[] = new String[jsonArr.size()];
 40             String eventTime[] = new String[jsonArr.size()];
 41             String eventName[] = new String[jsonArr.size()];
 42             String cardNo[] = new String[jsonArr.size()];
 43             String personId[] = new String[jsonArr.size()];
 44             String personName[] = new String[jsonArr.size()];
 45             String deptName[] = new String[jsonArr.size()];
 46             
 47             for (int i = 0; i < jsonArr.size(); i++) {
 48 
 49                 dataName[i] = jsonArr.getJSONObject(i).getString("dataName");
 50                 eventType[i] = jsonArr.getJSONObject(i).getString("eventType");
 51                 eventTime[i] = jsonArr.getJSONObject(i).getString("eventTime");
 52                 eventName[i] = jsonArr.getJSONObject(i).getString("eventName");
 53                 cardNo[i] = jsonArr.getJSONObject(i).getString("cardNo");
 54                 personId[i] = jsonArr.getJSONObject(i).getString("personId");
 55                 personName[i] = jsonArr.getJSONObject(i).getString("personName");
 56                 deptName[i] = jsonArr.getJSONObject(i).getString("deptName");
 57                 //如果得到的欄位有null的,做相應處理
 58                 cardNo[i] = (cardNo[i] == "null") ? null + "," : "'"
 59                         + cardNo[i] + "'";
 60                 personName[i] = (personName[i] == "null") ? null + "," : "'"
 61                         + personName[i] + "',";
 62                         + deptUuid[i] + "',";
 63                 deptName[i] = (deptName[i] == "null") ? null + "," : "'"
 64                         + deptName[i] + "',";
 65 
 66                 strSQL = "INSERT into door_events_history values(AUTOID_SEQ.NEXTVAL,"
 67                         + "'"+ dataName[i]+ "','"+ eventType[i]+ ","+ eventTime[i]+ ",'"+ eventName[i]+ "',"+ cardNo[i]+ ","+ personId[i]+ ","+ personName[i]+ deptName[i] + ")";
 68 
 69                 try {
 70                     String sql = "select cardNo,eventTime from data where cardNo = "
 71                             + cardNo[i]
 72                             + " and eventTime = "
 73                             + eventTime[i];
 74                     ResultSet rs = stmt.executeQuery(sql); // 查詢資料庫看數據是否已經存在
 75                     if (rs.next()) { // 該條數據已經存在
 76                     } else {
 77                         stmt.executeUpdate(strSQL);
 78                         count++;
 79                     }
 80                     rs.close();
 81                 } catch (Exception e) {
 82                     e.printStackTrace();
 83                 } finally {
 84 
 85                 }
 86             }
 87 
 88             connection.commit();
 89         } // for結束
 90         
 91         // 先關閉Statement
 92         if (stmt != null)
 93             try {
 94                 stmt.close();
 95             } catch (SQLException e) {
 96                 e.printStackTrace();
 97             }
 98         // 後關閉Connection
 99         if (connection != null)
100             try {
101                 connection.close();
102             } catch (SQLException e) {
103                 e.printStackTrace();
104             }
105         log.info("當前時間===" + new Date());
106         log.info("同步結束");
107         log.info("共更新了"+ count + "條數據");
108         return count;
109     }
110 }

 

其中AUTOID_SEQ.NEXTVAL為Oracle中的自增序列

 

 至此,數據已經同步到指定的資料庫中啦,打完收工!

 

註意:拼接sql的時候一定要按照欄位類型來看是否增加單引號,否則插入數據會報錯。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • rownum偽行號-排行榜-分頁 1.rownum 是oracle資料庫特有的一個特性,它針對每一個查詢(包括子查詢),都會生成一個rownum用於對該次查詢進行編號 2.每個rownum只針對當前select 查詢有效,可以使用別名進行顯示 例子:select rownum,emp.* from ...
  • [TOC] 一、背景 分頁應該是極為常見的數據展現方式了,一般在數據集較大而無法在單個頁面中呈現時會採用分頁的方法。 各種前端UI組件在實現上也都會支持分頁的功能,而數據交互呈現所相應的後端系統、資料庫都對數據查詢的分頁提供了良好的支持。 以幾個流行的資料庫為例: 查詢表 t_data 第 2 頁的 ...
  • Oracle是比MySql更為嚴格的資料庫。使用時需要更加嚴謹。 一、安裝註意事項: 1、選擇地址時需要註意好不能有漢字,以免造成安裝的時候註冊表顯示監聽失敗; 2、可視化視窗PLSQL編輯器(相當於SQLyog)安裝的時候需要配套的安裝包等; 二、部分概念: 1、SQL為結構化查詢語言,它的主要功 ...
  • 雲資料庫HybridDB for MySQL (原名PetaData)是同時支持海量數據線上事務(OLTP)和線上分析(OLAP)的HTAP(Hybrid Transaction/Analytical Processing)關係型資料庫。 HybridDB for MySQL採用一份數據存儲來進行O ...
  • MySQL索引原理 什麼是索引? “索引”是為了能夠更快地查詢數據。比如一本書的目錄,就是這本書的內容的索引,讀者可以通過在目錄中快速查找自己想要的內容,然後根據頁碼去找到具體的章節。 資料庫也是一樣,如果查詢語句使用到了索引,會先去索引裡面查詢,取得數據所在行的物理地址,進而訪問數據。 索引的優缺 ...
  • Flink Standalone 集群 HA 配置 1. HA 集群環境規劃 使用三台節點實現兩主兩從集群(由於筆記本性能限制,不能開啟太多虛擬機,其實使用三 台和四台機器在安裝配置上沒有本質區別) Jobmanager:hadoop100hadoop101【一個 active,一個 standby ...
  • 資料庫存儲引擎是資料庫底層軟體組件,資料庫管理系統使用數據引擎進行創建、查詢、更新和刪除數據操作。不同的存儲引擎提供不同的存儲機制、索引技巧、鎖定水平等功能,使用不同的存儲引擎還可以獲得特定的功能。 現在許多資料庫管理系統都支持多種不同的存儲引擎。MySQL 的核心就是存儲引擎。 如創建一個Inno ...
  • superset功能概述: 豐富的數據可視化集 易於使用的界面,用於探索和可視化數據 創建和共用儀錶板 與主要身份驗證提供程式集成的企業級身份驗證(通過Flask AppBuilder進行資料庫,OpenID,LDAP,OAuth和REMOTE_USER) 可擴展的高粒度安全/許可權模型,允許誰可以訪 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...