乾貨~多線程下1分鐘完成1000萬條數據插入到資料庫中

来源:http://www.cnblogs.com/fanwencong/archive/2016/08/16/5775575.html
-Advertisement-
Play Games

環境:準備測試前,我查看了一下我公司的電腦是4核的(四個子視窗) 廢話少說,直接附上代碼和結果吧 測試代碼 運行結果: 資料庫的結果: 看到了吧,確實插入了1000萬條,準確無誤 然後我就想試試20個線程,每個線程插入50萬條數據看看性能怎麼樣。結果如下: 線程越多不是好事,反而更慢。。。 當線程達 ...


 

 環境:準備測試前,我查看了一下我公司的電腦是4核的(四個子視窗)

 

廢話少說,直接附上代碼和結果吧

package tenThreadInsert;

import java.sql.Connection;
import java.sql.DriverManager;
import java.sql.PreparedStatement;
import java.sql.SQLException;
import java.util.Date;

public class MyThread extends Thread{
				public void run() {
					 String url = "jdbc:mysql://127.0.0.1/teacher";  
					 String name = "com.mysql.jdbc.Driver";  
					 String user = "root";  
					 String password = "123456";  
					Connection conn = null;  
					try {
						Class.forName(name);
						conn = DriverManager.getConnection(url, user, password);//獲取連接  
						conn.setAutoCommit(false);//關閉自動提交,不然conn.commit()運行到這句會報錯
					} catch (ClassNotFoundException e1) {
						e1.printStackTrace();
					} catch (SQLException e) {
						e.printStackTrace();
					}
				// 開始時間
				Long begin = new Date().getTime();
				// sql首碼
				String prefix = "INSERT INTO test_teacher (t_name,t_password,sex,description,pic_url,school_name,regist_date,remark) VALUES ";
				try {
					// 保存sql尾碼
					StringBuffer suffix = new StringBuffer();
					// 設置事務為非自動提交
					conn.setAutoCommit(false);
					// 比起st,pst會更好些
					PreparedStatement  pst = (PreparedStatement) conn.prepareStatement("");//準備執行語句
					// 外層迴圈,總提交事務次數
					for (int i = 1; i <= 10; i++) {
						suffix = new StringBuffer();
						// 第j次提交步長
						for (int j = 1; j <= 100000; j++) {
							// 構建SQL尾碼
							suffix.append("('" +i*j+"','123456'"+ ",'男'"+",'教師'"+",'www.bbb.com'"+",'Java大學'"+",'"+"2016-08-16 14:43:26"+"','備註'" +"),");
						}
						// 構建完整SQL
						String sql = prefix + suffix.substring(0, suffix.length() - 1);
						// 添加執行SQL
						pst.addBatch(sql);
						// 執行操作
						pst.executeBatch();
						// 提交事務
						conn.commit();
						// 清空上一次添加的數據
						suffix = new StringBuffer();
					}
					// 頭等連接
					pst.close();
					conn.close();
				} catch (SQLException e) {
					e.printStackTrace();
				}
				// 結束時間
				Long end = new Date().getTime();
				// 耗時
				System.out.println("100萬條數據插入花費時間 : " + (end - begin) / 1000 + " s"+"  插入完成");
	}	
}

 測試代碼

package tenThreadInsert;

public class Test {

	public static void main(String[] args) {
		for (int i = 1; i <=10; i++) {
		      new MyThread().start();
			}
	}

}

 運行結果:

資料庫的結果:

看到了吧,確實插入了1000萬條,準確無誤

然後我就想試試20個線程,每個線程插入50萬條數據看看性能怎麼樣。結果如下:

 

 線程越多不是好事,反而更慢。。。

當線程達到100個,每個線程插入10萬條數據直接是堆記憶體溢出

好了,測試就到此結束,想交流的可以加群一起探討技術: 494389786


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 要點: 1、多種形態,引用的多種形態對於一個引用變數,可以指向任何類的對象。對於一個父類的引用(類與類之間有一種繼承關係),可以指向子類,也可以指向本類,指向的類型不同。當通過此引用向對象發送消息,調用的方法是不同的,此時方法的調用就是多態。 2、類與類之間有關係,繼承關係父類的引用可以指向子類的引 ...
  • 工作筆記記錄,會持續更新.... 目錄: apply tapply lapply sapply merge apply函數: apply:apply的中文意思是應用,這個函數的意思是通過將一個函數應用到矩陣或數組中,返回一個向量或數組 語法:apply(X, MARGIN, FUN, ...) , ...
  • 在我的實際工作中,數據來源一方面是關係型資料庫MS SqlServer, 別一方面是HBase。本節主要介紹通過RODBC訪問MS SqlServer 安裝配置,參見資料(https://msdn.microsoft.com/en-us/library/hh568454(v=sql.110).asp ...
  • 前幾章對R語言的運行原理、基本語法、數據類型、環境部署等基礎知識作了簡單介紹,本節將結合具體案例進行驗證測試。 案例場景:從互聯網下載全國三甲醫院數據,以地圖作為背景,展現各醫院在地圖上的分佈圖。全國三甲醫院數據來源 http://www.wxmp.cn/cms/detail-51610-23480 ...
  • 問題分析 當數據量很大的時候,所有數據都集中在一個文本文件中的話,讀寫會很困難,記憶體消耗大,速度很慢 操作很麻煩,因為讀寫都要根據指定的格式盡心解析,不通用 每次獲取數據都要全部數據重新讀寫,不能通過對索引對指定的數據進行讀寫 數據衝突的解決方案要完全依賴Java app去實現 更多的功能,像排序, ...
  • MySQL的升級相對來說還是比較簡單的。 它支持兩種方式的升級: 原地升級(In-place Upgrade) 關閉資料庫,替換舊的二進位文件,重啟資料庫,執行mysql_upgrade 邏輯升級(Logical Upgrade) 用mysqldump導出數據,安裝新的資料庫版本,將數據導入到新的數 ...
  • 假設你創建一個資料庫時,指定其初始化大小(SIZE )非常大。例如,如下測試案例所示 USE [master]GO CREATE DATABASE [TEST] ON PRIMARY ( NAME = N'TEST_Data', FILENAME = N'D:\SQL_DATA\TEST_Data.... ...
  • 1: 新增欄位: 2:刪除欄位: 3:修改欄位名: 4:修改欄位類型: ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...