想知道怎麼用python處理尾碼為".sqlite"的文件,這裡有你想要的答案。 ...
最近在弄一個項目分析的時候,看到有一個尾碼為”.sqlite”的數據文件,由於以前沒怎麼接觸過,就想著怎麼用python來打開併進行數據分析與處理,於是稍微研究了一下。
SQLite是一款非常流行的關係型資料庫,由於它非常輕盈,因此被大量應用程式採用。
像csv文件一樣,SQLite可以將數據存儲於單個數據文件,以便方便的分享給其他人員。許多編程語言都支持SQLite數據的處理,python語言也不例外。
sqlite3是python的一個標準庫,可以用於處理SQLite資料庫。
用sqlite3創建和操作資料庫文件
對於資料庫的SQL語句,本文會用到最基礎的SQL語句,應該不影響閱讀。如果想進一步瞭解,可參考如下網址:
http://www.w3school.com.cn/sql/index.asp
下麵,我們來應用salite3模塊來創建SQLite數據文件,以及進行數據讀寫操作。主要的步驟如下:
- 與資料庫建立連接,創建資料庫文件(.sqlite文件)
- 創建游標(cursor)
- 創建數據表(table)
- 向數據表中插入數據
- 查詢數據
演示代碼如下:
import sqlite3
with sqlite3.connect('test_database.sqlite') as con:
c = con.cursor()
c.execute('''CREATE TABLE test_table
(date text, city text, value real)''')
for table in c.execute("SELECT name FROM sqlite_master WHERE type='table'"):
print("Table", table[0])
c.execute('''INSERT INTO test_table VALUES
('2017-6-25', 'bj', 100)''')
c.execute('''INSERT INTO test_table VALUES
('2017-6-25', 'pydataroad', 150)''')
c.execute("SELECT * FROM test_table")
print(c.fetchall())
Table test_table
[('2017-6-25', 'bj', 100.0), ('2017-6-25', 'pydataroad', 150.0)]
關於SQLite資料庫中數據的可視化預覽,有很多的工具可以實現,我這裡使用的是SQLite Studio,是一個免費使用的工具,不需要安裝,下載下來就可以使用,有興趣的同學可以參考下麵的鏈接。
https://sqlitestudio.pl/index.rvt?act=download
數據預覽的效果如下:
用pandas來讀取sqlite數據文件
從上面代碼的運行結果可以看出,數據查詢的結果是一個由tuple組成的list。python的list數據在進行進一步的數據處理與分析時,可能會不太方便。可以想象一下,假設如果資料庫的表格中一共有100萬行或者更多數據,從list中迴圈遍歷獲取數據,效率會比較低。
這時,我們可以考慮用pandas提供的函數來從SQLite資料庫文件中讀取相關數據信息,並保存在DataFrame中,方便後續進一步處理。
Pandas提供了兩個函數,均可以讀取尾碼為“.sqlite”數據文件的信息。
- read_sql()
- read_sql_query()
import pandas as pd
with sqlite3.connect('test_database.sqlite') as con:
# read_sql_query和read_sql都能通過SQL語句從資料庫文件中獲取數據信息
df = pd.read_sql_query("SELECT * FROM test_table", con=con)
# df = pd.read_sql("SELECT * FROM test_table", con=con)
print(df.shape)
print(df.dtypes)
print(df.head())
(2, 3)
date object
city object
value float64
dtype: object
date city value
0 2017-6-25 bj 100.0
1 2017-6-25 pydataroad 150.0
-
1 #-*- coding:utf-8 -*- 2 from urllib import request 3 from bs4 import BeautifulSoup 4 from urllib import parse 5 import pymysql 6 url = "http://searc ...
-
題目描述 給出一個長度為N的非負整數序列A[i],對於所有1 ≤ k ≤ (N + 1) / 2,輸出A[1], A[3], …, A[2k - 1]的中位數。[color=red]即[/color]前1,3,5,……個數的中位數。 輸入輸出格式 輸入格式: 輸入文件median.in的第1行為一個 ...
-
一、獲取Tag 1.find_all方法 (1)find_all(name='tag_name',attrs,recursive,text,**kwargs) name:tag對應的名稱,當包括多個tag時,返回的是一個列表,可以利用列表功能選取對應的tag。 href:tag的屬性,常用屬性cla ...
-
1 html_doc = "" 2 sp = BeautifulSoup(html_doc,"html.parser") 3 print(sp.p['class']) 4 #['body','strikeout'] 5 print(sp.p['id']) 6 #zhangsan 7 8 html_d... ...
-
課程中詳細演示了一個應用從單塊架構到垂直應用架構再到分散式服務架構的演進過程。講解瞭如何在前後端分離的架構下設計RESTful API。最終的系統對外提供REST風格的http服務,內部各個垂直應用通過dubbo共用無狀態的Java服務。整個系統在Web層和服務層都可以無縫的橫向擴展。 ...
-
抓取內容: 從最好大學網上抓取中國前10的大學排名、大學名稱、總分,並數據格式左對齊。 http://www.zuihaodaxue.cn/zuihaodaxuepaiming2017.html 首先,看下網站的Robots協議,沒有找到相關協議,可以抓取。 http://www.zuihaodax ...
-
var a,f:array[1..10000000] of longint; b,i,j,n,s,x,y:longint;begin read(b,n); for i:=1 to n do a[i]:=0; for i:=1 to n do begin readln(x,y); a[x]:=1-a[ ...
-
什麼是進程(process)? 程式並不能單獨運行,只有將程式裝載到記憶體中,系統為它分配資源才能運行,而這種執行的程式就稱之為進程。程式和進程的區別就在於,程式是指令的集合,它是進程運行的靜態描述文本;進程是程式的一次執行活動,屬於動態概念。 什麼是線程(thread)? 線程是操作系統能夠進行運算... ...