Python讀取和處理文件尾碼為".sqlite"的數據文件

来源:http://www.cnblogs.com/lemonbit/archive/2017/06/27/7078038.html
-Advertisement-
Play Games

想知道怎麼用python處理尾碼為".sqlite"的文件,這裡有你想要的答案。 ...


最近在弄一個項目分析的時候,看到有一個尾碼為”.sqlite”的數據文件,由於以前沒怎麼接觸過,就想著怎麼用python來打開併進行數據分析與處理,於是稍微研究了一下。

SQLite是一款非常流行的關係型資料庫,由於它非常輕盈,因此被大量應用程式採用。

像csv文件一樣,SQLite可以將數據存儲於單個數據文件,以便方便的分享給其他人員。許多編程語言都支持SQLite數據的處理,python語言也不例外。

sqlite3是python的一個標準庫,可以用於處理SQLite資料庫。

用sqlite3創建和操作資料庫文件

對於資料庫的SQL語句,本文會用到最基礎的SQL語句,應該不影響閱讀。如果想進一步瞭解,可參考如下網址:
http://www.w3school.com.cn/sql/index.asp

下麵,我們來應用salite3模塊來創建SQLite數據文件,以及進行數據讀寫操作。主要的步驟如下:

  1. 與資料庫建立連接,創建資料庫文件(.sqlite文件)
  2. 創建游標(cursor)
  3. 創建數據表(table)
  4. 向數據表中插入數據
  5. 查詢數據

演示代碼如下:

import sqlite3

with sqlite3.connect('test_database.sqlite') as con:
    c = con.cursor()
    c.execute('''CREATE TABLE test_table
    (date text, city text, value real)''')
    for table in c.execute("SELECT name FROM sqlite_master WHERE type='table'"):
        print("Table", table[0])
    c.execute('''INSERT INTO test_table VALUES
    ('2017-6-25', 'bj', 100)''')
    c.execute('''INSERT INTO test_table VALUES
    ('2017-6-25', 'pydataroad', 150)''')
    c.execute("SELECT * FROM test_table")
    print(c.fetchall())
Table test_table
[('2017-6-25', 'bj', 100.0), ('2017-6-25', 'pydataroad', 150.0)]

關於SQLite資料庫中數據的可視化預覽,有很多的工具可以實現,我這裡使用的是SQLite Studio,是一個免費使用的工具,不需要安裝,下載下來就可以使用,有興趣的同學可以參考下麵的鏈接。

https://sqlitestudio.pl/index.rvt?act=download

數據預覽的效果如下:

用pandas來讀取sqlite數據文件

從上面代碼的運行結果可以看出,數據查詢的結果是一個由tuple組成的list。python的list數據在進行進一步的數據處理與分析時,可能會不太方便。可以想象一下,假設如果資料庫的表格中一共有100萬行或者更多數據,從list中迴圈遍歷獲取數據,效率會比較低。

這時,我們可以考慮用pandas提供的函數來從SQLite資料庫文件中讀取相關數據信息,並保存在DataFrame中,方便後續進一步處理。

Pandas提供了兩個函數,均可以讀取尾碼為“.sqlite”數據文件的信息。

  • read_sql()
  • read_sql_query()
import pandas as pd

with sqlite3.connect('test_database.sqlite') as con:

    # read_sql_query和read_sql都能通過SQL語句從資料庫文件中獲取數據信息
    df = pd.read_sql_query("SELECT * FROM test_table", con=con)
    # df = pd.read_sql("SELECT * FROM test_table", con=con)

    print(df.shape)
    print(df.dtypes)
    print(df.head())
(2, 3)
date      object
city      object
value    float64
dtype: object
        date        city  value
0  2017-6-25          bj  100.0
1  2017-6-25  pydataroad  150.0




您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 1 #-*- coding:utf-8 -*- 2 from urllib import request 3 from bs4 import BeautifulSoup 4 from urllib import parse 5 import pymysql 6 url = "http://searc ...
  • 題目描述 給出一個長度為N的非負整數序列A[i],對於所有1 ≤ k ≤ (N + 1) / 2,輸出A[1], A[3], …, A[2k - 1]的中位數。[color=red]即[/color]前1,3,5,……個數的中位數。 輸入輸出格式 輸入格式: 輸入文件median.in的第1行為一個 ...
  • 一、獲取Tag 1.find_all方法 (1)find_all(name='tag_name',attrs,recursive,text,**kwargs) name:tag對應的名稱,當包括多個tag時,返回的是一個列表,可以利用列表功能選取對應的tag。 href:tag的屬性,常用屬性cla ...
  • 1 html_doc = "" 2 sp = BeautifulSoup(html_doc,"html.parser") 3 print(sp.p['class']) 4 #['body','strikeout'] 5 print(sp.p['id']) 6 #zhangsan 7 8 html_d... ...
  • 課程中詳細演示了一個應用從單塊架構到垂直應用架構再到分散式服務架構的演進過程。講解瞭如何在前後端分離的架構下設計RESTful API。最終的系統對外提供REST風格的http服務,內部各個垂直應用通過dubbo共用無狀態的Java服務。整個系統在Web層和服務層都可以無縫的橫向擴展。 ...
  • 抓取內容: 從最好大學網上抓取中國前10的大學排名、大學名稱、總分,並數據格式左對齊。 http://www.zuihaodaxue.cn/zuihaodaxuepaiming2017.html 首先,看下網站的Robots協議,沒有找到相關協議,可以抓取。 http://www.zuihaodax ...
  • var a,f:array[1..10000000] of longint; b,i,j,n,s,x,y:longint;begin read(b,n); for i:=1 to n do a[i]:=0; for i:=1 to n do begin readln(x,y); a[x]:=1-a[ ...
  • 什麼是進程(process)? 程式並不能單獨運行,只有將程式裝載到記憶體中,系統為它分配資源才能運行,而這種執行的程式就稱之為進程。程式和進程的區別就在於,程式是指令的集合,它是進程運行的靜態描述文本;進程是程式的一次執行活動,屬於動態概念。 什麼是線程(thread)? 線程是操作系統能夠進行運算... ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...