使用 Python 處理 Json 數據

来源:https://www.cnblogs.com/kylinxxx/archive/2022/10/01/16748045.html
-Advertisement-
Play Games

一、引言：什麼是 JSON JSON (Java Script Object Notation) 是一種很常用的數據格式，它常常用在 web 應用程式中。它可以表示結構化的數據。 下麵是常見的 JSON 文件結構 { "name": "Kamishiro Rize", "age": "22", "o ...


一、引言：什麼是 JSON

JSON (Java Script Object Notation) 是一種很常用的數據格式，它常常用在 web 應用程式中。它可以表示結構化的數據。

下麵是常見的 JSON 文件結構

{
    "name": "Kamishiro Rize",
    "age": "22",
    "occupation": "firefighter",
    "traits": [
        "Eagle Eyed",
        "Fast Healer",
        "High Thirst",
        "Hearty Appetite"
    ]
}

它看起來與 Python 的 字典非常類似，也是由 key - value 結對組成，其中key是字元串形式,value是字元串、數字、布爾值、數組、對象或null。key/value間均使用逗號進行區分。

在 Python 中，JSON 作為字元串存在

json_str = '{"name": "Kamishiro Rize", "age": "22", "profession": "firefighter", "traits": ["Eagle Eyed", "Fast Healer", "High Thirst", "Hearty Appetite"]}'

JSON 與 Python 的數據結構和對應關係如下：

JSON PYTHON
object dict
array list, tuple
string str, unicode
number int, long, float
true / false True / False
null None

要使用 JSON ，字元串或者包含 JSON 對象的文件，都可以使用 Python 的內置包 json 模塊。

import json

二、示例：在 Python 中解析 JSON

JSON 模組的常用方法

load / loads: 把 JSON 轉換為 Python

  • loads()
# some json
somebody_info = '{"name": "Wenjie Ye", "age": 75, "nationality": "China"}'

# parse to dict
j = json.loads(somebody_info)

# show result
print(j["name"])
print(j["age"])
print(type(j))

結果

Wenjie Ye
75
<class 'dict'>

將 JSON 轉換為 Python 後，其結果的類型為字典

  • load()
# some json
somebody_info = '{"name": "Wenjie Ye", "age": 75, "nationality": "China"}'

# use json.load
# j = json.load(somebody_info)  # AttributeError: 'str' object has no attribute 'read'

from io import StringIO
io = StringIO(somebody_info)
j = json.load(io)
print(type(j))
print(j)

load() 是從json格式的文件中讀取數據並轉換為python的類型。適用於文件讀取，所以我們按 loads() 的例子來操作是會出錯的，可以使用 StringIO 轉換一下。load() 的結果也是返回字典

<class 'dict'>
{'name': 'Wenjie Ye', 'age': 75, 'nationality': 'China'}

dump / dumps: 把 Python 轉換為 JSON

  • dumps()
python_dict = {
    'name': 'Wenjie Ye',
    'age': 75,
    'nationality': 'China',
}

# convert to JSON
j = json.dumps(python_dict)

# result
print(j)
print(type(j))

轉換後的結果返回字元串

{"name": "Wenjie Ye", "age": 75, "nationality": "China"}
<class 'str'>
  • dump()

有了 load() 的經驗，你應該知道，不帶 s 的 dump 方法是用來將python數據類型轉換並保存到json格式的文件內的。

from io import StringIO

io = StringIO()
json.dump('{"name": "Wenjie Ye", "age": 75, "nationality": "China"}', io)

content = io.getvalue()
print(content)

結果

"{\"name\": \"Wenjie Ye\", \"age\": 75, \"nationality\": \"China\"}"

總結

  • dumps / dump: 將 Python 轉換 JSON，返回的 type 為 str
  • loads / load: 將 JSON 轉換為 Python，返回的 type 為 Dict
  • 如果要根據字元串轉化方法中使用帶有 s 的，要從文件進行轉化就不加 s

優雅的使用 json 模塊

格式化 JSON 結果

不難發現，dumps 獲得的 str 結果並不是很好看，如果數據量大，或者數據結構複雜，沒有縮進和換行將使得 JSON 數據變得不容易閱讀。

所以 dumps() 方法提供了一些令結果更易讀的參數，這些參數在實際工作中也常常用到。

  • indent 參數：定義縮進數
python_dict = {
    'name': 'Wenjie Ye',
    'age': 75,
    'nationality': 'China',
    'occupations': ['Astrophysicist', 'University Professor'],
}

res = json.dumps(python_dict, indent=4)
print(res)

轉換的結果將按照 indent 縮進 4 格

{
    "name": "Wenjie Ye",
    "age": 75,
    "nationality": "China",
    "occupations": [
        "Astrophysicist",
        "University Professor"
    ]
}
  • separators 參數：更改預設分隔符

我們先來看看官方對其的定義：

If specified, separators should be an (item_separator, key_separator) tuple. The default is (', ', ': ') if indent is None and (',', ': ') otherwise. To get the most compact JSON representation, you should specify (',', ':') to eliminate whitespace.

  1. 類型應該傳入元組
  2. 其預設值是 (',', ': ')

元組的第一個分隔符為 key-value 之間的分隔，預設是逗號；第二個分隔符為 key 與 value 之間的分隔，預設是冒號。

我們可以更改分隔符的樣式：

res = json.dumps(python_dict, indent=4, separators=(". ", " = "))
print(res)

結果

{
    "name" = "Wenjie Ye". 
    "age" = 75. 
    "nationality" = "China". 
    "occupations" = [
        "Astrophysicist". 
        "University Professor"
    ]
}
  • sort_keys 參數： 對結果排序，布爾值
res = json.dumps(python_dict, indent=4, sort_keys=True)
print(res)

結果

{
    "age": 75,
    "name": "Wenjie Ye",
    "nationality": "China",
    "occupations": [
        "Astrophysicist",
        "University Professor"
    ]
}

json 模塊不支持轉換 bytes 類型

需要註意的是對於 bytes，json 模塊並不能順利轉換，要先將bytes轉換為str格式。

b = b"bytes content"
# j = json.dumps(b)  # TypeError: Object of type bytes is not JSON serializable

j = json.dumps(b.decode())
print(j)  # "bytes content"

直接轉換 bytes 的結果是 TypeError，會告知你 bytes 不可JSON序列化， 只有轉換為 str 類型後才可以序列化。

json 文件讀寫

import json
python_dict = {"k1": "v1", "k2": 123, "k3": ["I'm", "NutCat"]}

# write
f_json = json.dump(python_dict, open("E:\\temp\\temp.json", "w"))
print(f_json)  # return None

# read
import os
os.chdir("E:\\temp\\")
# check temp.json exist
print(os.listdir())
# read json file
print(json.load(open("E:\\temp\\temp.json")))

結果

None
['temp.json']
{'k1': 'v1', 'k2': 123, 'k3': ["I'm", 'NutCat']}

當然，我還是推薦使用 with open 的方式來寫入數據

with open("E:\\temp\\temp.json", "w") as f:
	json.dump(python_dict, f)

利用 pandas 讀取 JSON

import pandas as pd

df = pd.read_json("E:\\temp\\temp.json")
print(df.head())

如果你想利用 DataFrame 的特性來處理數據，你還可以使用 Pandas 庫來讀取數據，它讀取我們之前生成的 temp.json 的結果如下：

   k1   k2      k3
0  v1  123     I'm
1  v1  123  NutCat

毫無疑問，我們可以用上強大的 pandas 的特性來處理 json 數據了。

但是，實際工作中，json 文件的內容可不像我們 temp.json 文件一樣簡單到朴實無華，我們需要知道怎麼處理嵌套的 JSON 數據

有如下的 JSON 數據，保存在 json_test.json 文件中，members 欄位中保存有 object 類型的數據，這些嵌套的數據在讀取到 DataFrame 後會被轉換為字典。

{
    "system_id": 707077,
    "system_name": "account_system",
    "formed": 2022,
    "update_time": "2022-06-06",
    "members": [
        {
            "username": "Kamishiro Rize",
            "age": "22",
            "account": "12345678",
            "nationality": "Japan",
            "active": false
        },
        {
            "username": "Wenjie Ye",
            "age": "75",
            "account": "87654321",
            "nationality": "China",
            "active": true
        }
    ]
}

現在，我們按照以前的方法讀取它

import os
import pandas as pd

df = pd.read_json("json_test.json")
print(df)

讀取的結果如下

   system_id     system_name  formed update_time  \
0     707077  account_system    2022  2022-06-06   
1     707077  account_system    2022  2022-06-06   

                                             members  
0  {'username': 'Kamishiro Rize', 'age': '22', 'a...  
1  {'username': 'Wenjie Ye', 'age': '75', 'accoun...

其中的 members 欄位是保存了一整個字典的，那麼應該如何把他拆分開呢？其實，這一步已經和 json 無關了，是依靠 pandas 來處理這些嵌套的數據了。

我們可以在 members 列上，使用 apply 方法

df["members"].apply(pd.Series)

返回了 DataFrame 結果

	username	age	account	nationality	active
0	Kamishiro Rize	22	12345678	Japan	False
1	Wenjie Ye	75	87654321	China	True

但是，使用 apply 方法後生成了一個新 DataFrame，那我們還得想個辦法給拼回去原來的 DataFrame。

其實，pandas 庫中還有一個函數 json_normalize()

import json
import pandas as pd
with open("json_test.json") as f:
    acct_info = json.load(f)
res = pd.json_normalize(
    acct_info,
    record_path=["members"],
    meta=["system_id", "system_name", "formed", "update_time"],
)
print(res)

它會將 members 拆分並拼接到 DataFrame 結果中

         username age   account nationality  active system_id     system_name  \
0  Kamishiro Rize  22  12345678       Japan   False    707077  account_system   
1       Wenjie Ye  75  87654321       China    True    707077  account_system   

  formed update_time  
0   2022  2022-06-06  
1   2022  2022-06-06
  • record_path： 需要拆分的列的名字
  • meta： 其他要加入到結果的列名的list，其順序就是輸出的順序
  • meta_prefix： 這個參數可以給 meta 的欄位名前加個首碼

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 【WinUI3】ListView / GridView 學習總結
    前言 WPF 的 ComboBox 控制項等綁定 enum 值很繁瑣，很讓人頭疼，網上也有提供了一些方法，基本是使用 ObjectDataProvider 方式和 MarkupExtension 方式， 有沒有辦法綁定值為 enum 類型就自動載入所有枚舉值選項，下麵記錄一種方法； 實現方式 主要通過 ...
  • .Net下的CORS跨域設置
    CORS跨域訪問問題往往出現在“瀏覽器客戶端”通過ajax調用“服務端API”的時候。而且若是深究原理，還會發現跨域問題其實還分為【簡單跨域】與【複雜跨域】這兩種情況。 網上對解決跨域限制有很多說明文章，但絕大多數要麼解決的不完善（比如，沒有區分【簡單跨域】與【複雜跨域】），要麼就是解決方案過於複雜 ...
  • 定時調度框架系列之Quartz.Net詳解
    一. 背景 我們在日常開發中，可能你會遇到這樣的需求："每個月的3號給用戶發信息，提醒用戶XXX "、"每天的0點需要統計前一天的考勤記錄"、"每個月的1號計算上個月的庫存情況"、"定時初始化數據供其它業務使用"、"每隔2分鐘輪詢查資料庫看某業務是否被審核通過，並提示用戶" 等等。 以上需求在開發中 ...
  • 定時任務調度
    一、crond任務調度 概述： 使用crontab 指令進行定時任務的設置，任務調度是指系統在某個時間端執行的特定任務或程式，例如：病毒掃描，資料庫備份等 基本語法： crontab 【選項】 常用選項： -e編輯crontab定時任務 -l查詢crontab任務 -r刪除當前用戶所有的cronta ...
  • day02-MySQL基礎知識
    MySQL基本知識 1.資料庫 1.1.創建資料庫 語法： CREATE DATABASE [IF NOT EXISTS] db_name [create_specification[,create_specification]...] create_specification: [DEFAULT] ...
  • MongoDB & Mongoose
    #背景 webpack構建過程中的hooks都有什麼呢？除了在網上看一些文章，還可以通過更直接的辦法，結合官方文檔快速讓你進入webpack的hook世界 寫一個入口文件 //index.js const webpack = require("webpack"); const path = requ ...
  • 微服務設計（五）---分散式配置中心與spring cloud stream
    一、Spring Cloud Stream 在實際的企業開發中，消息中間件是至關重要的組件之一。消息中間件主要解決應用解耦，非同步消息，流量削鋒等問題，實現高性能，高可用，可伸縮和最終一致性架構。不同的中間件其實現方式，內部結構是不一樣的。如常見的RabbitMQ和Kafka，由於這兩個消息中間件的架 ...
  • 如何畫出別人一看就懂的架構圖？
    技術傳播的價值，不僅僅體現在通過商業化產品和開源項目來縮短我們構建應用的路徑，加速業務的上線速率，也體現在優秀工程師在工作效率提升、產品性能優化和用戶體驗改善等經驗方面的分享，以提高我們的專業能力。本文作者阿裡巴巴技術專家三畫，分享了自己和團隊在畫好架構圖方面的理念和經驗，首發於阿裡內部技術分享平臺... ...
一周排行
    -Advertisement-
    Play Games
  • Dapr Outbox 執行流程
    Dapr Outbox 是1.12中的功能。 本文只介紹Dapr Outbox 執行流程，Dapr Outbox基本用法請閱讀官方文檔 。本文中appID=order-processor，topic=orders 本文前提知識：熟悉Dapr狀態管理、Dapr發佈訂閱和Outbox 模式。 Outbo ...
  • Advanced .Net Debugging 7：托管堆與垃圾收集
    引言 在前幾章我們深度講解了單元測試和集成測試的基礎知識，這一章我們來講解一下代碼覆蓋率,代碼覆蓋率是單元測試運行的度量值,覆蓋率通常以百分比表示，用於衡量代碼被測試覆蓋的程度，幫助開發人員評估測試用例的質量和代碼的健壯性。常見的覆蓋率包括語句覆蓋率（Line Coverage）、分支覆蓋率（Bra ...
  • C#S7.NET實現西門子PLCDB塊數據採集的完整步驟
    前言 本文介紹瞭如何使用S7.NET庫實現對西門子PLC DB塊數據的讀寫，記錄了使用電腦模擬，模擬PLC，自至完成測試的詳細流程，並重點介紹了在這個過程中的易錯點，供參考。 用到的軟體： 1.Windows環境下鏈路層網路訪問的行業標準工具（WinPcap_4_1_3.exe）下載鏈接：http ...
  • WPF控制項：密碼框綁定MVVM
    從依賴倒置原則（Dependency Inversion Principle, DIP）到控制反轉（Inversion of Control, IoC）再到依賴註入（Dependency Injection, DI）的演進過程，我們可以理解為一種逐步抽象和解耦的設計思想。這種思想在C#等面向對象的編 ...
  • Python中的私有屬性與私有方法
    關於Python中的私有屬性和私有方法 Python對於類的成員沒有嚴格的訪問控制限制，這與其他面相對對象語言有區別。關於私有屬性和私有方法，有如下要點： 1、通常我們約定，兩個下劃線開頭的屬性是私有的（private）。其他為公共的（public）； 2、類內部可以訪問私有屬性（方法）； 3、類外 ...
  • C++ 訪問說明符詳解：封裝數據，控制訪問，提升安全性
    C++ 訪問說明符 訪問說明符是 C++ 中控制類成員（屬性和方法）可訪問性的關鍵字。它們用於封裝類數據並保護其免受意外修改或濫用。 三種訪問說明符： public：允許從類外部的任何地方訪問成員。 private：僅允許在類內部訪問成員。 protected：允許在類內部及其派生類中訪問成員。 示 ...
  • static_cast與dynamic_cast到底是什麼？
    寫這個隨筆說一下C++的static_cast和dynamic_cast用在子類與父類的指針轉換時的一些事宜。首先，【static_cast，dynamic_cast】【父類指針，子類指針】，兩兩一組，共有4種組合：用 static_cast 父類轉子類、用 static_cast 子類轉父類、使用 ...
  • C語言數據結構：雙向鏈表的增刪操作
    /******************************************************************************************************** * * * 設計雙向鏈表的介面 * * * * Copyright (c) 2023-2 ...
  • @ComponentScan註解的實現，Spring掃描包的過程
    相信接觸過spring做開發的小伙伴們一定使用過@ComponentScan註解 @ComponentScan("com.wangm.lifecycle") public class AppConfig { } @ComponentScan指定basePackage，將包下的類按照一定規則註冊成Be ...
  • opensips開啟python支持
    操作系統 ：CentOS 7.6_x64 opensips版本： 2.4.9 python版本：2.7.5 python作為腳本語言，使用起來很方便，查了下opensips的文檔，支持使用python腳本寫邏輯代碼。今天整理下CentOS7環境下opensips2.4.9的python模塊筆記及使用 ...
所有分類