由char和byte的關係引申出去——總結一下java中的字元編碼相關知識

来源:https://www.cnblogs.com/legolas-PRC/archive/2023/01/05/17028751.html
-Advertisement-
Play Games

由char和byte的關係引申出去——總結一下java中的字元編碼相關知識 一、字元編碼 手持兩把錕斤拷,口中直呼燙燙燙 ​ 在文章伊始,先來複習一下電腦中關於編碼的一些基礎知識,著重理清以下幾個基本概念。 1. 碼點(code point) ​ 電腦只能以二進位的形式存儲文字,故而電腦中每一 ...


由char和byte的關係引申出去——總結一下java中的字元編碼相關知識

一、字元編碼

手持兩把錕斤拷,口中直呼燙燙燙

​   在文章伊始,先來複習一下電腦中關於編碼的一些基礎知識,著重理清以下幾個基本概念。

1. 碼點(code point)

​   電腦只能以二進位的形式存儲文字,故而電腦中每一個字母,文字,符號,emoji都對應著一個二進位數,而這個二進位數就是碼點

2. 字元集

​   光有碼點還不夠,我們還得知道有哪些碼點,這些碼點又能表示哪些字元,於是便又到了喜聞樂見的制定標準環節。標準所支持的所有字元及其對應碼點的集合被稱為字元集。例如學過C語言的同學都知道的ASCII字元集,它共包含了128個字元,包括數字,26個字母的大小寫及一些符號,對應的碼點就是0-127。再有就是後面要提到的Unicode字元集。

3. 編碼

​   以ASCII字元集為例,它的碼點為0-127,最大不超過7bit,而電腦中一般是以8bit的位元組(byte)為單位。出於種種考量,實際存儲在電腦中的碼點的二進位都會在頭部添0,以8bit存儲。例如A對應碼點65,二進位為100 0001,實際在電腦中存儲為0100 0001。這種在電腦中實際存儲的內容到字元的映射就是編碼。

​   我們熟悉的編碼方式有ASCII,UTF-8,UTF-16,歐洲的ISO,中國大陸的GBK等等。電腦中存儲的同一段二進位,用不同的編碼方式,會得到完全不同的內容。

4. Unicode字元集

​   ASCII一共只包含了128個字元,顯然不夠用,於是便有了Unicode字元集。Unicode字元集中收錄了世界上絕大多數文字,符號等,反正就是非常多。

​   行文至此,筆者想到自己當初學習時的一個疑惑,即字元集已經規定好了字元到碼點的映射,為啥還有各種不同的編碼方式。如果讀者仔細理解了上文不難發現,在電腦中以何種方式存儲碼點是需要編碼來確定。最簡單的方法就是直接將碼點轉成二進位存儲,比如對ASCII字元集的ASCII編碼,對Unicode的UTF-32編碼。

​   由於Unicode字元集數量極其旁大,單個字元最大已超過了3個位元組(具體多大我也不清楚,目前用4個位元組還足夠表示),同時為了區分前後兩個字元在哪裡斷開,utf-32編碼簡單粗暴得將每個字元以32位4位元組的形式存儲在電腦中。這樣很好理解,但帶來了嚴重的空間浪費,對於常用的字母得要存一堆0,簡直就是0溢事件。

5. UTF-8編碼

​   我們常見的utf-8便是為瞭解決上述問題而誕生的,他是針對於Unicode的可變長度編碼方式,可以把不同字元以1,2,3,4位元組大小存儲到電腦中,同時utf-8相容ascii,具體規則參考下圖,也推薦大家看一下圖片下方鏈接的視頻,講的很好:

圖片來源:【你懂亂碼嗎?錕斤拷燙燙燙(詳解ASCII、Unicode、UTF-32、UTF-8編碼)】 https://www.bilibili.com/video/BV1xP4y1J7CS/?share_source=copy_web&vd_source=f5db843fce15b7c3e2990f4f7a6e8921

二、Java中的字元編碼

1. 編碼方式:

​   有了以上知識的鋪墊,其實接下來的問題就很好解決了。

​   首先,java中採用的是基於Unicode字元集的UTF-16編碼方式。utf-16可以將不同字元以2或4位元組大小存儲在電腦中,可能有同學已經發現規律了,utf-8是以8bit為最小單位,而utf-16是以16 bit為最小單位,而這個最小單位實際上就是所謂的代碼單元(code unit)

2. char類型:

​   基本類型char類型就是一個16bit的代碼單元。我們日常里常用的字元,如字母,漢字等只需要一個char,而對於一些類似於emoji這樣的碼點值很大的字元,需要兩個char。

​   java中char類型的字面量用'A'單引號括起來,表示一個字元常量。對於一些特殊字元,如回車,換行,我們要用到轉義字元來表示,如下圖:

圖片來源:《java核心技術捲Ⅰ》

3. 應用:

​   行文至此,筆者又想起之前曾經看到過的一個相關的案例。

​   簡言之就是需要對資料庫中取出的用戶名做一個截斷,比如某些情況下只需要呈現用戶名的前三個字。而這個系統允許用戶上傳的用戶名中包含emoji表情。

​   在這種情況下就要註意了,一個emoji字元由兩個char組成,如果簡單得用String.subString()或者String.length是有問題的,因為這些方法都是以char為單位,可能會造成把一個emoji字元只截了一個char出來,從而導致問題。在這裡就需要用String的codePoint相關的方法去截取,以碼點為單位,因為一個碼點一定代表一個字元,而一個char則未必。

​   詳情見該視頻:【Emoji 表情導致線上故障2個小時。老闆直接損失10萬。到底是什麼問題?| 故障復盤 | 實戰經驗分享】 https://www.bilibili.com/video/BV1MG41177pT/?share_source=copy_web

三、 總結:

​   如果您堅持看到了這裡,那麼我想一定已經對於我標題提出的問題的答案瞭然於胸了。

​   char和byte的關係,現在看來這倆也沒啥關係嘛,只能說我這個引申不是很合適。本文著重介紹了電腦字元編碼的相關知識,同時也總結了java中有關字元編碼的一些內容,希望能對你有所幫助。

四、 參考資料:

  1. 【你懂亂碼嗎?錕斤拷燙燙燙(詳解ASCII、Unicode、UTF-32、UTF-8編碼)】 https://www.bilibili.com/video/BV1xP4y1J7CS/?share_source=copy_web&vd_source=f5db843fce15b7c3e2990f4f7a6e8921
  2. 《java核心技術捲Ⅰ》

鄙人只是一名在讀的軟體工程專業的本科生,正在複習找工作,故而將複習時遇到的一些有意思的東西總結出來,既是加深理解,也是便於日後複習。

鄙人才疏學淺,若文中有謬誤之處,還望諸位不吝斧正,以免誤人子弟。若有同道中人想一同討論學習,也可以聯繫我=>[email protected]。未經本人同意,請勿轉載!

路漫漫其修遠兮,吾將上下而求索。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 這裡給大家分享我在網上總結出來的一些知識,希望對大家有所幫助 在業務中接觸了微信小程式,客戶對引流用戶非常在意,每次都會提該需求,經常做就存檔一下。使用的小程式賬戶都是企業版非個人版本。 跳轉H5 在微信公眾平臺-小程式後臺配置業務功能變數名稱,要將校驗文件放置到功能變數名稱根目錄下,才可配置成功,通過 https ...
  • 這是一個很經典的CSS佈局問題,新人徹底理解了這個問題,HTML網頁佈局思想便已掌握了七七八八了。 問題 先看一段HTML代碼: <!DOCTYPE html> <html> <body> <h1>這是一個標題</h1> <div class="wrapper"> <p>這是一個段落</p> <p> ...
  • 本文僅僅針對vue系列做探討, 項目傾向於大量增刪改查的後臺管理項目 組件二封不是換一種寫法 大量帖子的組件二封都是用json, 然後將prop/emit/slot通過一種json配置來完成. 不是說這種寫法絕對不好, 畢竟還真有這種場景, 比如動態表單. 但是, 一般理性而論, 失去了IDE的代碼 ...
  • 2023-01-04 最近想用Cesium給學校做一個類似智慧校園的東西,要做的東西很多,首先是獲取學校模型的問題,然後怎麼用Cesium載入3Dtile 1.獲取學校模型 想到之前被老師抓苦力去做春熙路的圖,於是決定用比較熟悉的OSM數據集 https://www.openstreetmap.or ...
  • 本文簡介 點贊 + 關註 + 收藏 = 學會了 記錄一個在使用 HBuilderX 開發 App 時遇到的問題。 同步資源失敗,未得到同步資源的授權,請停止運行後重新運行,並註意手機上的授權提示 出現這個問題的原因是我把手機的 HBuilder App 給刪掉了,通過電腦連接數據線的方式安裝就會提示 ...
  • 小程式≠微信小程式 說到小程式,大部分同學的第一反應,可能是微信小程式、支付寶小程式,確實,小程式的概念深入人心,並且已經被約定俗成的綁定到某些互聯網公司的 APP 上。 但是,“小程式”並不是一個註冊商標,也不是哪一家的專利。 小程式作為一種人機交互的軟體載體、一種數字內容格式、一種代碼分發傳播機 ...
  • Scanner的幾個常用next輸入方法要點 1. next(): 一直接收從鍵盤中打入的內容直到讀取到回車,==此回車並不會被讀取==,且一定要讀取到有效字元後才可以結束輸入。 對輸入有效字元之前遇到的空格鍵、Tab鍵或Enter鍵等結束符,next()方法會自動將其去掉,只有在輸入有效字元之後, ...
  • .gitignore文件配置 .gitignore 文件可以用來忽略被指定的文件或文件夾的改動。記錄在.gitignore文件里的文件或文件夾是不會被 git 跟蹤到,也就是被忽略的文件是不會被上傳到遠程倉庫的,如果文件已經存在於遠程倉庫中就無法通過.gitignore文件來忽略。 下麵總結了一些可 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...