阿裡雲體驗有獎:使用PolarDB-X與Flink搭建實時數據大屏

来源:https://www.cnblogs.com/bainana/archive/2022/06/29/16423164.html
-Advertisement-
Play Games

體驗簡介 場景將提供一臺配置了CentOS 8.5操作系統的ECS實例(雲伺服器)。通過本教程的操作帶您體驗如何使用PolarDB-X與Flink搭建一個實時數據鏈路,模擬阿裡巴巴雙十一GMV大屏。 實驗準備 1. 創建實驗資源 開始實驗之前,您需要先創建ECS實例資源。 在實驗室頁面,單擊創建資源 ...


體驗簡介

場景將提供一臺配置了CentOS 8.5操作系統的ECS實例(雲伺服器)。通過本教程的操作帶您體驗如何使用PolarDB-X與Flink搭建一個實時數據鏈路,模擬阿裡巴巴雙十一GMV大屏。

實驗準備

1. 創建實驗資源

開始實驗之前,您需要先創建ECS實例資源。

  1. 在實驗室頁面,單擊創建資源

  2. (可選)在實驗室頁面左側導航欄中,單擊雲產品資源列表,可查看本次實驗資源相關信息(例如IP地址、用戶信息等)。

說明:資源創建過程需要1~3分鐘。

2. 安裝PolarDB-X

本步驟將指導您如何安裝PolarDB-X。

  1. 安裝並啟動Docker。

    1. 執行如下命令,安裝Docker。
curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun


  1. 執行如下命令,啟動Docker。
systemctl start docker


  1. 執行如下命令,安裝PolarDB-X。
docker run -d --name some-polardb-x -p 8527:8527 polardbx/polardb-x:2.1.0


3. 在PolarDB-X中準備訂單表

PolarDB-X支持通過MySQL Client命令行、第三方客戶端以及符合MySQL交互協議的第三方程式代碼進行連接。本實驗使用MySQL Client命令行連接到PolarDB-X資料庫。

本步驟將指導您如何連接PolarDB-X資料庫,並創建測試庫、測試表和測試數據。

  1. 執行如下命令,安裝MySQL。
yum install mysql -y


  1. 執行如下命令,查看MySQL版本號。
mysql -V


返回結果如下,表示您已成功安裝MySQL。

  1. 執行如下命令,登錄PolarDB-X資料庫。

說明

  • 本實驗場景中的PolarDB-X資料庫用戶名和密碼已預設,請您使用下方命令登錄即可。

  • 如遇到mysql: [Warning] Using a password on the command line interface can be insecure.ERROR 2013 (HY000): Lost connection to MySQL server at 'reading initial communication packet', system error: 0報錯,請您稍等一分鐘,重新執行登錄命令即可。

mysql -h127.0.0.1 -P8527 -upolardbx_root -p123456


返回結果如下,表示您已成功登錄PolarDB-X資料庫。

  1. 執行如下SQL語句,創建測試庫mydb。
create database mydb;


  1. 執行如下SQL語句,使用測試庫mydb。
use mydb;


  1. 執行如下SQL語句,創建訂單表orders。
CREATE TABLE `orders` (
 `order_id` int(11) NOT NULL AUTO_INCREMENT,
 `order_date` datetime NOT NULL,
 `customer_name` varchar(255) NOT NULL,
 `price` decimal(10, 5) NOT NULL,
 `product_id` int(11) NOT NULL,
 `order_status` tinyint(1) NOT NULL,
 PRIMARY KEY (`order_id`)
)AUTO_INCREMENT = 10001;


  1. 執行如下SQL語句,給訂單表orders中插入數據。
INSERT INTO orders
VALUES (default, '2020-07-30 10:08:22', 'Jark', 50.50, 102, false),
       (default, '2020-07-30 10:11:09', 'Sally', 15.00, 105, false),
       (default, '2020-07-30 12:00:30', 'Edward', 25.25, 106, false);


  1. 輸入exit退出資料庫。

4. 運行Flink

本步驟將指導您如何下載並運行Flink。

  1. 安裝JDK。

a.執行如下命令,使用yum安裝JDK 1.8。

yum -y install java-1.8.0-openjdk*


b.執行如下命令,查看是否安裝成功。

java -version


返回結果如下,表示您已成功安裝JDK 1.8。

  1. 下載Flink和Flink CDC MySQL Connector。

a.執行如下命令,下載Flink。

wget https://labfileapp.oss-cn-hangzhou.aliyuncs.com/PolarDB-X/flink-1.13.6-bin-scala_2.11.tgz


b.執行如下命令,解壓Flink。

tar xzvf flink-1.13.6-bin-scala_2.11.tgz


c.執行如下命令,進入lib目錄。

cd flink-1.13.6/lib/


d.執行如下命令,下載flink-sql-connector-mysql-cdc。

wget https://labfileapp.oss-cn-hangzhou.aliyuncs.com/PolarDB-X/flink-sql-connector-mysql-cdc-2.2.1.jar


e.執行如下命令,返回Flink目錄。

cd ..


  1. 啟動Flink。

a.執行如下命令,啟動Flink。

./bin/start-cluster.sh


b.執行如下命令,連接Flink。

./bin/sql-client.sh


  1. 在Flink中創建與PolarDB-X關聯的訂單表orders。

a.執行如下SQL語句,創建訂單表orders。

CREATE TABLE orders (
 order_id INT,
 order_date TIMESTAMP(0),
 customer_name STRING,
 price DECIMAL(10, 5),
 product_id INT,
 order_status BOOLEAN,
 PRIMARY KEY (order_id) NOT ENFORCED
) WITH (
'connector' = 'mysql-cdc',
'hostname' = 'localhost',
'port' = '8527',
'username' = 'polardbx_root',
'password' = '123456',
'database-name' = 'mydb',
'table-name' = 'orders'
);


b.執行如下SQL語句,查看訂單表orders。

select * from orders;


返回結果如下,您可以查看到PolarDB-X的訂單表orders的數據已經同步到Flink的訂單表orders中。

c.按q鍵退出。

5. 啟動壓測腳本並實時獲取GMV

經過前面幾步操作後,我們在PolarDB-X中準備好了原始訂單表,在Flink中準備好了對應的訂單表,並通過 PolarDB-X Global Binlog與Flink CDC MySQL Connector打通了兩者之間的實時同步鏈路。 本步驟將指導您如何創建壓測腳本,模擬雙十一零點大量訂單涌入的場景。

  1. 準備壓測腳本。

a.在實驗頁面,單擊右上角的圖標,創建新的終端二。

b.執行如下命令,創建配置文件mysql-config.cnf。

vim mysql-config.cnf

c.將如下代碼添加到配置文件mysql-config.cnf中。

[client]
user = "polardbx_root"
password = "123456"
host = 127.0.0.1
port = 8527

d.添加完成後的文件內容如下所示。按下Esc鍵後,輸入:wq後按下Enter鍵保存並退出。

e.執行如下命令,創建腳本buy.sh

vim buy.sh

f.將如下代碼添加到腳本buy.sh中。

#!/bin/bash

echo "start buying..."

count=0
while :
do
 mysql --defaults-extra-file=./mysql-config.cnf -Dmydb -e "insert into orders values(default, now(), 'free6om', 1024, 102, 0)"
 let count++
 if ! (( count % 10 )); then
  let "batch = count/10"
  echo $batch": got 10 products, gave 1024¥"
 fi
 sleep 0.05
done

g.添加完成後的文件內容如下所示。按下Esc鍵後,輸入:wq後按下Enter鍵保存並退出。

h.執行如下命令,為腳本buy.sh增加執行許可權。

chmod +x buy.sh

  1. 啟動Flink實時計算。

本實驗場景通過Flink SQL實時呈現GMV計算結果。

切換至終端一,在Flink中執行如下SQL語句,查詢GMV(gmv列)和訂單數(orders列)。

select 1, sum(price) as gmv, count(order_id) as orders from orders;

返回結果如下,您可在Flink的實時計算結果中查看到實時的GMV(gmv列)和訂單數(orders列)。

  1. 啟動壓測腳本。

a.切換至終端二,執行如下命令,啟動壓測腳本,開始創建訂單。

./buy.sh

返回結果如下,您可看到壓測腳本啟動後,不斷有訂單被創建出來。

b.切換至終端一,在Flink的實時計算結果中,可查看到實時的GMV(gmv列)和訂單數(orders列)。

恭喜完成


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 通過 hosts文件配置本地功能變數名稱 概念 DNS: 功能變數名稱系統(Domain Name System),是互聯網的一項服務。它作為將功能變數名稱和IP地址相互映射的一個分散式資料庫,能夠使人更方便地訪問互聯網。 將功能變數名稱映射到對應的IP地址。 互聯網通過IP定位瀏覽器建立連接,但是我們不易區別IP,為了方便用戶辨 ...
  • 鏡像下載、功能變數名稱解析、時間同步請點擊 阿裡雲開源鏡像站 作為一個專業小白,咱啥都不懂。 linux不懂,docker不懂。 但是我還想要完成領導下達的任務:在linux中安裝docker後部署數據可視化工具。作為一名敬業 的打工人擺爛不可以,躺平不可以,弱小,無助,可憐中。。這能力,這要去,要不直接散 ...
  • 編寫MBR主引導記錄,開始掌權 一.一些說明 CPU的硬體電路被設計成只能運行處於記憶體中的程式,這是硬體基因的問題,其原因是首先記憶體比較快且容量大,其次由於各個硬體特性不同,若被設計成運行硬體里的程式則操作系統要分別考慮每種硬體特性才行,為了達到統一,故選擇只運行記憶體中的程式。其次記憶體不僅僅是DRA ...
  • 桌面右鍵之後,點擊新建,感覺出來了的內容太雜亂了,看強迫症犯了,如圖: 強迫症患者,表示不能忍 1. win + R打開註冊表 2.在註冊表上複製: HKEY_CURRENT_USER\Software\Microsoft\Windows\CurrentVersion\Explorer\Discar ...
  • 鏡像下載、功能變數名稱解析、時間同步請點擊 阿裡雲開源鏡像站 MariaDB的安裝與配置 (菜雞我是用阿裡源安裝的) MariaDB是MySQL的一個分支,由開源社區維護,採用GPL授權許可,完全相容MySQL. 1.安裝相對應的源 vi /etc/yum.repos.d/MariaDB.repo # 填寫 ...
  • 使用磁碟空間過程 分區:毛坯房 格式化:配置創建文件系統(裝修) 掛載:把分區和文件系統進行組裝 Linux一切皆文件:通過文件的方式來管理磁碟 linux一切皆文件,所以磁碟也表現為文件。每個硬碟文件命名方式和磁碟的類型有關。硬碟文件在內核中自動生成識別,並存放在/dev這個文件下麵。 lvm:邏 ...
  • 案例來源於 https://nightlies.apache.org/flink/flink-docs-release-1.14/docs/try-flink/datastream/ 案例背景 在當今數字時代,信用卡欺詐行為越來越被重視。 罪犯可以通過詐騙或者入侵安全級別較低系統來盜竊信用卡卡號。 ...
  • 測試環境: GTID的主從複製,主庫(9900)——》備庫(9909),存在測試庫表: 9900_db1庫:t1、t2、t3、t4、t5表 9900_db2庫:t6、t7、t8、t9、t10表 1、replicate-do-db參數: --replicate-do-db=name,只同步指定的資料庫 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...