誰在以太坊區塊鏈上迴圈交易?TuGraph+Kafka的0元流圖解決方案

来源:https://www.cnblogs.com/geaflow/archive/2023/06/30/17517557.html
-Advertisement-
Play Games

在平時和開發者們交流的過程中,發現許多開發朋友尤其是新入門 [Taier](https://github.com/DTStack/Taier) 的開發者,對於本地調試都有著諸多的不理解和問題。本文就大家平時問的最多的三個問題,服務編譯,配置&本地運行,如何在 Taier 運行 [Flink-stan ...


都在說數據已經成為新時代的生產資料。

但隨著大數據和人工智慧等技術的發展,即便人們都知道數據的價值日益凸顯,卻無法憑藉一己之力獲取和分析如此大規模的數據。

要想富,先修路。要想利用新時代的數據致富,也必須要有趁手的工具。只有合適的工具才能完成大規模數據的採集、清洗、存儲、處理和可視化等各個環節。只有具備這樣的工具,才能更好地利用數據來推動經濟社會發展,併為人類創造更多的價值。

undefined

現如今,免費的,螞蟻集團圖計算團隊開源的超大規模流圖處理系統——TuGraph-Analytics。正成為一款專註於圖計算領域的開源數據處理工具。我們從一個簡單的問題開始,讓你體會TuGraph-Analytics的強大之處。

“誰在以太坊的區塊鏈上進行迴圈交易?”

如何回答這個問題?

大數據領域的同學可能會立即舉手,Kafka給我上,Flink給我上,實在不行Spark... 這些系統在處理大規模數據時,工作流程通常非常長,開發效率較低,無法迅速地響應用戶的需求。各有各的長處,各有各的毛病。因此,我們需要尋找全新的數據分析工具,以提高大數據領域的工作效率,並更好地應對日益複雜和多變的數據處理挑戰。

新的工具?那麼試試GPT?

Q:誰在以太坊的區塊鏈上進行迴圈交易?

GPT:這個問題需要進行數據分析,涉及到大量的以太坊交易數據。如果要確定誰在以太坊的區塊鏈上進行迴圈交易,可以通過以下步驟:

獲取以太坊的交易數據,包括交易哈希、發送方地址、接收方地址、交易類型和交易金額等信息。
對交易數據進行清洗和處理,去掉無效數據和重覆數據等。
利用圖計算等技術,構建以太坊交易網路,並對交易網路進行分析,識別出交易中的迴圈交易。
進一步分析迴圈交易的發送方地址和接收方地址,識別出誰在以太坊的區塊鏈上進行迴圈交易。

需要註意的是,由於以太坊區塊鏈的去中心化特性,交易數據的獲取和分析可能存在一定的難度和挑戰。

姿勢不對,再來一次。

Q:誰在以太坊的區塊鏈上進行迴圈交易?一句話回答

GPT:無法通過一句話回答,需要進行數據分析。

可見,雖然GPT等人工智慧在自然語言處理和圖像識別等方面已經取得了顯著進展,但在數據洞察方面仍然存在挑戰。因為數據洞察往往需要結合具體的業務背景和領域知識,而這些人類經驗和智慧難以完全被機器模擬和替代。此外,在數據清洗、數據預處理、特征提取和建模等關鍵步驟上,仍需要人類專家進行干預和優化。

今天,我們使用開源的TuGraph-Analytics與流式消息系統Kafka,不僅能夠很好回答誰在以太坊的區塊鏈上進行迴圈交易,而且能夠搭建秒級實時的金融級解決方案,客官且看----

何為迴圈交易?

來看這個例子

undefined

圖中有7個不同顏色的點代表交易賬戶,每個賬戶對應以太坊上的一個錢包地址。一個賬戶轉出到另一個賬戶的過程,表示為圖中有方向的邊,這個圖中共有8筆交易構成一個交易網路。

undefined

將交易頭尾相連,能夠找到返回起點的迴圈,就可以視為迴圈交易。

迴圈交易通常是指通過多個交易步驟,從而實現利用價格差異來獲取利潤的一種交易方式。其過程包括在不同的市場或不同的時間段內進行買賣行為,從而獲得利潤。在交易網路圖中,可以使用環路檢測演算法來發現潛在的迴圈交易路徑,並檢索這條路徑上的賬戶就能夠知道哪些賬戶可能參與了迴圈交易。

可是,當一筆新的交易發生時——
undefined

可見,環路檢測並不是一勞永逸的靜態圖演算法。隨著消息實時不斷到來,交易網路圖中的最新環路不斷發生變化。如果關心每一筆交易產生的交易環路,這將成為一個極其複雜的問題。

以太坊是基於區塊鏈技術的智能合約平臺,其交易速度取決於眾多的參與者。交易成交速度通常在15秒到1分鐘之間,交易吞吐量可以達到每秒數十到數百筆交易。但別忘了,以太坊還有海量的歷史交易數據,相當於存在一個相當複雜的”底圖“,迴圈交易問題不僅需要考慮新的交易,還必須綜合分析歷史上所有的交易!

這就是為什麼強如GPT也無法一句話回答這個問題的原因。

那麼真的能夠在每筆交易發生時實時地檢測迴圈交易的產生嗎?

實際上,使用專業的圖計算系統TuGraph-Analytics,這個問題只需要幾十行代碼即可解決,還能夠迅速結合Kafka搭建起交易聽單->交易網路生成->實時迴圈交易檢出->給下游發送消息完整的金融級實時解決方案。更關鍵的是,這一切都是免費的~ 感謝開源!

我們在TuGraph-Analytics新建一個圖計算作業,只需大約40行代碼,即可完成整個端到端流程。
undefined

代碼描述如下,需要自取。

在這短短40行中,我們創建了以太坊交易的整個底圖,命名為ethereum_transaction_network。把來自Kafka的實時交易流table_new_trade不斷添加到命名為ethereum_transaction_network的圖中。

接下來,每當有新的交易到達的時刻,都將觸發一次3跳迴圈交易模式的檢查,把更新的結果存入位於Kafka的外部表tbl_circular_trade,可以很方便地分發給下游組件。

實時交易數據我們採用了XBlock-ETH: Extracting and exploring blockchain data from Ethereum這篇論文整理的真實的以太坊區塊數據,在這個Demo中把以太坊地址隱去,以一個數字替代,即每個數字代表以太坊的一個錢包地址,相同的數字表示相同的地址。生成的迴圈路徑結果我們拼接成一個字元串,方便觀察。

set geaflow.dsl.window.size = 200;
-- 以太坊交易的底圖
CREATE GRAPH IF NOT EXISTS ethereum_transaction_network (
	Vertex address (id bigint ID),
	Edge trade (srcId bigint SOURCE ID, targetId bigint DESTINATION ID, mount double)
) WITH (
	storeType='rocksdb'
);

-- 從Kafka監聽最新的交易
CREATE TABLE IF NOT EXISTS table_new_trade (
  srcId bigint, targetId bigint, mount double
) WITH (
	type='kafka',
  geaflow.dsl.kafka.servers = '{your.kafka.server.ip}:9092',
	geaflow.dsl.kafka.topic = 'tbl-trade'
);

-- 將新的交易添加到底圖
INSERT INTO ethereum_transaction_network.address SELECT srcId FROM table_new_trade;
INSERT INTO ethereum_transaction_network.address SELECT targetId FROM table_new_trade;
INSERT INTO ethereum_transaction_network.trade SELECT srcId, targetId, mount FROM table_new_trade;

-- 一張外部表連接Kafka以輸出檢出的迴圈交易結果
CREATE TABLE IF NOT EXISTS tbl_circular_trade (
	  circular VARCHAR
) WITH (
	type='kafka',
  geaflow.dsl.kafka.servers = '{your.kafka.server.ip}:9092',
	geaflow.dsl.kafka.topic = 'tbl-circular-trade'
);

-- 使用以太坊交易圖進行實時查詢
USE GRAPH ethereum_transaction_network;

-- 查詢3跳迴圈交易模式存入位於Kafka的外部表
INSERT INTO tbl_circular_trade
MATCH (v1)-[:trade]->(v2)-[:trade]->(v3)-[:trade]->(v4)
WHERE v1.id = v4.id AND v1.id != v2.id AND v1.id != v3.id AND v2.id != v3.id
RETURN concat(CAST(v1.id as VARCHAR), '->', CAST(v2.id as VARCHAR),
       '->', CAST(v3.id as VARCHAR), '->', CAST(v4.id as VARCHAR)) AS circular
;

實機演示!

打開一個Kafka Producer,產生消息流,將交易不斷發送給Kafka,如左側終端視窗所示。平均1秒左右,最新的圖中迴圈交易檢出結果就列印在右側的Kafka Consumer視窗中。
undefined

當添加一些新的交易日誌時,右側的Kafka Consumer視窗中也實時更新了新的迴圈交易檢出結果,響應十分迅速。

截屏2023-06-15 23.48.46的副本.png

以上便是開源圖計算平臺TuGraph Analytics結合Kafka,快速搭建的以太坊迴圈交易檢出解決方案。雖然這隻是一個小小的demo,但實機演示中強大的圖計算語法和系統性能可見一斑,大大較低了我們普通人搭建圖計算應用的難度和成本。

說多不如現在開始行動,TuGraph Analytics是你不容錯過的利器。現在就趕快訪問https://github.com/TuGraph-family/tugraph-analytics,親自體驗TuGraph Analytics的魅力吧!此外,我們歡迎各位參與到開源貢獻中來,為社區貢獻自己的智慧和代碼,共同促進國產圖計算系統的發展。

[參考文獻]
P. Zheng, Z. Zheng, J. Wu, and H.-N. Dai, “XBlock-ETH: Extracting and exploring blockchain data from Ethereum,” IEEE Open J. Comput. Soc., vol. 1, pp. 95–106, May 2020, doi: 10.1109/OJCS.2020.2990458.


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • .NET本身就是一個基於中間件(middleware)的框架,它通過一系列的中間件組件來處理HTTP請求和響應。在之前的文章[《.NET源碼解讀kestrel伺服器及創建HttpContext對象流程》](https://www.cnblogs.com/Z7TS/p/17459777.html)中, ...
  • ## 一:背景 ### 1. 講故事 經常有朋友跟我反饋,說看你的文章就像看天書一樣,有沒有一些簡單入手的dump 讓我們先找找感覺,哈哈,今天就給大家帶來一篇入門級的案例,這裡的入門是從 WinDbg 的角度來闡述的,這個問題如果你通過 記日誌,分析代碼 的方式,可能真的無法解決,不信的話繼續往下 ...
  • 我們接觸一個新事物的時候,如果一個事物能夠給我們帶來非常直觀的感官認識,那麼我們就很容易接受,反之可能需要很長時間的潛移默化的瞭解認識才能接受。萬物化繁為簡,透過本質看表象,往往也是一個認知迭代深入的過程。在我介紹很多篇隨筆《SqlSugar開發框架》,能夠看完的肯定不會是一開始就學習的人員,畢竟技... ...
  • 繼上篇:Taurus .Net Core 微服務開源框架:Admin 插件【3】 - 指標統計管理,本篇繼續介紹下一個內容:系統配置節點:App - Config 界面... ...
  • 本文分享自天翼雲開發者社區《雲存儲環境下的容災關鍵技術》,作者:王兆龍 雲存儲的出現解決了現有容災系統的幾個顯著問題:一是面對大量的備份數據,管理系統不夠完善的問題;二是面對大規模的數據容災靈活性和效率不高的問題;三是在數據加密保護方面依然存在的安全隱患問題。那麼,雲存儲解決這些問題主要依靠的技術原 ...
  • 在研究Quark-n的時候,利用Windows自帶的遠程桌面連接,實現了在Windows上看到Linux的GUI,但是很快就發現了好多問題,比如想用Tab補全命令的時候,它不靈,只能Shitf+Tab,有悖於傳統操作按鍵,而且GUI有延時,拖動終端時有拖影,圖形操作體驗很差。為瞭解決這個問題,便在網 ...
  • 1、常規聯表查詢 創建兩張資料庫表如下: mysql> select * from dept; + + + | id | deptName | + + + | 3 | 教學部 | + + + 1 row in set (0.00 sec) mysql> select * from employee; ...
  • > 你準備好面試了嗎?這裡有一些面試中可能會問到的問題以及相對應的答案。如果你需要更多的面試經驗和麵試題,關註一下"張飛的豬大數據分享"吧,公眾號會不定時的分享相關的知識和資料。 [TOC] ## 1、談談Hadoop序列化和反序列化及自定義bean對象實現序列化? 1)序列化和反序列化 (1)序列 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...