17. 從零開始編寫一個類nginx工具, Rust中一些功能的實現

来源:https://www.cnblogs.com/wmproxy/archive/2023/10/24/wmproxy17.html
-Advertisement-
Play Games

`wmproxy`將用`Rust`實現`http/https`代理, `socks5`代理, 反向代理, 靜態文件伺服器,後續將實現`websocket`代理, 內外網穿透等, 會將實現過程分享出來, 感興趣的可以一起造個輪子法, 一些實現類nginx可能在rust會碰到的問題,一起探討下一些實現在... ...


wmproxy

wmproxy將用Rust實現http/https代理, socks5代理, 反向代理, 靜態文件伺服器,後續將實現websocket代理, 內外網穿透等, 會將實現過程分享出來, 感興趣的可以一起造個輪子法

項目地址

gite: https://gitee.com/tickbh/wmproxy

github: https://github.com/tickbh/wmproxy

日誌功能

為了更容易理解程式中發生的情況,我們可能想要添加一些日誌語句。通常在編寫應用程式時這很容易。「在某種程度上,日誌記錄與使用 println! 相同,只是你可以指定消息的重要性」。
在rust中定義的日誌級別有5種分別為errorwarninfodebugtrace
定義日誌的級別是表示只關係這級別的日誌及更高級別的日誌:

定義log,則包含所有的級別
定義warn,則只會顯示error或者warn的消息

要嚮應用程式添加日誌記錄,你需要兩樣東西:

  1. log crate,rust官方指定的日誌級別庫
  2. 一個實際將日誌輸出寫到有用位置的適配器

當下我們選用的是流行的根據環境變數指定的適配器env_logger,它會根據環境變數中配置的值,日誌等級,或者只開啟指定的庫等功能,或者不同的庫分配不同的等級等。

Linux或者MacOs上開啟功能

env RUST_LOG=debug cargo run 

Windows PowerShell上開啟功能

$env:RUST_LOG="debug"
cargo run

Windows CMD上開啟功能

set RUST_LOG="debug"
cargo run

如果我們指定庫等級可以設置

RUST_LOG="info,wenmeng=warn,webparse=warn"

這樣就可以減少第三方庫打日誌給程式帶來的干擾

需要在Cargo.toml中引用

[dependencies]
log = "0.4.20"
env_logger = "0.10.0"

以下是示意代碼

use log::{info, warn};
fn main() {
    env_logger::init();
    info!("歡迎使用軟體wmproxy");
    warn!("現在已經成功啟動");
}

println!將會直接輸出到stdout,當日誌數據多的時候,無法進行關閉,做為第三方庫,就不能幹擾引用庫的正常看日誌,所以這隻能調試的時候使用,或者少量的關鍵地方使用。

多個TcpListener的Accept

因為當前支持多個埠綁定,或者配置沒有配置,存在None的情況,我們需要同時在一個線程中await所有的TcpListener。
在這裡我們先用的是tokio::select!對多個TcpListener同時進行await。
如果此時我們沒有綁定proxy的綁定地址,此時listener為None,但我們需要進行判斷才知道他是否為None,如果我們用以下寫法:

use tokio::net::TcpListener;
use std::io;

#[tokio::main]
async fn main() -> io::Result<()> {
    let mut listener: Option<TcpListener> = None;
    tokio::select! {
        // 加了if條件判斷是否有值
        Ok((conn, addr)) = listener.as_mut().unwrap().accept(), if listener.is_some() => {
            println!("accept addr = {:?}", addr);
        }
    }
    Ok(())
}

此時我們試運行,依然報以下錯誤:

thread 'main' panicked at 'called `Option::unwrap()` on a `None` value', examples/udp.rs:9:46

也就是即使加了if條件我們也正確的執行我們的操作,因為tokio::select的每個分支必須返回Fut,此時如果為None,就不能返回Fut違反了該函數的定義,那麼我們做以下封裝:

async fn tcp_listen_work(listen: &Option<TcpListener>) -> Option<(TcpStream, SocketAddr)> {
    if listen.is_some() {
        match listen.as_ref().unwrap().accept().await {
            Ok((tcp, addr)) => Some((tcp, addr)),
            Err(_e) => None,
        }
    } else {
        // 如果為None的時候,就永遠返回Poll::Pending
        let pend = std::future::pending();
        let () = pend.await;
        None
    }
}

如果為None的話,將其返回Poll::Pending,則該分支await的時候永遠不會等到結果。
那麼最終的的代碼示意如下:

#[tokio::main]
async fn main() -> io::Result<()> {

    let listener: Option<TcpListener> = TcpListener::bind("127.0.0.1:8090").await.ok();
    tokio::select! {
        Some((conn, addr)) = tcp_listen_work(&listener) => {
            println!("accept addr = {:?}", addr);
        }
    }
    Ok(())
}

另一種在反向代理的時候因為server的數量是不定的,所以監聽的TcpListener也是不定的,此時我們用Vec<TcpListener>來做表示,那麼此時,我們如何通過tokio::select來一次性await所有的accept呢?
此時我們藉助futures庫中的select_all來監聽,但是select_all又不允許空的Vec,因為他要返回一個Fut,空的無法返回一個Fut,所以此時我們也要對其進行封裝:

async fn multi_tcp_listen_work(listens: &mut Vec<TcpListener>) -> (io::Result<(TcpStream, SocketAddr)>, usize) {
    if !listens.is_empty() {
        let (conn, index, _) = select_all(listens.iter_mut()
                .map(|listener| listener.accept().boxed())).await;
        (conn, index)
    } else {
        let pend = std::future::pending();
        let () = pend.await;
        unreachable!()
    }
}

此時監聽從8091-8099,我們的最終代碼:

#[tokio::main]
async fn main() -> io::Result<()> {
    let listener: Option<TcpListener> = TcpListener::bind("127.0.0.1:8090").await.ok();
    let mut listeners = vec![];
    for i in 8091..8099 {
        listeners.push(TcpListener::bind(format!("127.0.0.1:{}", i)).await?);
    }
    tokio::select! {
        Some((conn, addr)) = tcp_listen_work(&listener) => {
            println!("accept addr = {:?}", addr);
        }
        (result, index) = multi_tcp_listen_work(&mut listeners) => {
            println!("index receiver = {:?}", index)
        }
    }
    Ok(())
}

如果此時我們用

telnet 127.0.0.1 8098

那麼我們就可以看到輸出:

index receiver = 7

表示代碼已正確的執行。

Rust中數據在多個線程中的共用

Rust中每個對象的所有權都僅只能有一個對象擁有,那麼我們數據在在多個地方共用的時候可以怎麼辦呢?
在單線程中,我們可以用use std::rc::Rc;

Rc的特點

  1. 單線程的引用計數
  2. 不可變引用
  3. 非線程安全,即僅能在單線程中使用
    Rc引用計數中還有一個弱引用稱為Weak,弱引用表示持有對象的一個指針,但是不添加引用計數,也不會影響數據刪除,不保證一定能取得到數據。
    因為其不能修改數據,所以也常用RefCell做配合,來做引用計數的修改。
    以下是一個父類子類用弱引用計數實現的方案:
use std::rc::Rc;
use std::rc::Weak;
use std::cell::RefCell;

/// 父類擁有者
struct Owner {
    name: String,
    gadgets: RefCell<Vec<Weak<Gadget>>>,
}

/// 子類對象
struct Gadget {
    id: i32,
    owner: Rc<Owner>,
}

fn main() {
    let gadget_owner: Rc<Owner> = Rc::new(
        Owner {
            name: "wmproxy".to_string(),
            gadgets: RefCell::new(vec![]),
        }
    );
    
    // 生成兩個小工具
    let gadget1 = Rc::new(
        Gadget {
            id: 1,
            owner: Rc::clone(&gadget_owner),
        }
    );
    let gadget2 = Rc::new(
        Gadget {
            id: 2,
            owner: Rc::clone(&gadget_owner),
        }
    );

    {
        let mut gadgets = gadget_owner.gadgets.borrow_mut();
        gadgets.push(Rc::downgrade(&gadget1));
        gadgets.push(Rc::downgrade(&gadget2));
    }

    for gadget_weak in gadget_owner.gadgets.borrow().iter() {
        let gadget = gadget_weak.upgrade().unwrap();
        println!("小工具 {} 的擁有者:{}", gadget.id, gadget.owner.name);
    }
}

因為其並未實現Send函數,所以無法在多線程種傳遞。在多線程中,我們需要用Arc,但是在Arc獲取可變對象的時候有限制,必須他是唯一引用的時候才能修改。

use std::sync::Arc;
fn main() {
    let mut x = Arc::new(3);
    *Arc::get_mut(&mut x).unwrap() = 4;
    assert_eq!(*x, 4);
    
    let _y = Arc::clone(&x);
    assert!(Arc::get_mut(&mut x).is_none());
}

所以我們在多線程中的引用需要修改的時候,通常會用Atomic或者Mutex來做數據的寫入的唯一性。

#![allow(unused)]
fn main() {
    use std::sync::{Arc, Mutex};
    use std::thread;
    use std::sync::mpsc::channel;
    
    const N: usize = 10;
    
    let data = Arc::new(Mutex::new(0));
    
    let (tx, rx) = channel();
    for _ in 0..N {
        let (data, tx) = (Arc::clone(&data), tx.clone());
        thread::spawn(move || {
            // 共用數據data,保證線上程中只會同時有一個對象擁有修改許可權,也相當於擁有所有權,10個線程,每個線程+1,最終結果必須等於10
            let mut data = data.lock().unwrap();
            *data += 1;
            if *data == N {
                tx.send(()).unwrap();
            }
        });
    }
    rx.recv().unwrap();
    assert!(*data.lock().unwrap() == 10);
}

結語

以上是三種編寫Rust中常碰見的情況,也是在此項目中應用解決過的方案,在瞭解原理的情況下,解決問題可以有不同的思路。理解了原理,你就知道他設計的初衷,更好的幫助你學習相關的Rust知識。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一、定義 動態地給一個對象增加一些額外的職責。就擴展功能而言,裝飾模式提供了一種比使用子類更加靈活的替代方案。裝飾模式是一種結構型模式。 二、描述 包含以下三個角色:1、Component(抽象構件):它是具體構件和抽象裝飾類的父類,聲明瞭在具體構件中實現的業務方法,它的引入可以是客戶端以一致的方式 ...
  • 幾年前,我被問到“你是如何變成一名架構師的?”。基於這個話題,我們討論了很多,比如必要的技術、經驗以及所需要的知識儲備等。這一次討論促使我開始思考要成為一名架構師應該具備和學習的東西有哪些,成為一個優秀的架構師應該具備哪些能力和做哪些事情。為此我查閱資料,走訪各位大佬,當然也結合自己的經歷,最終我輸 ...
  • 1. 非同步編程概述 非同步編程是一種編程範式,用於處理那些需要等待I/O操作完成或者耗時任務的情況。在傳統的同步編程中,代碼會按照順序逐行執行,直到遇到一個耗時操作,它會阻塞程式的執行直到操作完成。這種阻塞式的模型在某些場景下效率低下,因為代碼在等待操作完成時無法執行其他任務。 非同步編程通過使用非阻塞 ...
  • 類方法就是為對象提供一些數據操作的函數,也就是類方法是操作對象的函數。那麼在Dart中,類方法到底有哪些特別之處呢…… ...
  • 目錄1. 什麼是內網穿透2. 實現背景3. 實現步驟3.1 安裝3.1.1 下載3.1.2 安裝服務端3.1.3 安裝客戶端4. Nginx 配置5. 官方文檔 1. 什麼是內網穿透 內網穿透(Port Forwarding)是一種網路技術,允許你將外部網路中的請求轉發到內部網路中的特定電腦或設備 ...
  • 本文主要介紹了python flask後端開發項目中的相關知識,包括flask項目結構、flask部署方式、前後端對接、後端介面測試工具。 ...
  • GeoIP2是一種IP地址定位庫,它允許開發人員根據`IP`地址查找有關位置和地理位置的信息。它使用`MaxMind`公司的IP地址資料庫,並提供一個方便的Python API。GeoIP2可以用於許多不同的應用程式,例如網站分析、廣告定位和身份驗證。GeoIP2提供了許多不同的信息,例如國家、城市... ...
  • Java替換RequstBody和RequestParam參數的屬性 本文主要講解在Java環境中如何替換RequestBody和RequestParam參數中的屬性 背景 近期由於接手的老項目中存在所有介面中新增一個加密串來給介面做一個加密效果(項目歷史原因,不方便上Jwt授權這套),所以就研究了 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...