關於scrapy的代理問題

来源:https://www.cnblogs.com/skypeng/archive/2022/10/12/16712375.html
-Advertisement-
Play Games

今天幫同學解決scrapy的時候發現的，就是在我這裡能運行，在他那裡不能運行。對比scrapy的版本發現，他的是最新的(2.6.3)，然後我的是2.5.0的。隨後我將他的版本也換成跟我同樣的，他的也能運行了。之後我去看了官方更新文檔，發現在2.5.1的更新上說明瞭，http的驗證需要在setting ...


今天幫同學解決scrapy的時候發現的，就是在我這裡能運行，在他那裡不能運行。對比scrapy的版本發現，他的是最新的(2.6.3)，然後我的是2.5.0的。隨後我將他的版本也換成跟我同樣的，他的也能運行了。之後我去看了官方更新文檔，發現在2.5.1的更新上說明瞭，http的驗證需要在settings加上這個

http_auth_domain = None

之後我把我同學的版本換到最新的，設置這個，成功了。之前就是老是提示White IP Failed.但白名單裡面又有，所以只能是scrapy的問題了。









OK,就是這樣。感謝您的閱讀！感恩！Emmm,如果有什麼問題的話，歡迎評論區告知或者私信告訴我啦~


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • Java在PDF中查找文本併為其添加超鏈接
    超鏈接是指鏈接到另一個文件或對象的圖標、圖形或文本。它是操作文檔最常用的功能之一。Spire.PDF for Java支持創建一個新的PDF文檔並向其添加各種超鏈接，包括普通鏈接、超文本鏈接、電子郵件鏈接和文檔鏈接 ...
  • python基礎--簡單數據類型預覽
    為了適應更多的使用場景，將數據劃分為多種類型，每種類型都有各自的特點和使用場景， 幫助電腦高效的處理和展示數據。（比如數字用於數學運算、字元串用於信息傳遞、頁面文字展示等） 1.數字類型 整型 整型就是我們說的整數，0也是整數，是一種特殊的整數； int 既是整型的代表，又是定義整型的函數； 定義 ...
  • Java8日期常用API
    Java8 LocalDate常用API 每日 獲取當前日期 //獲取當前系統所屬時區的當前日期 LocalDate now = LocalDate.now(); //獲取指定日期 LocalDate date = LocalDate.of(2022, 10, 20); //獲取指定時區的當前日期 ...
  • Object Lessons
    C語言中，數據與處理數據的操作（函數）是分開聲明的，這種程式方法被稱為程式性的；而在c++中，則是使用abstract data type（ADT）或class hierarchy的數據封裝 c++對於結構體和函數（不包含virtual和non-inline）的封裝並沒有增加佈局成本，對於C++而言 ...
  • 插入排序演算法步驟和思路
    演算法步驟 將待排序序列第一個元素看做一個有序序列，把第二個元素到最後一個元素當成是未排序序列。 從頭到尾依次掃描未排序序列，將掃描到的每個元素插入有序序列的適當位置。（如果待插入的元素與有序序列中的某個元素相等，則將待插入元素插入到相等元素的後面。 代碼 import java.util.Array ...
  • python學習：枚舉定義和使用
    如題，作者一開始也遇到了這個比較棘手的問題。 話不多說，直接說解決方案。 這裡使用bytestring，如果是object[]的話則用repeated定義即可。 那麼問題又來了，用這個類型怎麼做到與java中的object完全轉換呢？ 目前，作者發現bytestring對於java的object沒有 ...
  • 導出Excel添加水印
    需求背景： 要求導出的Excel有水印，且水印不要是可點擊的圖片影響正常操作。 開發環境： JDK 1.8 SpringBoot v2.2.5.RELEASE 導入依賴： 1 <!-- poi 相關--> 2 <dependency> 3 <groupId>org.apache.poi</group ...
  • HashMap基本使用方法
    ##HashMap Map集合基於 鍵（key）/值（value）映射。每個鍵最多只能映射一個值。鍵可以是任何引用數據類型的值，不可重覆；值可以是任何引用數據類型的值，可以重覆；鍵值對存放無序。 HashMap常用方法 ##put/get 方法 1.put(K key, V value) 將鍵（ke ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發（一）：使用.NET MAUI開發第一個安卓APP
    移動開發（一）：使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說，近來想嘗試開發一款安卓APP，考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP，畢竟是使用Visual Studio開發工具，使用起來也比較的順手，結合微軟官方的教程進行了安卓 ...
  • wpf ToggleButton選中效果和一個登錄界面
    前言 QuestPDF 是一個開源 .NET 庫，用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫，它徹底改變了我們生成 PDF 文檔的方 ...
  • 彈幕樹洞項目功能新增篇
    項目地址 項目後端地址： https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址： ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址： http://tree ...
  • 第27篇 sqlserver2022詳細安裝步驟
    話不多說，直接開乾 一.下載 1.官方鏈接下載： https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe，運行開始下載SQL server； 二. ...
  • .NET 開源高性能 MQTT 類庫
    前言 隨著物聯網（IoT）技術的迅猛發展，MQTT（消息隊列遙測傳輸）協議憑藉其輕量級和高效性，已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫，為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog文檔翻譯系列（六） - 可用的接收器、增強器、格式化輸出
    Serilog支持多種接收器用於日誌存儲，增強器用於添加屬性，LogContext管理動態屬性，支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項，適用於不同需求。 ...
  • 警惕 Visual Studio 屬性求值副作用導致邏輯不符合預期
    目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據，爬取信息時需要模擬瀏覽器行為，否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下： 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • [使用目前最新版]HybridCLR6.9.0+YooAsset2.2.4實現純C# Unity熱更新方案 (一)
    1.前言 什麼是熱更新 游戲或者軟體更新時，無需重新下載客戶端進行安裝，而是在應用程式啟動的情況下，在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR，Xlua，ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles，Addressable， ...
  • 在 ASP.NET Core Web API 中使用操作篩選器統一處理通用操作
    本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺，其實像阿裡雲，騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後，它會送 ...
  • 第28篇 如何.net中實現高效可靠數據同步api
    通過以下方式可以高效，並保證數據同步的可靠性 1.API設計 使用RESTful設計，確保API端點明確，並使用適當的HTTP方法（如POST用於創建，PUT用於更新）。 設計清晰的請求和響應模型，以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證，確保接收到的數據符合預期格 ...
所有分類