教你nodejs爬蟲製作知乎專欄RSS抓取程式

来源:https://www.cnblogs.com/coderhf/archive/2020/05/23/12942787.html
-Advertisement-
Play Games

現在這個社會是信息爆炸的社會,各個網站、app上鋪天蓋地的都是各種新聞和信息。 為了獲取信息,我們每天都要進行各種麻煩的操作,打開各種網站或者手機app,操作顯得低效,後來發現了一個神器,那就是RSS。 什麼是RSS RSS中文名是簡易信息聚合,就是讓網站一個按照一定周期更新網站的文章概要內容(有些 ...


現在這個社會是信息爆炸的社會,各個網站、app上鋪天蓋地的都是各種新聞和信息。 為了獲取信息,我們每天都要進行各種麻煩的操作,打開各種網站或者手機app,操作顯得低效,後來發現了一個神器,那就是RSS。

什麼是RSS

RSS中文名是簡易信息聚合,就是讓網站一個按照一定周期更新網站的文章概要內容(有些是全文)到一個xml中。RSS訂閱工具一定時間抓取這個RSS訂閱源生成數據供訂閱者讀取網站內容。 

有了RSS,你只要去訂閱工具上就可以瀏覽你自己訂閱的新的更新內容,非常簡單高效。這裡推薦一個RSS訂閱神器inoreader,支持中文。這個我認為是目前最好的RSS訂閱器。 知乎專欄是一個知乎開給個人寫的博客,有些專欄上面具有有價值的信息,但是很遺憾知乎專欄不提供RSS訂閱,當然作為開發者來說,我們可以自己動手做一個知乎專欄RSS抓取程式。

 

製作爬蟲

很多網站提供了RSS,但是更多網站其實沒有提供RSS訂閱源。我們可以使用爬蟲抓取網站更新內容製作個人的RSS訂閱源。我作為一個前端er可以使用nodejs來進行RSS的製作。

什麼是nodejs

Node.js是一個基於Chrome JavaScript運行時建立的平臺, 用於方便地搭建響應速度快、易於擴展的網路應用。Node.js 使用事件驅動, 非阻塞I/O 模型而得以輕量和高效,非常適合在分散式設備上運行數據密集型的實時應用。

簡單的說 Node.js 就是運行在服務端的 JavaScript。使用nodejs的可以讓你一個只會用JavaScript也能寫後端服務代碼。當然也能用它進行爬蟲抓取的工作。

先安裝爬蟲所需依賴

進行爬取工作的話先要安裝所要用到的依賴。 superagent是最常用的一個依賴庫,利用它可以輕鬆發送各種請求。 cheerio就是一個nodejs版本的jquery,利用它可以獲取網頁中的各種dom結構。 data2xml就是一個json轉化成xml的一個庫。 其他還有node-schedulefs就是進行定時操作和文件操作。

新建一個文件夾rssmaker,並且執行npm init創建package.json。

 

用npm install node_modules_name --save來進行安裝各種依賴。

分析知乎專欄結構獲取要爬取的入口

我這次舉例爬取一個專欄前端學習指南。像這種適配手機端的網頁,一般都有採用發送API請求來獲得數據進行前端渲染頁面,我們可以用chromenetwork的查看可疑的請求。打開chrome的開發者工具。我們很快就發現了一個目標。一個可疑請求https://zhuanlan.zhihu.com/api/columns/study-fe/posts?limit=20

 

 

4

我們得到了一個json,我們現在使用一個json的查看工具chrome的插件JSON Editor可視化這個json數據方便我們進行分析。

 

5

我們可視化後數據如下:

 

6

前面我們發現的請求發送裡面有一個參數是limit,它的值是20,從上圖我們知道了我們得到了20組數據,這個參數其實就是限制獲取的數據條目數。我們現在分析20組裡面的一條數據。

 

{    "isTitleImageFullScreen": false,    "rating": "none",    "sourceUrl": "",    "publishedTime": "2016-12-28T15:01:44+08:00",    "links": {      "comments": "/api/posts/24606606/comments"
    },    "author": {      "profileUrl": "https://www.zhihu.com/people/jirengu-ruo-yu",      "bio": "飢人谷的挑山工    jirengu.com",      "hash": "3dd61d987210ce6b0ba24746803e04bb",      "uid": 33284922802176,      "isOrg": false,      "description": "飢人谷的挑山工    jirengu.com     ",      "isOrgWhiteList": false,      "slug": "jirengu-ruo-yu",      "avatar": {        "id": "31a3446681c9040f3643472db505a6ef",        "template": "https://pic4.zhimg.com/{id}_{size}.jpg"
      },      "name": "若愚"
    },    "url": "/p/24606606",    "title": "前端筆試面試題庫",    "titleImage": "",    "summary": "",    "content": "<h2>做了什麼?</h2><p>我們在建了 GitHub 前端筆試面試題庫 <a href=\"https://github.com/jirengu/frontend-interview/issues\" data-editable=\"true\" data-title=\"前端筆試面試題庫\" class=\"\">前端筆試面試題庫</a>, 歡迎走訪</p><br><br><h2>為什麼建前端筆試面試題庫?</h2><p><a href=\"https://zhuanlan.zhihu.com/study-fe\" data-editable=\"true\" data-title=\"前端學習指南專欄\" class=\"\">前端學習指南專欄</a> 專欄創建3個月有很多前端愛好者特別是入門者關註,很多小伙伴一直期待我們能做一份筆試面試題集錦分享給大家,我和方方也一直想把這個事情做好。但兩個人的力量太微弱,於是想到在 github 上建立公共項目,彙集更多前端愛好者的力量一起收集前端常見筆試面試題,作為送給前端入門的小伙伴、需要找工作的小伙伴一份新年禮物

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 背景: 最近在做一個關於android的續航時間測試apk,從開始測試記錄時間到低電自動關機時這整個的時間,當前採用監聽關機廣播的來實際統計續航時間,但遇到的問題是同樣的測試apk在android8及以下系統均能正常監聽到關機廣播,但從android 9開始就監聽不到關機廣播了。 下麵是我的監聽廣播 ...
  • 今天新蘋果機安裝cocoapods,安裝完以後發現怎麼pod search 都沒有用 命令行提示: swhcxp@iosdevmac ~ % pod search Almofire Setup completed [!] Unable to find a pod with name, author, ...
  • 使用React簡短代碼動態生成柵格佈局 作為 TerminalMACS 的一個子進程模塊 React Web管理端,使用Ant Design Pro作為框架。 本文應用到的知識 1.樣式文件less中方法的使用 2.for迴圈創建按鈕和柵格佈局(flex佈局) 1. 最終效果及源碼鏈接 作為前端新手 ...
  • 移動端適配我們需要做哪些事情? 一個最佳實踐除了設置 和 基準值,隨著iPhone手機的不斷升級,我們不得不正視以下2個問題: 安全區域適配 識別劉海屏 關於viewpoint fit 在切入正題之前,我們先展開介紹一下 ,它的作用是用於設置可視區域的尺寸,屬性如下: PropName | Desc ...
  • 一、if和switch的使用場景比較 1.分支比較多且無法窮盡的時候,最好使用if,其他情況可以視情況而定 2.如果數據不是很大,並且數據都是固定的可以使用switch 3.理論上Switch的效率更高 4.switch的弊端在於如果是無窮的可能性,那麼就不適合使用switch 二、迴圈 1.whi ...
  • 在前後端數據交互的過程中,為了能夠減少ajax請求次數,減輕帶寬壓力,後端往往會將當前介面所需的參數以對象的形式集體返回。這樣就導致一個問題:對象內欄位屬性過多,而有些小組件功能又壓根不需要這麼一個大對象參數(主要是對象屬性過多,難得理,也懶得找),這時就需要對這個大對象做再加工處理。 比如:將小組 ...
  • h5+ 開發微信、QQ分享功能 此處只做微信網頁分享示例代碼 方式一、JS+HTML+h5Plus 1.html代碼 <div class="button" onclick="shareWeb()">分享網頁</div> 2.JS代碼 // H5 plus事件處理function plusReady ...
  • 今天終於把樸靈老師寫的《深入淺出Node.js》給學習完了, 這本書不是一本簡單的Node入門書籍,它沒有停留在Node介紹或者框架、庫的使用層面上,而是從不同的視角來揭示Node自己內在的特點和結構。建議有一定Node基礎或者做過Node方面的小項目的同學閱讀,看完以後你的思維會有很奇特的碰撞,我 ...
一周排行
    -Advertisement-
    Play Games
  • 前言 在我們開發過程中基本上不可或缺的用到一些敏感機密數據,比如SQL伺服器的連接串或者是OAuth2的Secret等,這些敏感數據在代碼中是不太安全的,我們不應該在源代碼中存儲密碼和其他的敏感數據,一種推薦的方式是通過Asp.Net Core的機密管理器。 機密管理器 在 ASP.NET Core ...
  • 新改進提供的Taurus Rpc 功能,可以簡化微服務間的調用,同時可以不用再手動輸出模塊名稱,或調用路徑,包括負載均衡,這一切,由框架實現並提供了。新的Taurus Rpc 功能,將使得服務間的調用,更加輕鬆、簡約、高效。 ...
  • 順序棧的介面程式 目錄順序棧的介面程式頭文件創建順序棧入棧出棧利用棧將10進位轉16進位數驗證 頭文件 #include <stdio.h> #include <stdbool.h> #include <stdlib.h> 創建順序棧 // 指的是順序棧中的元素的數據類型,用戶可以根據需要進行修改 ...
  • 前言 整理這個官方翻譯的系列,原因是網上大部分的 tomcat 版本比較舊,此版本為 v11 最新的版本。 開源項目 從零手寫實現 tomcat minicat 別稱【嗅虎】心有猛虎,輕嗅薔薇。 系列文章 web server apache tomcat11-01-官方文檔入門介紹 web serv ...
  • C總結與剖析:關鍵字篇 -- <<C語言深度解剖>> 目錄C總結與剖析:關鍵字篇 -- <<C語言深度解剖>>程式的本質:二進位文件變數1.變數:記憶體上的某個位置開闢的空間2.變數的初始化3.為什麼要有變數4.局部變數與全局變數5.變數的大小由類型決定6.任何一個變數,記憶體賦值都是從低地址開始往高地 ...
  • 如果讓你來做一個有狀態流式應用的故障恢復,你會如何來做呢? 單機和多機會遇到什麼不同的問題? Flink Checkpoint 是做什麼用的?原理是什麼? ...
  • C++ 多級繼承 多級繼承是一種面向對象編程(OOP)特性,允許一個類從多個基類繼承屬性和方法。它使代碼更易於組織和維護,並促進代碼重用。 多級繼承的語法 在 C++ 中,使用 : 符號來指定繼承關係。多級繼承的語法如下: class DerivedClass : public BaseClass1 ...
  • 前言 什麼是SpringCloud? Spring Cloud 是一系列框架的有序集合,它利用 Spring Boot 的開發便利性簡化了分散式系統的開發,比如服務註冊、服務發現、網關、路由、鏈路追蹤等。Spring Cloud 並不是重覆造輪子,而是將市面上開發得比較好的模塊集成進去,進行封裝,從 ...
  • class_template 類模板和函數模板的定義和使用類似,我們已經進行了介紹。有時,有兩個或多個類,其功能是相同的,僅僅是數據類型不同。類模板用於實現類所需數據的類型參數化 template<class NameType, class AgeType> class Person { publi ...
  • 目錄system v IPC簡介共用記憶體需要用到的函數介面shmget函數--獲取對象IDshmat函數--獲得映射空間shmctl函數--釋放資源共用記憶體實現思路註意 system v IPC簡介 消息隊列、共用記憶體和信號量統稱為system v IPC(進程間通信機制),V是羅馬數字5,是UNI ...