[toc] # 一、背景介紹 你好,我是[@馬哥python說](https://www.zhihu.com/people/13273183132) ,一名10年程式猿。 最近我用python開發了一個GUI桌面軟體,作用是爬取YouTube指定視頻的評論,6個關鍵欄位,含: >評論id、評論內容、 ...
目錄
一、背景介紹
你好,我是@馬哥python說 ,一名10年程式猿。
最近我用python開發了一個GUI桌面軟體,作用是爬取YouTube指定視頻的評論,6個關鍵欄位,含:
評論id、評論內容、評論時間、評論作者昵稱、評論作者頻道、點贊數
1.1 軟體說明
幾點重要說明:
- 運行之前,先打開魔法
- Windows用戶可直接雙擊打開使用,無需Python運行環境
- 可爬取指定數量評論,或者全部評論(不存在反爬問題)
- 排序方式支持:按日期排序/按熱門排序
- 可爬取6個欄位,含:評論id、評論內容、評論時間、評論作者昵稱、評論作者頻道、點贊數
- 其中,評論時間含絕對時間(年月日時分秒的格式)
1.2 效果演示
演示視頻:
【Python爬蟲GUI】我開發了一個採集YouTube評論的軟體!
運行截圖1:
運行截圖2:
二、科普知識
2.1 關於視頻id
油管視頻id號,比如,https://www.youtube.com/watch?v=9lc6D6nPd38 這個視頻鏈接的視頻id就是"9lc6D6nPd38"。YouTube的每個視頻都是如此。
2.2 關於評論時間
YouTube網頁上是看不到絕對時間(年月日時分秒格式)的,只能看到相對時間(幾個月前、幾天前之類),此軟體支持爬取絕對時間。
三、爬蟲代碼
3.1 界面模塊
軟體界面採用tkinter開發。
主視窗部分:
# 創建主視窗
root = tk.Tk()
root.title('YouTube評論爬蟲 | 馬哥python說')
# 設置視窗大小
root.minsize(width=850, height=650)
show_list_Frame = tk.Frame(width=800, height=350) # 創建<消息列表分區>
show_list_Frame.pack_propagate(0)
show_list_Frame.place(x=30, y=180, anchor='nw') # 擺放位置
# 滾動條
scroll = tk.Scrollbar(show_list_Frame)
# 放到Y軸豎直方向
scroll.pack(side=tk.RIGHT, fill=tk.Y)
按鈕控制項部分:
# 界面設計
# 視頻id
tk.Label(root, text='視頻id:').place(x=30, y=50)
video_id = tk.StringVar()
video_id.set('')
entry = tk.Entry(root, bg='#ffffff', width=20, textvariable=video_id)
entry.place(x=160, y=50, anchor='nw') # 擺放位置
3.2 爬蟲模塊
通過請求YouTube評論的ajax介面實現,詳見文末完整代碼。
3.3 日誌模塊
好的日誌功能,方便軟體運行出問題後快速定位原因,修複bug。
核心代碼:
def get_logger(self):
self.logger = logging.getLogger(__name__)
# 日誌格式
formatter = '[%(asctime)s-%(filename)s][%(funcName)s-%(lineno)d]--%(message)s'
# 日誌級別
self.logger.setLevel(logging.DEBUG)
# 控制台日誌
sh = logging.StreamHandler()
log_formatter = logging.Formatter(formatter, datefmt='%Y-%m-%d %H:%M:%S')
# info日誌文件名
info_file_name = time.strftime("%Y-%m-%d") + '.log'
case_dir = r'./logs/'
info_handler = TimedRotatingFileHandler(filename=case_dir + info_file_name,
when='MIDNIGHT',
interval=1,
backupCount=7,
encoding='utf-8')
日誌截圖:
四、獲取源碼及軟體
愛學習的小伙伴,完整python源碼及可執行軟體,我已打包好,並上傳至我的微信公眾號"老男孩的平凡之路",後臺回覆"爬油管評論軟體"即可獲取。
獲取鏈接:【爬蟲GUI】YouTube評論採集軟體,突破反爬,可無限爬取!
我是@馬哥python說,一名10年程式猿,持續分享python乾貨中!