大數據已經成為一種發展趨勢,得到越來越多的公司參與。最近從事大數據系統設計開發和推薦引擎方面的工作,分幾篇文章兩個系列把自己的心得記錄一下, 和大家分享一下大數據方面的經驗。 整個平臺包括監控系統、日誌分析系統、推薦系統。按數據業務步驟劃分,分為數據採集、清洗、存儲、分析和服務。整個數據流程如下圖: ...
大數據已經成為一種發展趨勢,得到越來越多的公司參與。最近從事大數據系統設計開發和推薦引擎方面的工作,分幾篇文章兩個系列把自己的心得記錄一下,
和大家分享一下大數據方面的經驗。
整個平臺包括監控系統、日誌分析系統、推薦系統。按數據業務步驟劃分,分為數據採集、清洗、存儲、分析和服務。整個數據流程如下圖:
實際項目中和這流程圖有點差異。前端日誌搜集採用的Flume。