最近在抓取一些社交網站的數據,抓下來的數據用MySql存儲。問我為什麼用MySql,那自然是入門簡單,並且我當時只熟悉MySql。可是,隨著數據量越來越大,有一個問題始終困擾著我,那就是 社交關係的存儲 。 就以新浪微博舉例,一個大V少則十幾萬,多則幾千萬的粉絲,這些關註關係要怎麼存呢?在MySql ...
最近在抓取一些社交網站的數據,抓下來的數據用MySql存儲。問我為什麼用MySql,那自然是入門簡單,並且我當時只熟悉MySql。可是,隨著數據量越來越大,有一個問題始終困擾著我,那就是社交關係的存儲。
就以新浪微博舉例,一個大V少則十幾萬,多則幾千萬的粉絲,這些關註關係要怎麼存呢?在MySql中,一條關註關係(大V id,大V的一個粉絲 id)存為一條數據,那麼當用戶數量上來的時候,關註關係輕鬆破億,破十億,甚至上百億,並且為了保證每條數據的唯一性,還需要設置聯合索引,MySql就有些力不從心了。那麼有人要說了:分表呀。嗯,沒錯,分表的確可以在插入端和讀取端提升一些速度。比如我們可以根據id哈希到100張表中。查詢一個用戶有哪些粉絲是快了,但是查詢一個用戶關註了哪些人時仍然需要遍歷全表。好,這時候我們還可以以(id,其關註的一個用戶的id)再構造100張表,於是兩種查詢都快了。然而,後面那100張表是冗餘數據,看著就不爽...並且生成一張子圖也不方便(需要多次寫SQL查表)。
於是,在搜索更好的方案時無意間發現了圖形資料庫,查閱一番資料後感覺確實是個不錯的選擇,畢竟業界的一些大佬,如twitter,Adobe等也在用。
那麼,什麼是圖形資料庫呢?在這裡我貼上較為官方的定義:a database that uses graph structures for semantic queries with nodes, edges and properties to represent and store data – independent of the way the data is stored internally. It’s really the model and the implemented algorithms that matter.註意,這裡只是說數據模型是圖結構的,沒有說數據的存儲也一定要是圖結構的。其數據模型如下圖
進入今天的主題,我將以Neo4j為例,說明為什麼選擇圖形資料庫?
首先,先簡要介紹一下Neo4j。Neo4j是由Java和Scala寫成的一個NoSql資料庫,專門用於網路圖的存儲。更詳細的內容可見官網。作為一個圖形資料庫,Neo4j有以下優點:
- 更快的資料庫操作。當然,有一個前提條件,那就是數據量較大,在MySql中存儲的話需要許多表,並且表之間聯繫較多(即有不少的操作需要join表)。
- 數據更直觀,相應的SQL語句也更好寫(Neo4j使用Cypher語言,與傳統SQL有很大不同)。
- 更靈活。不管有什麼新的數據需要存儲,都是一律的節點和邊,只需要考慮節點屬性和邊屬性。而MySql中即意味著新的表,還要考慮和其他表的關係。
- 資料庫操作的速度並不會隨著資料庫的增大有明顯的降低。這得益於Neo4j特殊的數據存儲結構和專門優化的圖演算法。
接著,試著從更深一些的層次看圖形資料庫。我將從Neo4j的數據存儲和數據讀寫兩方面來說明為什麼選它。
數據存儲
Neo4j對於圖的存儲自然是經過特別優化的。不像傳統資料庫的一條記錄一條數據的存儲方式,Neo4j的存儲方式是:節點的類別,屬性,邊的類別,屬性等都是分開存儲的,這將大大有助於提高圖形資料庫的性能。如下圖:數據讀寫
在Neo4j中,存儲節點時使用了"index-free adjacency",即每個節點都有指向其鄰居節點的指針,可以讓我們在\(O(1)\)的時間內找到鄰居節點。另外,按照官方的說法,在Neo4j中邊是最重要的,是"first-class entities",所以單獨存儲,這有利於在圖遍歷的時候提高速度,也可以很方便地以任何方向進行遍歷。
更多的資料可以看參考資料第一條。
關於為什麼選圖形資料庫就說到這。如今可供選擇的圖形資料庫也不少,為什麼就選擇了Neo4j呢?我簡要歸結為以下幾點:
- 作為較早的一批圖形資料庫之一,文檔和各種技術博客較多。
- 最開始曾嘗試過flockdb(據說操作簡單+輕量級),但是敗於安裝過程...,依賴太多。
- 網上經常有人將orientdb,arangodb與neo4j做對比,我當然也考慮過orientdb和arangodb。從易用性來說都差不多。速度上的話看過一些評測,arangodb應該是相對最快的,因為其使用了混合索引。但是從穩定性來說,neo4j是最好的。
時間有限,我並沒有通讀Neo4j的官方文檔。但作為一個資料庫使用者,能大概地瞭解為什麼要選這個資料庫就已經足夠了。
最後做個總結吧。圖形資料庫是這幾年興起的,整體還不是很完善,而且適用面也是比較窄的。只有在明確自己的需求之後,才能確定是否選擇圖形資料庫。
轉載請註明出處:http://www.cnblogs.com/rubinorth/
參考資料
- Graph Databases for Beginners: Native vs. Non-Native Graph Technology
- neo4j是怎麼pk掉orientdb和titan的
- arangodb官方文檔,講為什麼arangodb比neo4j快