Java轉職大數據人群常使用的二十多個大數據工具

来源:https://www.cnblogs.com/fenghuo9527/archive/2018/08/04/9419371.html
-Advertisement-
Play Games

最近我問了很多Java開發人員關於最近12個月內他們使用的是什麼大數據工具。 這是一個系列,主題為: 語言 web框架 應用伺服器 SQL數據訪問工具 SQL資料庫 大數據 構建工具 雲提供商 今天我們就要說說大數據。根據維基百科,大數據是數據集的一個廣義的術語,並且該數據集是如此龐大和複雜,以致於 ...


最近我問了很多Java開發人員關於最近12個月內他們使用的是什麼大數據工具。

這是一個系列,主題為:

  • 語言
  • web框架
  • 應用伺服器
  • SQL數據訪問工具
  • SQL資料庫
  • 大數據
  • 構建工具
  • 雲提供商

今天我們就要說說大數據。根據維基百科,大數據是數據集的一個廣義的術語,並且該數據集是如此龐大和複雜,以致於傳統的數據處理應用程式無法勝任。

在許多情況下,使用SQL資料庫用於存儲/檢索數據就足夠了。但在另一些情況下,要麼SQL資料庫規模不夠,要麼還有更好的工具。這一切都取決於使用情況。

現在讓我們來討論一下存儲/處理數據用的不同的非SQL工具——NoSQL資料庫,記憶體緩存,全文搜索引擎,實時流,圖形資料庫,等等。

MongoDB—— 一種流行的,跨平臺的面向文檔的資料庫。

Elasticsearch——專為雲而構建的分散式REST風格搜索引擎。

Cassandra——一個開源的分散式資料庫管理系統,最初由Facebook開發,被設計用來處理橫跨多個商用伺服器的大量數據,提供了無單點故障的高度可用性。

Redis—— 一個開源的(BSD許可),記憶體數據結構存儲,作為資料庫、緩存和消息代理使用。

Hazelcast——基於Java的開源記憶體數據網格。

EHCache——一種被廣泛使用的開源Java分散式緩存,用於通用緩存、Java EE和輕量級容器。Ehcache相關介紹

Hadoop——用Java編寫的一個開源軟體框架,用於分散式存儲和對在電腦集群上的超大型數據集的分散式處理。

Solr——一個開源的企業搜索平臺,用Java編寫的,來自於Apache Lucene項目。

Spark——Apache Software Foundation中最活躍的項目,一個開源的集群計算框架。

Memcached—— 一個通用的分散式記憶體緩存系統。

Apache Hive——提供了Hadoop之上類似於SQL的層。

Apache Kafka—— 一個高通量、分散式的發佈-訂閱式消息系統,最初開發在LinkedIn上。Windows上脫離Cygwin運行Apache Kafka

Akka—— 一個工具包和運行時,用於在JVM上構建高度並行的、分散式的、有彈性的消息驅動的應用程式。

HBase—— 一個開源的,非關係型的,分散式資料庫,在谷歌的BigTable後建模,用Java編寫,並運行在HDFS上。

Neo4j——用Java實現的開源圖形資料庫。

CouchBase——一個開源的、面向文檔的分散式NoSQL資料庫,特別為了互動式應用而優化。

Apache Storm——開源的分散式實時計算系統。

CouchDB——使用JSON來存儲數據的面向文檔的開源NoSQL資料庫。

Oracle Coherence—— 一個記憶體的數據網格解決方案,通過提供快速訪問常用數據的渠道,使得企業可預測地擴展關鍵任務應用程式。

Titan—— 一個可擴展的圖形資料庫,優化的目的在於存儲和查詢包含數千億頂點和邊的圖形,分佈在多機集群。

Amazon DynamoDB——一個快速、靈活、完全管理的NoSQL資料庫服務,用於在任何規模需要一致的、個位數毫秒延遲的所有應用程式。

Amazon Kinesis—— 用於在AWS上的流數據的實時平臺。

Datomic—— 一個用Clojure寫的完全事務式的,支持雲的,分散式資料庫。

有一句話叫做三人行必有我師,其實做為一個開發者,有一個學習的氛圍
跟一個交流圈子特別重要這是一個我的大數據交流學習群531629188
不管你是小白還是大牛歡迎入駐,正在求職的也可以加入
,大家一起交流學習,話糙理不糙,互相學習,共同進步,一起加油吧。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 1.虛擬機配製 查看ip: ip addr 配製網卡: 編輯虛擬網路編輯器,修改子網IP 查看ip,輸入ip addr 重啟網路:ifup eth0 關閉網路:ifdown eth0 測試網路:ping www.baidu.com 安裝xshell:(上一篇文件鏈接里或自行百度下載) 登陸後輸入 s ...
  • 首先安裝一個box,安裝一個centos7,然後就是xshell,接下來就是 查看ip 1. ifconfig 2. ip addr 3. vi /etc/sysconfig/network scripts/ifcfg xx 4. yum install net tools 打開box,啟動安裝好的 ...
  • 1. HTTP的請求方法以及響應狀態碼 1.1. 請求方法 http請求方法有GET、POST、PUT、HEAD、DELETE、OPTIONS、TRACE、CONNECT。當然上述方法是基於HTTP/1.1的,HTTP/1.0中獨有的方法就不說了。 GET 獲取資源 GET方法一般用來從伺服器上獲取 ...
  • 1.簡介 電腦組成 CPU 硬體RAM 硬體Disk 操作系統(OS) 管理和控制電腦硬體與軟體資源的電腦程式,是直接運行在“裸機”上的最基本的系統軟體 任何其他軟體都必須在操作系統的支持下才能運行 組成: linux優勢: 開源,免費,安全 各大互聯網公司都在用 代碼都運行在linux上 l ...
  • 在win10中,註冊表的信息是我們在修改設置的時候經常都是需要用到的一個功能,註冊表對我們的操作來說是很重要的,今天看到有小伙伴在Win10系統註冊表被鎖定了,我們在註冊表中就不可以正常的修改和操作了,今天小編就來跟大家分享一下Win10系統註冊表被鎖定後快速解除鎖定的方法分享。 具體的方法和詳細的 ...
  • 占座 ...
  • 轉自:http://www.maomao365.com/?p=6973 摘要: 在sql腳本編寫中,如果需要在update delete 中使用表別名的方法,必須按照一定的規則編寫,否則將會出現相應的異常信息,如下所示: 實驗環境:sqlserver 2008 R2 ...
  • 1.顯示分區 show partitions tables; 2.SHELL里導出文件顯示欄位 set hive.cli.print.header ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...