Hadoop系列001-大數據概論

来源:https://www.cnblogs.com/intflag/archive/2018/12/01/10049296.html
-Advertisement-
Play Games

本人微信公眾號,歡迎掃碼關註! 大數據概論 1、大數據概念 大數據(big data),指無法在一定時間範圍內用常規軟體工具進行捕捉、管理和處理的數據集合,是需要新處理模式才能具有更強的決策力、洞察發現力和流程優化能力的海量、高增長率和多樣化的信息資產。 最小的基本單位是bit,按順序給出所有單位: ...


本人微信公眾號,歡迎掃碼關註!

大數據概論

1、大數據概念

大數據(big data),指無法在一定時間範圍內用常規軟體工具進行捕捉、管理和處理的數據集合,是需要新處理模式才能具有更強的決策力、洞察發現力和流程優化能力的海量、高增長率和多樣化的信息資產。

最小的基本單位是bit,按順序給出所有單位:bit、Byte、KB、MB、GB、TB、PB、EB、ZB、YB、BB、NB、DB。

1Byte = 8bit    1K = 1024bit    1MB = 1024K 1G = 1024M
1T = 1024G      1P = 1024T      1E = 1024P      1Z = 1024E      
1Y = 1024Z      1B = 1024Y      1N = 1024B      1D = 1024N

2、大數據的特點

1)Volume(大量)

截至目前,人類生產的所有印刷材料的數據量是200PB,而歷史上全人類總共說過的話的數據量大約是5EB。當前,典型個人電腦硬碟的容量為TB量級,而一些大企業的數據量已經接近EB量級。

2)Velocity(高速)

這是大數據區分於傳統數據挖掘的最顯著特征。根據IDC的“數字宇宙”的報告,預計到2020年,全球數據使用量將達到35.2ZB。在如此海量的數據面前,處理數據的效率就是企業的生命。

天貓雙十一:2016年6分58秒,天貓交易額超過100億

3)Variety(多樣)

這種類型的多樣性也讓數據被分為結構化數據和非結構化數據。相對於以往便於存儲的以資料庫/文本為主的結構化數據,非結構化數據越來越多,包括網路日誌、音頻、視頻、圖片、地理位置信息等,這些多類型的數據對數據的處理能力提出了更高要求。

4)Value(低價值密度)

價值密度的高低與數據總量的大小成反比。比如,在一天監控視頻中,我們只關心老師晚上在床上健身那一分鐘,如何快速對有價值數據“提純”成為目前大數據背景下待解決的難題。

3、大數據的應用場景

1)O2O:百度大數據+平臺通過先進的線上線下打通技術和客流分析能力,助力商家精細化運營,提升銷量。

2)零售:探索用戶價值,提供個性化服務解決方案;貫穿網路與實體零售,攜手創造極致體驗。經典案例,子尿布+啤酒。

3)旅游:深度結合百度獨有大數據能力與旅游行業需求,共建旅游產業智慧管理、智慧服務和智慧營銷的未來。

4)商品廣告推薦:給用戶推薦訪問過的商品廣告類型

5) 房產:大數據全面助力房地產行業,打造精準投策與營銷,選出更合適的地,建造更合適的樓,賣給更合適的人。

6)保險:海量數據挖掘及風險預測,助力保險行業精準營銷,提升精細化定價能力。

7)金融:多維度體現用戶特征,幫助金融機構推薦優質客戶,防範欺詐風險。

8)移動聯通:移動聯通:根據用戶年齡、職業、消費情況,分析統計哪種套餐適合哪類人群。對市場人群精准定制。

9)人工智慧

4、大數據的發展前景

1)黨的十八屆五中全會提出“實施國家大數據戰略”,國務院印發《促進大數據發展行動綱要》,大數據技術和應用處於創新突破期,國內市場需求處於爆發期,我國大數據產業面臨重要的發展機遇。

2)國際數據公司IDC預測,到2020年,企業基於大數據計算分析平臺的支出將突破5000億美元。目前,我國大數據人才只有46萬,未來3到5年人才缺口達150萬之多。

  • 人才缺口計算
    150w-40w=110w
    110W/5年 = 22w/年
    22w/12月=1.83w/月
    自古不變的真理:先入行者吃肉,後入行者喝湯,最後到的買單!

3)2017年北京大學、中國人民大學、北京郵電大學等25所高校成功申請開設大數據課程。

4)大數據屬於高新技術,大牛少,升職競爭小;

5)在北京大數據開發工程師的平均薪水已經到17800元(數據統計來職友集),而且目前還保持強勁的發展勢頭。

5、企業數據部的業務流程分析

6、企業數據部的一般組織結構


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • more命令 作用:分屏顯示文件內容 格式:more [選項] 文件名 選項:-num 一次顯示的行數 +num 從第幾行開始顯示 使用技巧:空格或f鍵進行向下翻頁 使用Enter鍵向下換行 使用q或Q退出 / 字元串 向下查找字元串 註意點:使用more命令不可以進行向上翻頁 less命令 作用: ...
  • Deepin 原名Linux Deepin,在2014年4月改名Deepin。Deepin團隊基於Qt/C++(用於前端)和Go(用於後端)開發了的全新深度桌面環境(DDE),以及音樂播放器,視頻播放器,軟體中心等一系列特色軟體。 Deepin是由武漢深之度科技有限公司開發的Linux發行版。Dee ...
  • 減少文件大小有兩個明顯的好處,一是可以減少存儲空間,二是通過網路傳輸文件時,可以減少傳輸的時間。gzip是在Linux系統中經常使用的一個對文件進行壓縮和解壓縮的命令,既方便又好用。gzip不僅可以用來壓縮大的、較少使用的文件以節省磁碟空間,還可以和tar命令一起構成Linux操作系統中比較流行的壓 ...
  • 文章摘抄自:一支小白,博客地址:http://www.cnblogs.com/startnow/p/7580865.html Centos7安裝Oracle 11gR2 - 環境:VM12+centos7 x86_64 minimal - 最小化安裝的Centos7 - 虛擬機配置- 50G硬碟 - ...
  • 一、資料庫能夠做什麼 1.存儲大量的數據。 2.保持數據信息的一致、完整。 3.共用和安全。 4.通過組合分析,產生新的有用信息。 二、資料庫的基本概念 1.資料庫就是“數據”的“倉庫”。 2.資料庫中包含表、關係以及操作對象。 3.數據存放在表中。 三、數據完整性 ...
  • 一、什麼是索引。 索引是用來加速查詢的技術的選擇之一,在通常情況下,造成查詢速度差異 的因素就是索引是否使用得當。當我們沒有對數據表的某一欄位段或者多個 欄位添加索引時,實際上執行的全表掃描操作,效率很低。而如果我們為某 些欄位添加索引, 在執行搜索時便可以通過掃描索引,然後再找出索 引對應的值,從 ...
  • 1 . 背景描述 本公司的SQL Server 伺服器近百台,為了收集伺服器運行的狀態,需要在各個實例上部署監控Job,將收集到的信息推送到中央管理伺服器。 收集的信息主要包括:慢查詢、阻塞、資源等待、Connection_Trace log 、Job執行狀態、複製訂閱狀態、Alwayson狀態、數 ...
  • 本人微信公眾號,歡迎掃碼關註! 從Hadoop框架討論大數據生態 1、Hadoop是什麼 1)Hadoop是一個由Apache基金會所開發的分散式系統基礎架構 2)主要解決,海量數據的存儲和海量數據的分析計算問題。 3)廣義上來說,HADOOP通常是指一個更廣泛的概念——HADOOP生態圈 2、Ha ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...