【若澤大數據實戰第一天】大數據測試平臺搭建

来源:https://www.cnblogs.com/qianghandejuren/archive/2018/05/27/9097914.html
-Advertisement-
Play Games

若澤大數據測試平臺環境搭建 一、介質需求: 虛擬機:VMware Workstation 14.1.1.28517 大小:465.2MB 操作系統:CentOS-6.5-x86_64-bin-DVD1.iso 大小:4.16GB 二、測試環境搭建: 1、虛擬機安裝: 打開VMware Worksta ...


若澤大數據測試平臺環境搭建

一、介質需求:

虛擬機:VMware Workstation  14.1.1.28517 大小:465.2MB

操作系統:CentOS-6.5-x86_64-bin-DVD1.iso 大小:4.16GB

 

二、測試環境搭建:

 

1、虛擬機安裝:

打開VMware Workstation Pro 點擊 :''下一步 ''

勾選''我接受許可協議中的條款(A)'' 點擊 :''下一步 ''

我E盤是SSD

點擊: ''下一步 ''

 

取消''√''選項 點擊 ''下一步 ''

點擊 :''下一步 ''

點擊 ''安裝 ''

 

點擊: ''完成 ''

 

VMware Workstation 14 Pro永久激活密鑰 :點擊 ''完成 ''

CG54H-D8D0H-H8DHY-C6X7X-N2KG6

ZC3WK-AFXEK-488JP-A7MQX-XL8YF

 

 

 

2、新建虛擬機:

選擇''自定義(高級)'' :點擊 ''下一步 ''    

選擇向下相容的虛擬機版本:點擊 ''下一步 ''

選擇安裝介質,選擇稍後安裝操作系統:點擊 ''下一步 ''

選擇需要安裝的操作系統版本,選擇 CentOS 6 64位 :點擊 ''下一步 ''

虛擬機命名及選擇安裝路徑:點擊 ''下一步 ''

 

選擇處理器及核心數:點擊 ''下一步 ''

大數據測試環境記憶體大小設置為4G:點擊 ''下一步 ''

選擇網卡模式,這裡選擇NAT : 點擊 ''下一步 ''

選擇磁碟物理模式 : 點擊 ''下一步 ''

選擇磁碟類型 : 點擊 ''下一步 ''

創建新的虛擬磁碟:點擊 ''下一步 ''

設置磁碟大小及磁碟文件存儲類型:

我們設置為50G,選擇存儲為單個文件,不立即分配所有空間:點擊 ''下一步 ''

設置磁碟文件名:點擊 ''下一步 ''

點擊 ''完成 '' 虛擬機創建結束

創建完成的虛擬機如下圖:

設置安裝介質,保存並退出:

3、安裝操作CentOs 6.5:

選擇第一個 install or upgrade an existing system: 回車

點擊Skip,跳過磁碟檢測:回車

點擊:next

選擇安裝語言,Chinese(Simplified) (中文(簡體)) 點擊:next

選擇鍵盤語言,美國英語式 點擊 ''下一步 ''

選擇存儲設備,我們選擇 base storage  devices 點擊 ''下一步 ''

選擇 是,忽略所有數據 點擊 ''下一步 ''

 

主機名:hadoop01

ip地址:192.168.56.10 /24    192.168.56.1  點擊:應用 ''下一步 ''

選擇時區,我們選擇亞洲,上海:點擊 ''下一步 ''

設置root用戶的密碼,我們設置為oracle,選擇無論如何都使用:點擊 ''下一步 ''

選擇安裝類型,我們選擇自定義佈局:點擊 ''下一步 ''

創建分區:

swap : 8192

boot : 200MB

/ : 使用剩餘所有空間,強制主分區

選擇 格式化 → 將更改寫入到磁碟:點擊 ''下一步 ''

選擇引導驅動器:點擊 ''下一步 ''

選擇 Desktop 現在自定義 安裝 :

作為DBA的我喜歡把許多包都打上 選擇 Database Server

基本系統:相容程式(全勾選)繼承UNIX相容性(勾選 telnet選項)

伺服器

Web服務 資料庫 勾全部取消 系統管理:系統管理(全勾選) 虛擬化 桌面:第一個不選擇,剩餘選項 全選 應用程式:EMACS(勾選) 互聯網瀏覽器(勾選) 開發:開發工具 全部勾上軟體包 附加開發(全溝) 語言:中文,英語   點擊 ''下一步 ''

安裝軟體包ing

點擊 ''重新引導 ''

點擊 ''前進 ''

點擊 ''前進 ''

 

設置普通的用戶名和密碼,許可權比root小:點擊  '' 前進 ''

設置日期和時間:點擊  '' 前進 ''

不啟用 kdump:點擊  '' 完成 ''

操作系統已經安裝完畢

 

 

三、測試環境參數配置:

修改CentOS 6.5主機名

1. vi /etc/sysconfig/network

[root@localhost ~]# vi /etc/sysconfig/network
NETWORKING=yes
HOSTNAME=hadoop01
2.hostname  直接命名
[root@localhost ~]#hostname hadoop01
3. vi /etc/hosts
[root@localhost ~]# vi /etc/hosts
127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4
::1 localhost localhost.localdomain localhost6 localhost6.localdomain6
192.168.137.30 hadoop01

四、CentOS6.5  配置靜態 IP  和可訪問外網

關閉windows 7 防火牆

  關閉CentOS 6.5防火牆

開啟VMware兩個服務

無線網卡的網路( 或者插網線的網路) 上設置網路共用,選擇 VM8

使用 ipconfig -all  命令查看 DNS 、IPv4 

配置 VM8  的選擇  使用配置 ip

進入 vmnet8, 單擊菜單欄的 編輯-->虛擬網路編輯器

hadoop01  配置 NAT 

進入hadoop01編輯,ifcfg-eth0

vi /etc/sysconfig/network-scripts/ifcfg-eth0

網路配置文件參數(參考)

將hadoop01網路重啟

虛擬機可以連接外網

 

五、操作系統優化

配置本地yum源
mkdir /iso
mount /dev/cdrom /mnt
mount -a
# 屏幕出現掛載信息 mount: block device /dev/sr0 is write-protected, mounting read-only
# 表示已經掛載
mkdir /etc/yum.repos.d/bak/
mv /etc/yum.repos.d/CentOS-* /etc/yum.repos.d/bak/
# 將原來的配置文件移動走
cat >/etc/yum.repos.d/p.repo<<EOF
[p]
name=p
baseurl=file:///iso/
enabled=1
gpgcheck=0
EOF
# 新建配置文件,其中baseurl使用file參數指定本機的/iso/目錄
# enabled=1 表示啟用
# gpgcheck=0 表示不做gpg的對比檢查
yum clean all
yum makecache
# 看到進度條表示配置成功
yum -y install wget
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-6.repo
# 下載阿裡雲的yum源配置文件
yum clean all
yum makecache
# 這樣本地yum源和網路yum源就配置成功了
以下命令按自己需求,不要隨便使用,開不了機,後果自負  偷笑偷笑偷笑

優化關閉開機啟動項

chkconfig blk-availability off
chkconfig ip6tables off
chkconfig lvm2-monitor off
chkconfig netfs off
chkconfig postfix off
chkconfig mdmonitor off
# 還有一些開機啟動優化項可以在今後做優化選擇
chkconfig kdump off
chkconfig NetworkManager off
chkconfig abrt-ccpp off
chkconfig abrtd off
chkconfig acpid off
chkconfig certmonger off
chkconfig cpuspeed off
chkconfig cups off
chkconfig nfslock off
chkconfig portreserve off
chkconfig rpcbind off
chkconfig rpcgssd off
chkconfig rpcidmapd off

設置自動任務校準時間

yum -y install ntpdate
ntpdate -u ntp1.aliyun.com
# 使用阿裡雲的ntp伺服器做時間校準
echo '/usr/sbin/ntpdate -u ntp1.aliyun.com'>>/etc/rc.local
crontab -l>/tmp/crontab.tmp
echo '#OS Time Sync'>>/tmp/crontab.tmp
echo '0 * * * * /usr/sbin/ntpdate -u ntp1.aliyun.com>>/root/ntpdate.log 2>&1;/sbin/hwclock -w'>>/tmp/crontab.tmp
cat /tmp/crontab.tmp |crontab
rm -rf /tmp/crontab.tmp
# 設置開機啟動時間校準和自動任務時間校準
cp -av /usr/share/zoneinfo/Asia/Shanghai /etc/localtime
# 如果忘記設置時區,可以手動設置時區為東八區

大數據課程推薦:

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • vSphere 基礎物理架構中存儲是一個非常關鍵的部分,沒有好的存儲,虛擬化也就沒有存在的價值,並且它能夠決定其系統性能的高低和如vMotion等高級功能能否實現。所以本次重點介紹vSphere中的存儲和vMtion。 一、實驗拓撲圖: 二、實驗目標: 通過搭建共用存儲,實現虛擬機的遷移與管理。 三 ...
  • 用過gothub或者碼雲的同學都知道,不包含任何文件的空文件夾上傳提交時不被允許的。當然你可以在空文件下創建.keep文件(或.gitkeep文件),然後就可以上傳了。 但是如果空文件夾比較多,並且我們確實不需要這些空文件了,那本文就學習一種命令行刪除所有空文件夾的方法。並封裝成.bat批處理程式。 ...
  • Serial Downloader模式是一種串列下載模式,在這種模式下,BootROM通過指定的USB或者UART口來接收來自Host(恩智浦提供了上位機工具sdphost.exe或者mfgtool)的Flashloader數據,並將數據存儲在SRAM中執行,Flashloader程式可以用來將你的... ...
  • 命令語法如下: sudo apt-get install package=version 例如: sudo apt-get install samba=2:4.4.5+dfsg-2ubuntu6 ...
  • 終端清屏:clear,快捷鍵Ctrl+l ...
  • 問題描述:使用apt-get下載一個文件,由於下載的太慢,使用Ctrl+C強制結束。然後輸入sudo apt-get update,想繼續下載其他文件。結果出現如標題所示的錯誤,截圖如下:按照網上說的,對/var/cache/apt/下的操作,並沒有解決問題。 解決方法:參考地址首先在“系統設置”中 ...
  • nginx負載均衡及配置 1 負載均衡概述 2 負載均衡的常見平衡機制 1 輪詢(round robin) :以輪詢方式將請求分配到不同伺服器上,每個請求按時間順序逐一分配到不同的後端伺服器, 如果後端伺服器掛掉,自動剔除,保證正常的服務。 2 權重負載均衡(weight):如果沒有配置權重,每個服 ...
  • 目錄 一、關於Reducer全排序 1.1、 什麼叫全排序 1.2、 分區的標準是什麼 二、全排序的三種方式 2.1、 一個Reducer 2.2、 自定義分區函數 2.3、 採樣 一、關於Reducer全排序 1.1、什麼叫全排序? 在所有的分區(Reducer)中,KEY都是有序的: 正確舉例: ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...