如何在windows下安裝配置pyspark notebook

来源:http://www.cnblogs.com/zhw-080/archive/2016/08/05/5740580.html
-Advertisement-
Play Games

第一步:安裝anaconda anaconda自帶一系列科學計算包 下載鏈接:http://pan.baidu.com/s/1b4jWlg 密碼:fqq3 接著配置環境變數:如我安裝在D盤下 試一下命令行啟動,確保ipython從anaconda啟動 第二步:安裝spark(需要提前安裝JDK) 到 ...


第一步:安裝anaconda

anaconda自帶一系列科學計算包

下載鏈接:http://pan.baidu.com/s/1b4jWlg 密碼:fqq3

接著配置環境變數:如我安裝在D盤下  

 

試一下命令行啟動,確保ipython從anaconda啟動

 

第二步:安裝spark(需要提前安裝JDK)

到官網下載spark安裝包

http://spark.apache.org/downloads.html

我下的是這個版本:

解壓縮之後,不要忘記添加環境變數

配置如下系統變數

 接著需要在命令行鍵入(spark安裝目錄下:如D:\spark) > sbt package   進行編譯

 

這一步很重要  拷貝 E:\spark\python\pyspark  到 D:\anaconda\Lib\site-packages 目錄下

 

第三步:修改spark\conf下的spark-env文件(不知道是否必要)

加入如下三行

export PYSPARK_PYTHON=/D:/anaconda
export PYSPARK_DRIVER_PYTHON=/D:/anaconda
export PYSPARK_SUBMIT_ARGS='--master local[*]'

 

第四步:啟動pyspark

發現已啟動成功,一般網頁會自動打開http://localhost:8888/tree#

 

第五步:測試sc

成功!

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 1、執行環境:可以在SQLPLUS.EXE或者DOS(命令行)中執行(DOS命令可以執行是由於..\product\11.2.0\client_1\bin被設置了環境變數) 2、執行語句: 一、數據導出: 1 將資料庫TEST完全導出,用戶名system 密碼manager 導出到D:\daochu ...
  • // order by 排序 //<![CDATA[ 值 ]]> 過濾符號 //${}方式會引發SQL註入 //#{} 解析的是占位符 <![CDATA[ order by ${參數1} ${參數2} ]]> 例子: SQL:select * from A where A.id=#{id} id=h ...
  • Crontab 是 Linux 平臺下的一款用於迴圈執行例行任務的工具,Linux 系統由 cron (crond) 這個系統服務來控制任務 , Linux系統本來就有很多的計劃任務需要啟動 , 所以這個系統服務是預設開機啟動的 。 Linux 為使用者提供的計劃任務的命令就是 Crontab ...
  • 註釋僅代表個人理解,僅供參考。 ...
  • 安裝前說明: 先安裝gcc gcc-c++ make 等 可用yum install -y gcc gcc-c++ make 也可以使用rpm安裝不過需要註意依賴 1.安裝apache 下載鏈接:https://yunpan.cn/Oc6kuDyejRsMqe 訪問密碼 07d2 解壓:tar –z ...
  • 運行環境:CentOS6.7 故障原因: 昨天線上執行命令yum -y update 在命令執行途中,強制中斷並直接運行poweroff命令關機。再次開機出現如圖所示故障指示: 根據提示信息分析,可能因為執行更新命令未完成導致系統內核信息混亂。 故障解決方案: 插入系統光碟,修改主板BIOS從光碟機引 ...
  • Linux學習筆記——基於鳥哥的Linux私房菜 ***** ARM與嵌入式linux的入門建議 (1) 學習基本的裸機編程:ARM7或ARM9,理解硬體架構和控制原理 (這一步是絕對的根基) (2) 使用Linux系統進行一些基本的實驗 (3) 研究完整的Linux系統的運行過程 : 完整Linu ...
  • 在WEB開發時,網站是以 的用戶運行的,而我在本地是以 的用戶編輯的。這就帶來一個問題:如果所有文件屬於 ,那麼網站運行需要寫文件時就因 無許可權而失敗 ;如果所有文件屬於 ,那麼 則需要 獲取許可權才能寫進去 。最鬱悶的是使用git合併的時候,如果忘了加 ,就會因許可權不足提示大量的合併失敗,需要先回滾 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...