大數據中的用戶畫像

来源:https://www.cnblogs.com/shsxt/archive/2018/02/06/8424008.html
-Advertisement-
Play Games

摘要: 用戶畫像(persona)的概念最早由交互設計之父Alan Cooper提出:“Personas are a concrete representation of target users.” 是指真實用戶的虛擬代表,是建立在一系列屬性數據之上的目標用戶模型。隨著互聯網的發展,現在我們說的用 ...


摘要: 

用戶畫像(persona)的概念最早由交互設計之父Alan Cooper提出:“Personas are a concrete representation of target users.” 是指真實用戶的虛擬代表,是建立在一系列屬性數據之上的目標用戶模型。隨著互聯網的發展,現在我們說的用戶畫像又包含了新的內涵——通常用戶畫像是根據用戶人口學特征、網路瀏覽內容、網路...

 

用戶畫像的含義

用戶畫像(persona)的概念最早由交互設計之父Alan Cooper提出:“Personas are a concrete representation of target users.” 是指真實用戶的虛擬代表,是建立在一系列屬性數據之上的目標用戶模型。隨著互聯網的發展,現在我們說的用戶畫像又包含了新的內涵——通常用戶畫像是根據用戶人口學特征、網路瀏覽內容、網路社交活動和消費行為等信息而抽象出的一個標簽化的用戶模型。構建用戶畫像的核心工作,主要是利用存儲在伺服器上的海量日誌和資料庫里的大量數據進行分析和挖掘,給用戶貼“標簽”,而“標簽”是能表示用戶某一維度特征的標識。具體的標簽形式可以參考下圖某網站給其中一個用戶打的標簽。

 

用戶畫像的作用

提取用戶畫像,需要處理海量的日誌,花費大量時間和人力。儘管是如此高成本的事情,大部分公司還是希望能給自己的用戶做一份足夠精準的用戶畫像。

那麼用戶畫像有什麼作用,能幫助我們達到哪些目標呢?

 

大體上可以總結為以下幾個方面:

  1. 精準營銷:精準直郵、簡訊、App消息推送、個性化廣告等。
  2. 用戶研究:指導產品優化,甚至做到產品功能的私人定製等。
  3. 個性服務:個性化推薦、個性化搜索等。
  4. 業務決策:排名統計、地域分析、行業趨勢、競品分析等。

 

用戶畫像的內容

用戶畫像包含的內容並不完全固定,根據行業和產品的不同所關註的特征也有不同。對於大部分互聯網公司,用戶畫像都會包含人口屬性和行為特征。人口屬性主要指用戶的年齡、性別、所在的省份和城市、教育程度、婚姻情況、生育情況、工作所在的行業和職業等。行為特征主要包含活躍度、忠誠度等指標。

除了以上較通用的特征,不同類型的網站提取的用戶畫像各有側重點。

 

以內容為主的媒體或閱讀類網站,還有搜索引擎或通用導航類網站,往往會提取用戶對瀏覽內容的興趣特征,比如體育類、娛樂類、美食類、理財類、旅游類、房產類、汽車類等等。

社交網站的用戶畫像,也會提取用戶的社交網路,從中可以發現關係緊密的用戶群和在社群中起到意見領袖作用的明星節點。

 

電商購物網站的用戶畫像,一般會提取用戶的網購興趣和消費能力等指標。網購興趣主要指用戶在網購時的類目偏好,比如服飾類、箱包類、居家類、母嬰類、洗護類、飲食類等。

消費能力指用戶的購買力,如果做得足夠細緻,可以把用戶的實際消費水平和在每個類目的心理消費水平區分開,分別建立特征緯度。

 

另外還可以加上用戶的環境屬性,比如當前時間、訪問地點LBS特征、當地天氣、節假日情況等。

當然,對於特定的網站或App,肯定又有特殊關註的用戶緯度,就需要把這些維度做到更加細化,從而能給用戶提供更精準的個性化服務和內容。

 

用戶畫像的生產

用戶特征的提取即用戶畫像的生產過程,大致可以分為以下幾步:

  1. 用戶建模,指確定提取的用戶特征維度,和需要使用到的數據源。
  2. 數據收集,通過數據收集工具,如Flume或自己寫的腳本程式,把需要使用的數據統一存放到Hadoop集群。
  3. 數據清理,數據清理的過程通常位於Hadoop集群,也有可能與數據收集同時進行,這一步的主要工作,是把收集到各種來源、雜亂無章的數據進行欄位提取,得到關註的目標特征。
  4. 模型訓練,有些特征可能無法直接從數據清理得到,比如用戶感興趣的內容或用戶的消費水平,那麼可以通過收集到的已知特征進行學習和預測。
  5. 屬性預測,利用訓練得到的模型和用戶的已知特征,預測用戶的未知特征。
  6. 數據合併,把用戶通過各種數據源提取的特征進行合併,並給出一定的可信度。
  7. 數據分發,對於合併後的結果數據,分發到精準營銷、個性化推薦、CRM等各個平臺,提供數據支持。

 

下麵以用戶性別為例,具體介紹特征提取的過程:

1.提取用戶自己填寫的資料,比如註冊時或者活動中填寫的性別資料,這些數據準確率一般很高。

  1. 提取用戶的稱謂,如文本中有提到的對方稱呼,例如:xxx先生/女士,這個數據也比較準。
  2. 根據用戶姓名預測用戶性別,這是一個二分類問題,可以提取用戶的名字部分(百家姓與性別沒有相關性),然後用朴素貝葉斯分類器訓練一個分類器。過程中遇到了生僻字問題,比如“甄嬛”的“嬛”,由於在名字中出現的少,因此分類器無法進行正確分類。考慮到漢字都是由偏旁部首組成,且偏旁部首也常常具有特殊含義(很多與性別具有相關性,比如草字頭傾向女性,金字旁傾向男性),我們利用五筆輸入法分解單字,再把名字本身和五筆打法的字母一起放到LR分類器進行訓練。比如,“嬛”字的打法:『 女V+罒L+一G+衣E = VLGE 』,這裡的女字旁就很有女性傾向。
  3. 另外還有一些特征可以利用,比如用戶訪問過的網站,經常訪問一些美妝或女性服飾類網站,是女性的可能性就高;訪問體育軍事類網站,是男性的可能性就高。還有用戶上網的時間段,經常深夜上網的用戶男性的可能性就高。把這些特征加入到LR分類器進行訓練,也能提高一定的數據覆蓋率。

 

數據管理系統

用戶畫像涉及到大量的數據處理和特征提取工作,往往需要用到多數據來源,且多人並行處理數據和生成特征。因此,需要一個數據管理系統來對數據統一進行合併存儲和分發。我們的系統以約定的目錄結構來組織數據,基本目錄層級為:/user_tag/屬性/日期/來源_作者/。以性別特征為例,開發者dev1從用戶姓名提取的性別數據存放路徑為 /user_tag/gender/20170101/name_dev1,開發者dev2從用戶填寫資料提取的性別數據存放路徑為 /user_tag/gender/20170102/raw_dev2。

從每種來源提取的數據可信度是不同的,所以各來源提取的數據必須給出一定的權重,約定一般為0-1之間的一個概率值,這樣系統在做數據的自動合併時,只需要做簡單的加權求和,並歸一化輸出到集群,存儲到事先定義好的Hive表。接下來就是數據增量更新到HBase、ES、Spark集群等更多應用服務集群。

 

應用示例:個性化推薦

以電商網站的某種頁面的個性化推薦為例,考慮到特征的可解釋性、易擴展和模型的計算性能,很多線上推薦系統採用LR(邏輯回歸)模型訓練,這裡也以LR模型舉例。很多推薦場景都會用到基於商品的協同過濾,而基於商品協同過濾的核心是一個商品相關性矩陣W,假設有n個商品,那麼W就是一個n n的矩陣,矩陣的元素wij代表商品Ii和Ij之間的相關係數。而根據用戶訪問和購買商品的行為特征,可以把用戶表示成一個n維的特征向量U=[ i1, i2, ..., in ]。於是UW可以看成用戶對每個商品的感興趣程度V=[ v1, v2, ..., vn ],這裡v1即是用戶對商品I1的感興趣程度,v1= i1w11 + i2w12 + in*w1n。如果把相關係數w11, w12, ..., w1n 看成要求的變數,那麼就可以用LR模型,代入訓練集用戶的行為向量U,進行求解。這樣一個初步的LR模型就訓練出來了,效果和基於商品的協同過濾類似。

這時只用到了用戶的行為特征部分,而人口屬性、網購偏好、內容偏好、消費能力和環境特征等其他上下文還沒有利用起來。把以上特征加入到LR模型,同時再加上目標商品自身的屬性,如文本標簽、所屬類目、銷量等數據,如下圖所示,進一步優化訓練原來的LR模型。從而最大程度利用已經提取的用戶畫像數據,做到更精準的個性化推薦。

 

點評:

用戶畫像是當前大數據領域的一種典型應用,也普遍應用在多款網易互聯網產品中。本文基於網易的實踐,深入淺出地解析了用戶畫像的原理和生產流程。

精確有效的用戶畫像,依賴於從大量的數據中提取正確的特征,這需要一個強大的數據管理系統作為支撐。網易大數據產品體系中包含的一站式大數據開發與管理平臺 – 網易猛獁,正是在網易內部實踐中打磨形成的,能夠為用戶畫像及後續的業務目標實現提供數據傳輸、計算和作業流調度等基礎能力,有效降低大數據應用的技術門檻。

 

上海大數據培訓原作,轉載請註明出處!後續大數據相關技術文章陸續奉上,請多關註!


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 前段時間因公司需求,需要把備份的文件進行同步保存,後面就想到了我們大家都最熟悉的文件同步工作Rsync,於是就搗鼓了一下午時間,然後總結了下大概過程和參數詳情。 首先瞭解了下rsync同步的大致原理:Rsync 同步使用所謂的“Rsync 演演算法”來使本地和遠程兩個主機之間的文件達到同步,這個演算法只 ...
  • Linux系統中的用戶是分角色的,用戶的角色是由UID和GID來識別的(也就是說系統識別的是用戶的UID、GID,而非用戶用戶名),有個UID是唯一的(系統中唯一如同身份證一樣)用來標識系統的用戶賬號(用戶名) 1、 系統管理員root的UDI/GID都為0 2、 普通用戶(管理員添加),預設它的U ...
  • 註:本文來源https://www.cnblogs.com/jiayongji/p/5771444.html (一)vi/vim是什麼?Linux世界幾乎所有的配置文件都是以純文本形式存在的,而在所有的Linux發行版系統上都有vi編輯器,因此利用簡單的文字編輯軟體就能夠輕鬆地修改系統的各種配置了, ...
  • 系統調用 01、什麼是系統調用? 02、Linux系統調用之I/O操作(文件操作) 03、文件描述符的複製:dup(), dup2() 多進程實現多任務 04、進程的介紹 05、Linux可執行文件結構與進程結構 06、多進程實現多任務(一):fork() 07、多進程實現多任務(二):vfork( ...
  • 最近想了想決定開始學習linux。 在百度了一番後開始了安裝,虛擬機VirtualBox,ubuntu。 基於VirtualBox虛擬機安裝Ubuntu圖文教程: http://blog.csdn.net/u012732259/article/details/70172704 安裝增強功能,然後開始 ...
  • 資料庫中的統計信息在不同(精確)程度上描述了表中數據的分佈情況,執行計劃通過統計信息獲取符合查詢條件的數據大小(行數),來指導執行計劃的生成。在以Oracle和SQLServer為代表的商業資料庫,和以開源的PostgreSQL為代表的資料庫中,直方圖是統計信息的一個重要組成部分。在生成執行計劃的時 ...
  • 學習目標 使用Database Configuration Assistant(DBCA)創建資料庫 使用DBCA生成資料庫創建腳本 使用DBCA管理資料庫設計模板 使用DBCA執行其他任務 規劃資料庫 資料庫的邏輯存儲結構及其物理實施 磁碟數?使用存儲的類型? 需要多少數據文件?(計劃考慮未來增長 ...
  • 操作系統 : CentOS7.3.1611_x64 go語言版本:1.8.3 linux/amd64 InfluxDB版本:1.1.0 服務模塊介紹 源碼路徑: github.com/influxdata/influxdb/services/httpd config.go : httpd服務配置相關 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...