袋鼠雲產品功能更新報告02期丨有億點點走心!

来源:https://www.cnblogs.com/DTinsight/archive/2022/11/09/16874678.html
-Advertisement-
Play Games

不知不覺間,2022年的腳步已經走到了倒數第二個月。臨近年末,我們對產品本身以及客戶反饋的一些問題進行了持續的更新和優化,例如基線告警、數據服務平臺新增TDengine 數據源支持、行級許可權根據用戶屬性實現動態賦權。 以下為袋鼠雲產品功能更新報告第二期內容,更多探索,請繼續閱讀。 數棧DTinsig ...


不知不覺間,2022年的腳步已經走到了倒數第二個月。臨近年末,我們對產品本身以及客戶反饋的一些問題進行了持續的更新和優化,例如基線告警、數據服務平臺新增TDengine 數據源支持、行級許可權根據用戶屬性實現動態賦權。

以下為袋鼠雲產品功能更新報告第二期內容,更多探索,請繼續閱讀。

數棧DTinsight

離線開發平臺

1.支持對接Trino引擎

創建項目時支持對接Trino引擎,支持創建和運行Trino任務。

file

2.個人賬號支持綁定Kerberos認證

數棧支持對用戶或用戶組綁定Kerberos證書,並支持以用戶級/用戶組級Kerberos賬號進行任務提交。

file

3.基線告警

基線是一組任務的管理單位,被納入同一組基線的任務一般需要相同的產出時間。一條基線被納入監控後,該基線中的任務及其所有上游的任務都會被自動監控。

基線在基線管理中開啟時,每天晚上24點會生成第二天的基線實例,以對第二天的基線上任務所產生的實例進行監控。

例子:如下圖,設一條基線包含任務D、E,則D、E及其上游的A、B都會被納入監控。

如果某任務的下游沒有被納入基線的任務(例如C),則即使該任務異常,智能監控也不會報警。
file
file

4.安全審計增加類目

file

5.NULL可以選擇識別為NULL

數據同步任務中,FTP作為源數據源時,NULL可以選擇識別為NULL或者空字元串

file

6.整庫同步可以選擇同步任務存放目錄

file

7.其他優化項

· 在IDE中進行任務切換時,會記住上次代碼瀏覽位置

· postgresql、db2、greenplum、kingbase、mysql、oceanbase、oracle、sqlserber、tidb等任務,存儲函數使用select * from procedure() /select procedure()調用時,在調度不會執行的問題修複

· 表查詢結果限制,所有SQL任務數據查詢結果預設僅顯示1000條

· 數據同步任務當HDFS分區不存在時,高級配置中可配置是否報錯

具體說明:通過指定高級配置中failedIfPathNotExist的狀態,來配置是否進行報錯提示:

若failedIfPathNotExist=true,則報錯;若failedIfPathNotExist=false,則不報錯

8.技術改造

· 統計數據流量統計優化

· SQL加密解密防止某些關鍵字被攔

· 支持spark UDF

· inceptor同步支持直接讀寫文件的方式去進行數據同步

實時開發平臺

1.產品首頁改造

在原來只有項目入口和幫助手冊入口的基礎上,新增了更多運維信息。幫助用戶進入產品後,不需要一個個進入項目,可以直觀的看到目前項目運行情況、當前需要處理什麼問題,提高產品可用性。

file

2.任務運行日誌推送

在【任務開發-任務設置】頁面,支持將任務運行日誌推送至外部Kafka,運維人員可基於日誌信息做更豐富的日誌分析、任務監控等工作。

file

3.優化項目

· PyFlink任務在創建時可以引用第三方python包

· Flink1.12相容TiDB Connector

· Flink1.10/1.12相容開啟SASL認證的Kafka Connector

· 優化日誌列印格式,避免出現/n/t等字元

· Source Connector新增支持了RocketMQ

數據服務平臺

1.【生成API】新增TDengine 數據源支持

TDengine 是一款高性能、分散式、支持 SQL 的時序資料庫,廣泛運用於物聯網、工業互聯網、車聯網、IT 運維、金融等領域。除核心的時序資料庫功能外,TDengine 還提供緩存、數據訂閱、流式計算等大數據平臺所需要的系列功能。

目前EasyAPI支持TDengine基本SQL語句的查詢功能,可以在「生成API」-「自定義SQL模式」DQL模式下創建TDengine API服務。

file

2.【API市場】增加批量導出功能

支持API市場API的批量導出,用戶可先在測試環境中進行API調試,無誤後在API市場批量導出API,再在正式環境中導入API,提高效率。
file

3.【API調用情況】新增下載日誌功能

「API管理」API調用情況 調用明細/錯誤明細模塊增加「下載日誌」功能,可以通過設置調用條件下載7天內的日誌數據,方便用戶進行明細查看,調用統計。

file

4.【生成API】in、not in 操作符增加分隔符配置

之前的版本當進行in、not in 操作符查詢數據時,預設入參參數為逗號分隔。存在特殊業務場景入參參數中包含逗號的情況,導致入參分隔錯誤。

當前版本中,針對in、not in操作符,可以自定義選擇英文“,”、“|”、“/”、“:”、“;”五種分隔符,以滿足不同客戶業務場景需求。

file

數雁EasyDigit

客戶數據洞察平臺(原智能標簽平臺)

1.【授權】-標簽/實體/群組/目錄細粒度許可權控制

用戶痛點:標簽、實體、群組等屬於企業數據資源的一部分,隨著資源持續維護、資產沉澱,對資源的許可權控制提出了更高的要求,本次新增的授權功能能夠實現靈活的許可權控制。

新增功能說明:給用戶/用戶組/部門/角色授予當前資源的許可權,可授權的資源包括標簽、實體、群組、目錄,可授予的許可權包括可查看、可編輯許可權,也可以將資源設置為全員公開可查看/可編輯,實現細粒度的許可權控制。

file
file

2.【行級許可權】-根據用戶屬性實現動態賦權

用戶痛點:行級許可權 用來控制用戶對標簽數據的訪問許可權,當某個用戶被設置了行級許可權後,只能查看在許可權規則內設置的標簽數據。

新增功能說明:

· 支持針對用戶屬性動態設置許可權規則,如1000條結果數據,用戶A查看200條,用戶B查看500條

· 單個許可權標識可設多條許可權規則,且最大支持5個層級,條件之間支持配置“且”、“或”關係

· 許可權的適用成員可指定用戶、用戶組、部門、角色,且支持針對用戶屬性動態設置適用成員

file

3.【多值標簽】-標簽值分隔去重

多值標簽 的值由一個或多個值組合構成,多個值之間由分隔符進行分隔(系統固定為英文逗號),可在實體/關係創建時指定標簽是否多值。

多值型標簽的操作符包括【包含部分、包含所有、不包含、精確匹配、模糊匹配、不匹配、有值、無值】,可選的是分隔並去重後的標簽值。其中:

· 包含所有:若選擇多個標簽值,篩選結果將同時符合所有標簽值,即多個標簽值的篩選結果之間使用交集運算;

· 包含部分:若選擇多個標簽值,篩選結果將至少符合其中一個標簽值,即多個標簽值的篩選結果之間使用並集運算。
file

4.【組織架構】-引入多層級部門

組織架構 是一個組織整體的結構,是企業內部開展業務、落實管理的基本要素。標簽系統支持根據多層級的組織架構添加用戶,並根據部門進行標簽授權、行級許可權的控制。

file

5.【批量操作】-發佈/更新交互升級

· 批量發佈:分類展示可發佈、無法發佈的標簽,並說明標簽無法發佈的原因,降低操作門檻

file

· 批量更新:分類展示可更新、無法更新的標簽,並說明標簽無法更新的原因,降低操作門檻

file

6.【通用模板】-查詢模板設置

設置查詢維度通用模板,並直接應用於標簽圈群、上傳本地群組、群組交並差選查詢維度的地方,用戶可以在模板的基礎上增刪查詢維度,減少操作成本。

file

7.【導出描述】-導出數據時可填描述

用戶在導出數據時可填寫描述信息,系統將描述信息記錄在審計日誌中。

file

8.其他優化項

· 標簽圈群支持重置條件

file

· 字典數據最大支持2000條

file

袋鼠雲開源框架釘釘技術交流qun(30537511),歡迎對大數據開源項目有興趣的同學加入交流最新技術信息,開源項目庫地址:https://github.com/DTStack/Taier


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 前言 之前想用Markdown來寫框架文檔,找來找去發現還是Jekyll的多,但又感覺不是很合我的需求 於是打算自己簡單弄一個展示Markdown文檔的網站工具,要支持多版本、多語言、導航、頁內導航等,並且支持Github Pages免費站點 組件選擇 我自己呢比較喜歡C#,恰好現在ASP.Net ...
  • 一:背景 1.講故事 這篇文章起源於昨天的一位朋友發給我的dump文件,說它的程式出現了卡死,看了下程式的主線程棧,居然又碰到了 OnUserPreferenceChanged 導致的掛死問題,真的是經典中的經典,線程棧如下: 0:000:x86> !clrstack OS Thread Id: 0 ...
  • Red Giant PluralEyes for Mac雖然只是Shooter Suite其中的一部分,但是卻十分受歡迎,功能也非常強大。PluralEyes Mac版提供了用戶需要的音頻和視頻同步的一切功能,可以自動分析視頻和音頻文件,並同步起來。 詳情:Red Giant PluralEyes ...
  • PasteNow mac是一款強大的剪貼板工具,該軟體使你的日常工作更輕鬆和快捷。你可以通過它存儲各種各樣的臨時數據:文本、鏈接、圖像等等,功能非常的豐富。 詳情:PasteNow for Mac 功能特色 - 在多台設備同步數據 - 創建智能列表以更方便地過濾數據 - 支持各種風格不同的列表樣式 ...
  • EdgeView 3是一款運行在Mac系統上的圖片查看器,不僅可以打開JPEG、PNG、TIFF、BMP、DSlr、Eps、PDF、AI(Adobe illustrator)的RAW文件等各種圖像文件,還可以直接打開存檔中的圖像文件,無需提取。 詳情:EdgeView 3 for Mac 亮點特征: ...
  • TEE學習(一) OP-TEE OP-TEE CONCEPT OP-TEE(open source project Trusted Execution Environment),REE中的系統和應用無法直接訪問TEE中的資源,只能通過TEE提供的介面獲取一個結果。 main design goals ...
  • MergeTree擁有主鍵,但是它的主鍵卻沒有唯一鍵的約束。這意味著即便多行數據的主鍵相同,它們還是能夠被正常寫入。在某些使用場合,用戶並不希望數據表中含有重覆的數據。ReplacingMergeTree就是在這種背景下為了數據去重而設計的,它能夠在合併分區時刪除重覆的數據。但是ReplacingM ...
  • 課件獲取:關註公眾號 “數棧研習社”,後臺私信 “ChengYing” 獲得直播課件 視頻回放:點擊這裡 ChengYing 開源項目地址:github 丨 gitee 喜歡我們的項目給我們點個__ STAR!STAR!!STAR!!!(重要的事情說三遍)__ 技術交流釘釘 qun:30537511 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...