袋鼠雲產品功能更新報告02期丨有億點點走心!

来源:https://www.cnblogs.com/DTinsight/archive/2022/11/09/16874678.html
-Advertisement-
Play Games

不知不覺間,2022年的腳步已經走到了倒數第二個月。臨近年末,我們對產品本身以及客戶反饋的一些問題進行了持續的更新和優化,例如基線告警、數據服務平臺新增TDengine 數據源支持、行級許可權根據用戶屬性實現動態賦權。 以下為袋鼠雲產品功能更新報告第二期內容,更多探索,請繼續閱讀。 數棧DTinsig ...


不知不覺間,2022年的腳步已經走到了倒數第二個月。臨近年末,我們對產品本身以及客戶反饋的一些問題進行了持續的更新和優化,例如基線告警、數據服務平臺新增TDengine 數據源支持、行級許可權根據用戶屬性實現動態賦權。

以下為袋鼠雲產品功能更新報告第二期內容,更多探索,請繼續閱讀。

數棧DTinsight

離線開發平臺

1.支持對接Trino引擎

創建項目時支持對接Trino引擎,支持創建和運行Trino任務。

file

2.個人賬號支持綁定Kerberos認證

數棧支持對用戶或用戶組綁定Kerberos證書,並支持以用戶級/用戶組級Kerberos賬號進行任務提交。

file

3.基線告警

基線是一組任務的管理單位,被納入同一組基線的任務一般需要相同的產出時間。一條基線被納入監控後,該基線中的任務及其所有上游的任務都會被自動監控。

基線在基線管理中開啟時,每天晚上24點會生成第二天的基線實例,以對第二天的基線上任務所產生的實例進行監控。

例子:如下圖,設一條基線包含任務D、E,則D、E及其上游的A、B都會被納入監控。

如果某任務的下游沒有被納入基線的任務(例如C),則即使該任務異常,智能監控也不會報警。
file
file

4.安全審計增加類目

file

5.NULL可以選擇識別為NULL

數據同步任務中,FTP作為源數據源時,NULL可以選擇識別為NULL或者空字元串

file

6.整庫同步可以選擇同步任務存放目錄

file

7.其他優化項

· 在IDE中進行任務切換時,會記住上次代碼瀏覽位置

· postgresql、db2、greenplum、kingbase、mysql、oceanbase、oracle、sqlserber、tidb等任務,存儲函數使用select * from procedure() /select procedure()調用時,在調度不會執行的問題修複

· 表查詢結果限制,所有SQL任務數據查詢結果預設僅顯示1000條

· 數據同步任務當HDFS分區不存在時,高級配置中可配置是否報錯

具體說明:通過指定高級配置中failedIfPathNotExist的狀態,來配置是否進行報錯提示:

若failedIfPathNotExist=true,則報錯;若failedIfPathNotExist=false,則不報錯

8.技術改造

· 統計數據流量統計優化

· SQL加密解密防止某些關鍵字被攔

· 支持spark UDF

· inceptor同步支持直接讀寫文件的方式去進行數據同步

實時開發平臺

1.產品首頁改造

在原來只有項目入口和幫助手冊入口的基礎上,新增了更多運維信息。幫助用戶進入產品後,不需要一個個進入項目,可以直觀的看到目前項目運行情況、當前需要處理什麼問題,提高產品可用性。

file

2.任務運行日誌推送

在【任務開發-任務設置】頁面,支持將任務運行日誌推送至外部Kafka,運維人員可基於日誌信息做更豐富的日誌分析、任務監控等工作。

file

3.優化項目

· PyFlink任務在創建時可以引用第三方python包

· Flink1.12相容TiDB Connector

· Flink1.10/1.12相容開啟SASL認證的Kafka Connector

· 優化日誌列印格式,避免出現/n/t等字元

· Source Connector新增支持了RocketMQ

數據服務平臺

1.【生成API】新增TDengine 數據源支持

TDengine 是一款高性能、分散式、支持 SQL 的時序資料庫,廣泛運用於物聯網、工業互聯網、車聯網、IT 運維、金融等領域。除核心的時序資料庫功能外,TDengine 還提供緩存、數據訂閱、流式計算等大數據平臺所需要的系列功能。

目前EasyAPI支持TDengine基本SQL語句的查詢功能,可以在「生成API」-「自定義SQL模式」DQL模式下創建TDengine API服務。

file

2.【API市場】增加批量導出功能

支持API市場API的批量導出,用戶可先在測試環境中進行API調試,無誤後在API市場批量導出API,再在正式環境中導入API,提高效率。
file

3.【API調用情況】新增下載日誌功能

「API管理」API調用情況 調用明細/錯誤明細模塊增加「下載日誌」功能,可以通過設置調用條件下載7天內的日誌數據,方便用戶進行明細查看,調用統計。

file

4.【生成API】in、not in 操作符增加分隔符配置

之前的版本當進行in、not in 操作符查詢數據時,預設入參參數為逗號分隔。存在特殊業務場景入參參數中包含逗號的情況,導致入參分隔錯誤。

當前版本中,針對in、not in操作符,可以自定義選擇英文“,”、“|”、“/”、“:”、“;”五種分隔符,以滿足不同客戶業務場景需求。

file

數雁EasyDigit

客戶數據洞察平臺(原智能標簽平臺)

1.【授權】-標簽/實體/群組/目錄細粒度許可權控制

用戶痛點:標簽、實體、群組等屬於企業數據資源的一部分,隨著資源持續維護、資產沉澱,對資源的許可權控制提出了更高的要求,本次新增的授權功能能夠實現靈活的許可權控制。

新增功能說明:給用戶/用戶組/部門/角色授予當前資源的許可權,可授權的資源包括標簽、實體、群組、目錄,可授予的許可權包括可查看、可編輯許可權,也可以將資源設置為全員公開可查看/可編輯,實現細粒度的許可權控制。

file
file

2.【行級許可權】-根據用戶屬性實現動態賦權

用戶痛點:行級許可權 用來控制用戶對標簽數據的訪問許可權,當某個用戶被設置了行級許可權後,只能查看在許可權規則內設置的標簽數據。

新增功能說明:

· 支持針對用戶屬性動態設置許可權規則,如1000條結果數據,用戶A查看200條,用戶B查看500條

· 單個許可權標識可設多條許可權規則,且最大支持5個層級,條件之間支持配置“且”、“或”關係

· 許可權的適用成員可指定用戶、用戶組、部門、角色,且支持針對用戶屬性動態設置適用成員

file

3.【多值標簽】-標簽值分隔去重

多值標簽 的值由一個或多個值組合構成,多個值之間由分隔符進行分隔(系統固定為英文逗號),可在實體/關係創建時指定標簽是否多值。

多值型標簽的操作符包括【包含部分、包含所有、不包含、精確匹配、模糊匹配、不匹配、有值、無值】,可選的是分隔並去重後的標簽值。其中:

· 包含所有:若選擇多個標簽值,篩選結果將同時符合所有標簽值,即多個標簽值的篩選結果之間使用交集運算;

· 包含部分:若選擇多個標簽值,篩選結果將至少符合其中一個標簽值,即多個標簽值的篩選結果之間使用並集運算。
file

4.【組織架構】-引入多層級部門

組織架構 是一個組織整體的結構,是企業內部開展業務、落實管理的基本要素。標簽系統支持根據多層級的組織架構添加用戶,並根據部門進行標簽授權、行級許可權的控制。

file

5.【批量操作】-發佈/更新交互升級

· 批量發佈:分類展示可發佈、無法發佈的標簽,並說明標簽無法發佈的原因,降低操作門檻

file

· 批量更新:分類展示可更新、無法更新的標簽,並說明標簽無法更新的原因,降低操作門檻

file

6.【通用模板】-查詢模板設置

設置查詢維度通用模板,並直接應用於標簽圈群、上傳本地群組、群組交並差選查詢維度的地方,用戶可以在模板的基礎上增刪查詢維度,減少操作成本。

file

7.【導出描述】-導出數據時可填描述

用戶在導出數據時可填寫描述信息,系統將描述信息記錄在審計日誌中。

file

8.其他優化項

· 標簽圈群支持重置條件

file

· 字典數據最大支持2000條

file

袋鼠雲開源框架釘釘技術交流qun(30537511),歡迎對大數據開源項目有興趣的同學加入交流最新技術信息,開源項目庫地址:https://github.com/DTStack/Taier


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 前言 之前想用Markdown來寫框架文檔,找來找去發現還是Jekyll的多,但又感覺不是很合我的需求 於是打算自己簡單弄一個展示Markdown文檔的網站工具,要支持多版本、多語言、導航、頁內導航等,並且支持Github Pages免費站點 組件選擇 我自己呢比較喜歡C#,恰好現在ASP.Net ...
  • 一:背景 1.講故事 這篇文章起源於昨天的一位朋友發給我的dump文件,說它的程式出現了卡死,看了下程式的主線程棧,居然又碰到了 OnUserPreferenceChanged 導致的掛死問題,真的是經典中的經典,線程棧如下: 0:000:x86> !clrstack OS Thread Id: 0 ...
  • Red Giant PluralEyes for Mac雖然只是Shooter Suite其中的一部分,但是卻十分受歡迎,功能也非常強大。PluralEyes Mac版提供了用戶需要的音頻和視頻同步的一切功能,可以自動分析視頻和音頻文件,並同步起來。 詳情:Red Giant PluralEyes ...
  • PasteNow mac是一款強大的剪貼板工具,該軟體使你的日常工作更輕鬆和快捷。你可以通過它存儲各種各樣的臨時數據:文本、鏈接、圖像等等,功能非常的豐富。 詳情:PasteNow for Mac 功能特色 - 在多台設備同步數據 - 創建智能列表以更方便地過濾數據 - 支持各種風格不同的列表樣式 ...
  • EdgeView 3是一款運行在Mac系統上的圖片查看器,不僅可以打開JPEG、PNG、TIFF、BMP、DSlr、Eps、PDF、AI(Adobe illustrator)的RAW文件等各種圖像文件,還可以直接打開存檔中的圖像文件,無需提取。 詳情:EdgeView 3 for Mac 亮點特征: ...
  • TEE學習(一) OP-TEE OP-TEE CONCEPT OP-TEE(open source project Trusted Execution Environment),REE中的系統和應用無法直接訪問TEE中的資源,只能通過TEE提供的介面獲取一個結果。 main design goals ...
  • MergeTree擁有主鍵,但是它的主鍵卻沒有唯一鍵的約束。這意味著即便多行數據的主鍵相同,它們還是能夠被正常寫入。在某些使用場合,用戶並不希望數據表中含有重覆的數據。ReplacingMergeTree就是在這種背景下為了數據去重而設計的,它能夠在合併分區時刪除重覆的數據。但是ReplacingM ...
  • 課件獲取:關註公眾號 “數棧研習社”,後臺私信 “ChengYing” 獲得直播課件 視頻回放:點擊這裡 ChengYing 開源項目地址:github 丨 gitee 喜歡我們的項目給我們點個__ STAR!STAR!!STAR!!!(重要的事情說三遍)__ 技術交流釘釘 qun:30537511 ...
一周排行
    -Advertisement-
    Play Games
  • 在C#中使用SQL Server實現事務的ACID(原子性、一致性、隔離性、持久性)屬性和使用資料庫鎖(悲觀鎖和樂觀鎖)時,你可以通過ADO.NET的SqlConnection和SqlTransaction類來實現。下麵是一些示例和概念說明。 實現ACID事務 ACID屬性是事務處理的四個基本特征, ...
  • 我們在《SqlSugar開發框架》中,Winform界面開發部分往往也用到了自定義的用戶控制項,對應一些特殊的界面或者常用到的一些局部界面內容,我們可以使用自定義的用戶控制項來提高界面的統一性,同時也增強了使用的便利性。如我們Winform界面中用到的分頁控制項、附件顯示內容、以及一些公司、部門、菜單的下... ...
  • 在本篇教程中,我們學習瞭如何在 Taurus.MVC WebMVC 中進行數據綁定操作。我們還學習瞭如何使用 ${屬性名稱} CMS 語法來綁定頁面上的元素與 Model 中的屬性。通過這些步驟,我們成功實現了一個簡單的數據綁定示例。 ...
  • 是在MVVM中用來傳遞消息的一種方式。它是在MVVMLight框架中提供的一個實現了IMessenger介面的類,可以用來在ViewModel之間、ViewModel和View之間傳遞消息。 Send 接受一個泛型參數,表示要發送的消息內容。 Register 方法用於註冊某個對象接收消息。 pub ...
  • 概述:在WPF中,通過EventHandler可實現基礎和高級的UI更新方式。基礎用法涉及在類中定義事件,併在UI中訂閱以執行更新操作。高級用法藉助Dispatcher類,確保在非UI線程上執行操作後,通過UI線程更新界面。這兩種方法提供了靈活而可靠的UI更新機制。 在WPF(Windows Pre ...
  • 概述:本文介紹了在C#程式開發中如何利用自定義擴展方法測量代碼執行時間。通過使用簡單的Action委托,開發者可以輕鬆獲取代碼塊的執行時間,幫助優化性能、驗證演算法效率以及監控系統性能。這種通用方法提供了一種便捷而有效的方式,有助於提高開發效率和代碼質量。 在軟體開發中,瞭解代碼執行時間是優化程式性能 ...
  • 概述:Cron表達式是一種強大的定時任務調度工具,通過配置不同欄位實現靈活的時間規定。在.NET中,Quartz庫提供了簡便的方式配置Cron表達式,實現精準的定時任務調度。這種靈活性和可擴展性使得開發者能夠根據需求輕鬆地制定和管理定時任務,例如每天備份系統日誌或其他重要操作。 Cron表達式詳解 ...
  • 概述:.NET提供多種定時器,如System.Windows.Forms.Timer適用於UI,System.Web.UI.Timer用於Web,System.Diagnostics.Timer用於性能監控,System.Threading.Timer和System.Timers.Timer用於一般 ...
  • 問題背景 有同事聯繫我說,在生產環境上,訪問不了我負責的common服務,然後我去檢查common服務的health endpoint, 沒問題,然後我問了下異常,timeout導致的System.OperationCanceledException。那大概率是客戶端的問題,會不會是埠耗盡,用ne ...
  • 前言: 在本篇 Taurus.MVC WebMVC 入門開發教程的第四篇文章中, 我們將學習如何實現數據列表的綁定,通過使用 List<Model> 來展示多個數據項。 我們將繼續使用 Taurus.Mvc 命名空間,同時探討如何在視圖中綁定並顯示一個 Model 列表。 步驟1:創建 Model ...