日調用量超600億次,HMS Core HiAI Foundation助力AI應用高效開發

来源:https://www.cnblogs.com/hmscore/archive/2022/05/09/16248011.html
-Advertisement-
Play Games

隨著新技術的不斷演進,人工智慧已經廣泛地應用到教育、金融、物流、零售、交通、醫療等各個領域。而在AI高速發展的當下,高效開發變得更為重要,如何將創意想法與AI技術深度融合,迅速轉化為可落地的AI應用,是開發者在激烈競爭中制勝的關鍵。 為了助力開發者快速上線AI業務,為消費者提供創新AI體驗,HMS ...


隨著新技術的不斷演進,人工智慧已經廣泛地應用到教育、金融、物流、零售、交通、醫療等各個領域。而在AI高速發展的當下,高效開發變得更為重要,如何將創意想法與AI技術深度融合,迅速轉化為可落地的AI應用,是開發者在激烈競爭中制勝的關鍵。

為了助力開發者快速上線AI業務,為消費者提供創新AI體驗,HMS Core HiAI Foundation將HiAI 生態中的底層硬體能力開放,為開發者提供了300多個具備業界優質模型相容性的AI運算元,讓開發者更簡單快捷地應用華為AI能力,快速構建智能AI應用。

此外,HUAWEI HiAI Foundation還推出端雲協同、多IP深度協同、自主調優工具包、Model Zoo等多種解決方案和能力,為眾多業務場景打造更高性能更低功耗的計算環境,助力開發者快速開發和部署AI應用。

五大性能優勢,助力開發者高效靈活開發

• 端雲協同:針對新業務場景運算元以及已有典型業務場景運算元,提供性能優化、快速升級平臺能力的解決方案

當前,AI業務和演算法模型都在持續快速演進,AI計算平臺適配新業務和新演算法快速升級成為難題。端雲協同具備快速升級端側計算庫的能力,助力開發者快速支持新模型、上線新業務,讓消費者快速獲得端側AI帶來的體驗提升。

• Model Zoo:輔助開發者優化模型結構,更好地利用NPU加速優勢

開發者在業務開發過程中,為了更大程度利用底層算力,需要針對底層硬體結構做一些模型調整,這個過程可能會出現效率低,資源利用不足的情況。HiAI Foundation打造Model Zoo,將NPU友好的模型結構、Backbone、運算元放進去,供開發者自行挑選,輔助其優化模型結構,更好地發揮麒麟晶元NPU的加速優勢。

• 模型量化工具包:讓開發者的App更快、更小

正常情況下,開發者訓練的模型是32bit,這樣的模型計算精度固然高,但對手機功耗和記憶體的要求也比較高。HiAI Foundation為開發者提供模型量化工具包,在滿足計算精度的前提下,可以把原始模型直接量化為更小、更輕便且更適合NPU結構的低比特模型,無需開發者做二次調整,從而節省手機空間,降低計算資源的消耗。


HiAI Foundation模型量化工具包

• 網路結構搜索工具包:讓網路設計更簡單、更有效

網路結構搜索工具包支持多種類型的網路結構搜索任務,包含分類,檢測和分割。通過精度,性能目標牽引,協同硬體信息通過最優化搜索演算法獲得最優的網路結構,得到最佳的性能提升。網路結構搜索工具包支持多種主流訓練框架使能,包含:caffe,tensorflow,pytorch。同時針對多種主流硬體平臺具有算力和時延建模的能力。


HiAI Foundation網路結構搜索工具包

• 多IP深度協同:各計算單元共用DDR記憶體,提升性能降低功耗

HiAI Foundation在硬體裸算力開放的同時,還具備硬體底層多IP深度協同的優勢。多IP深度協同的好處在於,CPU、NPU、ISP、GPU等各計算IP可以共用DDR記憶體,最大程度減少IP之間拷貝數據流轉的開銷,既可提升性能又能降低功耗。

從平臺架構來看,HMS Core HiAI Foundation銜接智慧業務和底層硬體能力,上層支持MNN、TNN、華為MindSpore Lite、Paddle Lite、KwaiNN等合作伙伴的框架對接,利用推理加速平臺(Foundation DDK)和異構計算平臺(Foundation HCL)將AI任務調入NPU/CPU/GPU/DSP等IP中進行計算,賦能手機、平板、智慧屏、車機、手錶等終端設備,將更多好玩酷炫的AI應用帶到消費者面前。


HiAI Foundation 開放架構

日調用量突破600億,引領端側AI行業標準構築

如今,AI技術在端側的應用越來越廣泛,語音識別、圖像識別、圖像分割、圖像超分、人臉識別、文字識別等已經成為全民通用的技術,消費者期待更好玩的AI應用出現,希望獲得更優質的AI應用體驗。HiAI Foundation為AI應用開發提供了基礎保障,讓開發者能夠突破性能瓶頸,提高開發效率,節省計算資源,更好地投入到AI玩法的研究與落地中,滿足消費者對智慧生活的美好期待。

據統計, HiAI Foundation自2018年開放以來,以高性能、低功耗、高易用性收穫越來越多的開發者青睞,短短幾年間日調用量從100萬+增長到600億+(數據來自參與體驗改進計劃的用戶)。愛奇藝、美顏相機、抖音、剪映、快手、優酷等頭部應用已先後接入HiAI Foundation,利用端側AI強大的計算能力,為用戶打造智能新體驗。


HiAI Foundation日調用量突破600億+

為了助力端側AI行業繁榮發展,HiAI Foundation在優化平臺性能的同時,已加入AI標準化組織AITISA(人工智慧產業技術創新戰略聯盟),並參與端側AI標準草案撰寫,共同構築AI行業標準,目前該草案已進入標准定稿審核階段。

更多HiAI Foundation相關信息,請關註5月24日HUAWEI Developer Day(簡稱HDD)-HiAI Foundation主題演講,你也可以登錄華為開發者聯盟官網>HMS Core>HiAI Foundation查看。

瞭解更多詳情>>

訪問華為開發者聯盟官網
獲取開髮指導文檔
華為移動服務開源倉庫地址:GitHubGitee

關註我們,第一時間瞭解 HMS Core 最新技術資訊~


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一、DataStream API概述 Flink 中的 DataStream 程式是對數據流(例如過濾、更新狀態、定義視窗、聚合)進行轉換的常規程式。數據流的起始是從各種源(例如消息隊列、套接字流、文件)創建的。結果通過 sink 返回,例如可以將數據寫入文件或標準輸出(例如命令行終端)。Flink ...
  • 推薦文章: eclipse導入JDBC MySQL詳細安裝 菜鳥java MySQL連接教程 步驟: 找到MySQL的連接Java的jar文件; 如下圖: 在eclipse項目文件下找到lib文件夾,沒有的話就自己創建一個,然後將上面找到的jar文件複製粘貼到lib文件夾的下麵; 如下圖: 給這個j ...
  • 業務上雲的大背景對彈性與可靠性的要求越來越高,傳統架構的單機資料庫或是分片資料庫已經很難支撐快速增長的業務,如何解決這些痛點呢?一起來聽聽百度雲原生資料庫資深技術專家邱學達怎麼說。 ...
  • SQL語言基礎 SQL (Structured Query Language:結構化查詢語言) 是用於管理關係資料庫管理系統(RDBMS)。 SQL 的範圍包括數據插入、查詢、更新和刪除,資料庫模式創建和修改,以及數據訪問控制。 本文主要記錄一些主要的SQL命令(比如 SELECT、UPDATE、D ...
  • 一、使用PIVOT實現行轉列 1、首先創建一個學生表 CREATE TABLE [dbo].[Students]( [stu_id] [int] IDENTITY(1,1) NOT NULL, [stu_name] [varchar](100) NULL, [stu_hobby] [varchar] ...
  • 在進行視頻通話過程中,用戶有時候會出現網路不好的情況,比如在進行多人視頻通話或者多人唱歌時,我們需要實時顯示用戶的網路質量。 ...
  • 本次上新,共計新增94個開源組件。組件涉及工具、網路、UI、圖形、音視頻等多種功能。 ...
  • 5月11日晚19:00,Hello HarmonyOS進階系列應用篇第二課《電腦視覺》直播如約而至。 ...
一周排行
    -Advertisement-
    Play Games
  • 前言 本文將以 C# 語言來實現一個簡單的布隆過濾器,為簡化說明,設計得很簡單,僅供學習使用。 感謝@時總百忙之中的指導。 布隆過濾器簡介 布隆過濾器(Bloom filter)是一種特殊的 Hash Table,能夠以較小的存儲空間較快地判斷出數據是否存在。常用於允許一定誤判率的數據過濾及防止緩存 ...
  • 目錄 一.簡介 二.效果演示 三.源碼下載 四.猜你喜歡 零基礎 OpenGL (ES) 學習路線推薦 : OpenGL (ES) 學習目錄 >> OpenGL ES 基礎 零基礎 OpenGL (ES) 學習路線推薦 : OpenGL (ES) 學習目錄 >> OpenGL ES 轉場 零基礎 O ...
  • 「簡單有價值的事情長期堅持做」 這是成功最簡單,但也最難學的秘訣。不經過訓練,人很難意識到時間複利的威力。 仙劍奇俠傳的「十里坡劍神」和金庸群俠傳的「十級野球拳」,就是簡單的事情持之以恆反覆做,最後就有巨大的威力 唐家三少成為網文收入第一,最重要的一步是十四年從未斷日更 這樣的案例很多,一開始可能成 ...
  • 迎面走來了你的面試官,身穿格子衫,挺著啤酒肚,髮際線嚴重後移的中年男子。 手拿泡著枸杞的保溫杯,胳膊夾著MacBook,MacBook上還貼著公司標語:“我愛加班”。 面試開始,直入正題。 面試官: 看你簡歷上面寫著精通MySQL,我先問你事務的特性是什麼? 老生常談,這個還有誰不會背的嗎? 我: ...
  • 基礎知識 python是一門腳本語言,它是解釋執行的。 python使用縮進做為語法,而且python2環境下同一個py文件中不能同時存在tab和空格縮進,否則會出錯,建議在IDE中顯示縮進符。 python在聲明變數時不寫數據類型,可以type(xx)來獲取欄位的類型,然後可以int(),list ...
  • 為什麼要多線程下載 俗話說要以終為始,那麼我們首先要明確多線程下載的目標是什麼,不外乎是為了更快的下載文件。那麼問題來了,多線程下載文件相比於單線程是不是更快? 對於這個問題可以看下圖。 橫坐標是線程數,縱坐標是使用對應線程數下載對應文件時花費的時間,藍橙綠代表下載文件的大小,每個線程下載對應文件2 ...
  • 詳細講解python爬蟲代碼,爬微博搜索結果的博文數據。 爬取欄位: 頁碼、微博id、微博bid、微博作者、發佈時間、微博內容、轉發數、評論數、點贊數。 爬蟲技術: 1、requests 發送請求 2、datetime 時間格式轉換 3、jsonpath 快速解析json數據 4、re 正則表達式提... ...
  • 背景: 一般我們可以用HashMap做本地緩存,但是HashMap功能比較弱,不支持Key過期,不支持數據範圍查找等。故在此實現了一個簡易的本地緩存,取名叫fastmap。 功能: 1.支持數據過期 2.支持等值查找 3.支持範圍查找 4.支持key排序 實現思路: 1.等值查找採用HashMap2 ...
  • 目錄 一.簡介 二.效果演示 三.源碼下載 四.猜你喜歡 零基礎 OpenGL (ES) 學習路線推薦 : OpenGL (ES) 學習目錄 >> OpenGL ES 基礎 零基礎 OpenGL (ES) 學習路線推薦 : OpenGL (ES) 學習目錄 >> OpenGL ES 轉場 零基礎 O ...
  • 本章是系列文章的第八章,用著色演算法進行寄存器的分配過程。 本文中的所有內容來自學習DCC888的學習筆記或者自己理解的整理,如需轉載請註明出處。周榮華@燧原科技 寄存器分配 寄存器分配是為程式處理的值找到存儲位置的問題 這些值可以存放到寄存器,也可以存放在記憶體中 寄存器更快,但數量有限 記憶體很多,但 ...