日調用量超600億次,HMS Core HiAI Foundation助力AI應用高效開發

来源:https://www.cnblogs.com/hmscore/archive/2022/05/09/16248011.html
-Advertisement-
Play Games

隨著新技術的不斷演進,人工智慧已經廣泛地應用到教育、金融、物流、零售、交通、醫療等各個領域。而在AI高速發展的當下,高效開發變得更為重要,如何將創意想法與AI技術深度融合,迅速轉化為可落地的AI應用,是開發者在激烈競爭中制勝的關鍵。 為了助力開發者快速上線AI業務,為消費者提供創新AI體驗,HMS ...


隨著新技術的不斷演進,人工智慧已經廣泛地應用到教育、金融、物流、零售、交通、醫療等各個領域。而在AI高速發展的當下,高效開發變得更為重要,如何將創意想法與AI技術深度融合,迅速轉化為可落地的AI應用,是開發者在激烈競爭中制勝的關鍵。

為了助力開發者快速上線AI業務,為消費者提供創新AI體驗,HMS Core HiAI Foundation將HiAI 生態中的底層硬體能力開放,為開發者提供了300多個具備業界優質模型相容性的AI運算元,讓開發者更簡單快捷地應用華為AI能力,快速構建智能AI應用。

此外,HUAWEI HiAI Foundation還推出端雲協同、多IP深度協同、自主調優工具包、Model Zoo等多種解決方案和能力,為眾多業務場景打造更高性能更低功耗的計算環境,助力開發者快速開發和部署AI應用。

五大性能優勢,助力開發者高效靈活開發

• 端雲協同:針對新業務場景運算元以及已有典型業務場景運算元,提供性能優化、快速升級平臺能力的解決方案

當前,AI業務和演算法模型都在持續快速演進,AI計算平臺適配新業務和新演算法快速升級成為難題。端雲協同具備快速升級端側計算庫的能力,助力開發者快速支持新模型、上線新業務,讓消費者快速獲得端側AI帶來的體驗提升。

• Model Zoo:輔助開發者優化模型結構,更好地利用NPU加速優勢

開發者在業務開發過程中,為了更大程度利用底層算力,需要針對底層硬體結構做一些模型調整,這個過程可能會出現效率低,資源利用不足的情況。HiAI Foundation打造Model Zoo,將NPU友好的模型結構、Backbone、運算元放進去,供開發者自行挑選,輔助其優化模型結構,更好地發揮麒麟晶元NPU的加速優勢。

• 模型量化工具包:讓開發者的App更快、更小

正常情況下,開發者訓練的模型是32bit,這樣的模型計算精度固然高,但對手機功耗和記憶體的要求也比較高。HiAI Foundation為開發者提供模型量化工具包,在滿足計算精度的前提下,可以把原始模型直接量化為更小、更輕便且更適合NPU結構的低比特模型,無需開發者做二次調整,從而節省手機空間,降低計算資源的消耗。


HiAI Foundation模型量化工具包

• 網路結構搜索工具包:讓網路設計更簡單、更有效

網路結構搜索工具包支持多種類型的網路結構搜索任務,包含分類,檢測和分割。通過精度,性能目標牽引,協同硬體信息通過最優化搜索演算法獲得最優的網路結構,得到最佳的性能提升。網路結構搜索工具包支持多種主流訓練框架使能,包含:caffe,tensorflow,pytorch。同時針對多種主流硬體平臺具有算力和時延建模的能力。


HiAI Foundation網路結構搜索工具包

• 多IP深度協同:各計算單元共用DDR記憶體,提升性能降低功耗

HiAI Foundation在硬體裸算力開放的同時,還具備硬體底層多IP深度協同的優勢。多IP深度協同的好處在於,CPU、NPU、ISP、GPU等各計算IP可以共用DDR記憶體,最大程度減少IP之間拷貝數據流轉的開銷,既可提升性能又能降低功耗。

從平臺架構來看,HMS Core HiAI Foundation銜接智慧業務和底層硬體能力,上層支持MNN、TNN、華為MindSpore Lite、Paddle Lite、KwaiNN等合作伙伴的框架對接,利用推理加速平臺(Foundation DDK)和異構計算平臺(Foundation HCL)將AI任務調入NPU/CPU/GPU/DSP等IP中進行計算,賦能手機、平板、智慧屏、車機、手錶等終端設備,將更多好玩酷炫的AI應用帶到消費者面前。


HiAI Foundation 開放架構

日調用量突破600億,引領端側AI行業標準構築

如今,AI技術在端側的應用越來越廣泛,語音識別、圖像識別、圖像分割、圖像超分、人臉識別、文字識別等已經成為全民通用的技術,消費者期待更好玩的AI應用出現,希望獲得更優質的AI應用體驗。HiAI Foundation為AI應用開發提供了基礎保障,讓開發者能夠突破性能瓶頸,提高開發效率,節省計算資源,更好地投入到AI玩法的研究與落地中,滿足消費者對智慧生活的美好期待。

據統計, HiAI Foundation自2018年開放以來,以高性能、低功耗、高易用性收穫越來越多的開發者青睞,短短幾年間日調用量從100萬+增長到600億+(數據來自參與體驗改進計劃的用戶)。愛奇藝、美顏相機、抖音、剪映、快手、優酷等頭部應用已先後接入HiAI Foundation,利用端側AI強大的計算能力,為用戶打造智能新體驗。


HiAI Foundation日調用量突破600億+

為了助力端側AI行業繁榮發展,HiAI Foundation在優化平臺性能的同時,已加入AI標準化組織AITISA(人工智慧產業技術創新戰略聯盟),並參與端側AI標準草案撰寫,共同構築AI行業標準,目前該草案已進入標准定稿審核階段。

更多HiAI Foundation相關信息,請關註5月24日HUAWEI Developer Day(簡稱HDD)-HiAI Foundation主題演講,你也可以登錄華為開發者聯盟官網>HMS Core>HiAI Foundation查看。

瞭解更多詳情>>

訪問華為開發者聯盟官網
獲取開髮指導文檔
華為移動服務開源倉庫地址:GitHubGitee

關註我們,第一時間瞭解 HMS Core 最新技術資訊~


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一、DataStream API概述 Flink 中的 DataStream 程式是對數據流(例如過濾、更新狀態、定義視窗、聚合)進行轉換的常規程式。數據流的起始是從各種源(例如消息隊列、套接字流、文件)創建的。結果通過 sink 返回,例如可以將數據寫入文件或標準輸出(例如命令行終端)。Flink ...
  • 推薦文章: eclipse導入JDBC MySQL詳細安裝 菜鳥java MySQL連接教程 步驟: 找到MySQL的連接Java的jar文件; 如下圖: 在eclipse項目文件下找到lib文件夾,沒有的話就自己創建一個,然後將上面找到的jar文件複製粘貼到lib文件夾的下麵; 如下圖: 給這個j ...
  • 業務上雲的大背景對彈性與可靠性的要求越來越高,傳統架構的單機資料庫或是分片資料庫已經很難支撐快速增長的業務,如何解決這些痛點呢?一起來聽聽百度雲原生資料庫資深技術專家邱學達怎麼說。 ...
  • SQL語言基礎 SQL (Structured Query Language:結構化查詢語言) 是用於管理關係資料庫管理系統(RDBMS)。 SQL 的範圍包括數據插入、查詢、更新和刪除,資料庫模式創建和修改,以及數據訪問控制。 本文主要記錄一些主要的SQL命令(比如 SELECT、UPDATE、D ...
  • 一、使用PIVOT實現行轉列 1、首先創建一個學生表 CREATE TABLE [dbo].[Students]( [stu_id] [int] IDENTITY(1,1) NOT NULL, [stu_name] [varchar](100) NULL, [stu_hobby] [varchar] ...
  • 在進行視頻通話過程中,用戶有時候會出現網路不好的情況,比如在進行多人視頻通話或者多人唱歌時,我們需要實時顯示用戶的網路質量。 ...
  • 本次上新,共計新增94個開源組件。組件涉及工具、網路、UI、圖形、音視頻等多種功能。 ...
  • 5月11日晚19:00,Hello HarmonyOS進階系列應用篇第二課《電腦視覺》直播如約而至。 ...
一周排行
    -Advertisement-
    Play Games
  • Dapr Outbox 是1.12中的功能。 本文只介紹Dapr Outbox 執行流程,Dapr Outbox基本用法請閱讀官方文檔 。本文中appID=order-processor,topic=orders 本文前提知識:熟悉Dapr狀態管理、Dapr發佈訂閱和Outbox 模式。 Outbo ...
  • 引言 在前幾章我們深度講解了單元測試和集成測試的基礎知識,這一章我們來講解一下代碼覆蓋率,代碼覆蓋率是單元測試運行的度量值,覆蓋率通常以百分比表示,用於衡量代碼被測試覆蓋的程度,幫助開發人員評估測試用例的質量和代碼的健壯性。常見的覆蓋率包括語句覆蓋率(Line Coverage)、分支覆蓋率(Bra ...
  • 前言 本文介紹瞭如何使用S7.NET庫實現對西門子PLC DB塊數據的讀寫,記錄了使用電腦模擬,模擬PLC,自至完成測試的詳細流程,並重點介紹了在這個過程中的易錯點,供參考。 用到的軟體: 1.Windows環境下鏈路層網路訪問的行業標準工具(WinPcap_4_1_3.exe)下載鏈接:http ...
  • 從依賴倒置原則(Dependency Inversion Principle, DIP)到控制反轉(Inversion of Control, IoC)再到依賴註入(Dependency Injection, DI)的演進過程,我們可以理解為一種逐步抽象和解耦的設計思想。這種思想在C#等面向對象的編 ...
  • 關於Python中的私有屬性和私有方法 Python對於類的成員沒有嚴格的訪問控制限制,這與其他面相對對象語言有區別。關於私有屬性和私有方法,有如下要點: 1、通常我們約定,兩個下劃線開頭的屬性是私有的(private)。其他為公共的(public); 2、類內部可以訪問私有屬性(方法); 3、類外 ...
  • C++ 訪問說明符 訪問說明符是 C++ 中控制類成員(屬性和方法)可訪問性的關鍵字。它們用於封裝類數據並保護其免受意外修改或濫用。 三種訪問說明符: public:允許從類外部的任何地方訪問成員。 private:僅允許在類內部訪問成員。 protected:允許在類內部及其派生類中訪問成員。 示 ...
  • 寫這個隨筆說一下C++的static_cast和dynamic_cast用在子類與父類的指針轉換時的一些事宜。首先,【static_cast,dynamic_cast】【父類指針,子類指針】,兩兩一組,共有4種組合:用 static_cast 父類轉子類、用 static_cast 子類轉父類、使用 ...
  • /******************************************************************************************************** * * * 設計雙向鏈表的介面 * * * * Copyright (c) 2023-2 ...
  • 相信接觸過spring做開發的小伙伴們一定使用過@ComponentScan註解 @ComponentScan("com.wangm.lifecycle") public class AppConfig { } @ComponentScan指定basePackage,將包下的類按照一定規則註冊成Be ...
  • 操作系統 :CentOS 7.6_x64 opensips版本: 2.4.9 python版本:2.7.5 python作為腳本語言,使用起來很方便,查了下opensips的文檔,支持使用python腳本寫邏輯代碼。今天整理下CentOS7環境下opensips2.4.9的python模塊筆記及使用 ...