日調用量超600億次,HMS Core HiAI Foundation助力AI應用高效開發

来源:https://www.cnblogs.com/hmscore/archive/2022/05/09/16248011.html
-Advertisement-
Play Games

隨著新技術的不斷演進,人工智慧已經廣泛地應用到教育、金融、物流、零售、交通、醫療等各個領域。而在AI高速發展的當下,高效開發變得更為重要,如何將創意想法與AI技術深度融合,迅速轉化為可落地的AI應用,是開發者在激烈競爭中制勝的關鍵。 為了助力開發者快速上線AI業務,為消費者提供創新AI體驗,HMS ...


隨著新技術的不斷演進,人工智慧已經廣泛地應用到教育、金融、物流、零售、交通、醫療等各個領域。而在AI高速發展的當下,高效開發變得更為重要,如何將創意想法與AI技術深度融合,迅速轉化為可落地的AI應用,是開發者在激烈競爭中制勝的關鍵。

為了助力開發者快速上線AI業務,為消費者提供創新AI體驗,HMS Core HiAI Foundation將HiAI 生態中的底層硬體能力開放,為開發者提供了300多個具備業界優質模型相容性的AI運算元,讓開發者更簡單快捷地應用華為AI能力,快速構建智能AI應用。

此外,HUAWEI HiAI Foundation還推出端雲協同、多IP深度協同、自主調優工具包、Model Zoo等多種解決方案和能力,為眾多業務場景打造更高性能更低功耗的計算環境,助力開發者快速開發和部署AI應用。

五大性能優勢,助力開發者高效靈活開發

• 端雲協同:針對新業務場景運算元以及已有典型業務場景運算元,提供性能優化、快速升級平臺能力的解決方案

當前,AI業務和演算法模型都在持續快速演進,AI計算平臺適配新業務和新演算法快速升級成為難題。端雲協同具備快速升級端側計算庫的能力,助力開發者快速支持新模型、上線新業務,讓消費者快速獲得端側AI帶來的體驗提升。

• Model Zoo:輔助開發者優化模型結構,更好地利用NPU加速優勢

開發者在業務開發過程中,為了更大程度利用底層算力,需要針對底層硬體結構做一些模型調整,這個過程可能會出現效率低,資源利用不足的情況。HiAI Foundation打造Model Zoo,將NPU友好的模型結構、Backbone、運算元放進去,供開發者自行挑選,輔助其優化模型結構,更好地發揮麒麟晶元NPU的加速優勢。

• 模型量化工具包:讓開發者的App更快、更小

正常情況下,開發者訓練的模型是32bit,這樣的模型計算精度固然高,但對手機功耗和記憶體的要求也比較高。HiAI Foundation為開發者提供模型量化工具包,在滿足計算精度的前提下,可以把原始模型直接量化為更小、更輕便且更適合NPU結構的低比特模型,無需開發者做二次調整,從而節省手機空間,降低計算資源的消耗。


HiAI Foundation模型量化工具包

• 網路結構搜索工具包:讓網路設計更簡單、更有效

網路結構搜索工具包支持多種類型的網路結構搜索任務,包含分類,檢測和分割。通過精度,性能目標牽引,協同硬體信息通過最優化搜索演算法獲得最優的網路結構,得到最佳的性能提升。網路結構搜索工具包支持多種主流訓練框架使能,包含:caffe,tensorflow,pytorch。同時針對多種主流硬體平臺具有算力和時延建模的能力。


HiAI Foundation網路結構搜索工具包

• 多IP深度協同:各計算單元共用DDR記憶體,提升性能降低功耗

HiAI Foundation在硬體裸算力開放的同時,還具備硬體底層多IP深度協同的優勢。多IP深度協同的好處在於,CPU、NPU、ISP、GPU等各計算IP可以共用DDR記憶體,最大程度減少IP之間拷貝數據流轉的開銷,既可提升性能又能降低功耗。

從平臺架構來看,HMS Core HiAI Foundation銜接智慧業務和底層硬體能力,上層支持MNN、TNN、華為MindSpore Lite、Paddle Lite、KwaiNN等合作伙伴的框架對接,利用推理加速平臺(Foundation DDK)和異構計算平臺(Foundation HCL)將AI任務調入NPU/CPU/GPU/DSP等IP中進行計算,賦能手機、平板、智慧屏、車機、手錶等終端設備,將更多好玩酷炫的AI應用帶到消費者面前。


HiAI Foundation 開放架構

日調用量突破600億,引領端側AI行業標準構築

如今,AI技術在端側的應用越來越廣泛,語音識別、圖像識別、圖像分割、圖像超分、人臉識別、文字識別等已經成為全民通用的技術,消費者期待更好玩的AI應用出現,希望獲得更優質的AI應用體驗。HiAI Foundation為AI應用開發提供了基礎保障,讓開發者能夠突破性能瓶頸,提高開發效率,節省計算資源,更好地投入到AI玩法的研究與落地中,滿足消費者對智慧生活的美好期待。

據統計, HiAI Foundation自2018年開放以來,以高性能、低功耗、高易用性收穫越來越多的開發者青睞,短短幾年間日調用量從100萬+增長到600億+(數據來自參與體驗改進計劃的用戶)。愛奇藝、美顏相機、抖音、剪映、快手、優酷等頭部應用已先後接入HiAI Foundation,利用端側AI強大的計算能力,為用戶打造智能新體驗。


HiAI Foundation日調用量突破600億+

為了助力端側AI行業繁榮發展,HiAI Foundation在優化平臺性能的同時,已加入AI標準化組織AITISA(人工智慧產業技術創新戰略聯盟),並參與端側AI標準草案撰寫,共同構築AI行業標準,目前該草案已進入標准定稿審核階段。

更多HiAI Foundation相關信息,請關註5月24日HUAWEI Developer Day(簡稱HDD)-HiAI Foundation主題演講,你也可以登錄華為開發者聯盟官網>HMS Core>HiAI Foundation查看。

瞭解更多詳情>>

訪問華為開發者聯盟官網
獲取開髮指導文檔
華為移動服務開源倉庫地址:GitHubGitee

關註我們,第一時間瞭解 HMS Core 最新技術資訊~


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一、DataStream API概述 Flink 中的 DataStream 程式是對數據流(例如過濾、更新狀態、定義視窗、聚合)進行轉換的常規程式。數據流的起始是從各種源(例如消息隊列、套接字流、文件)創建的。結果通過 sink 返回,例如可以將數據寫入文件或標準輸出(例如命令行終端)。Flink ...
  • 推薦文章: eclipse導入JDBC MySQL詳細安裝 菜鳥java MySQL連接教程 步驟: 找到MySQL的連接Java的jar文件; 如下圖: 在eclipse項目文件下找到lib文件夾,沒有的話就自己創建一個,然後將上面找到的jar文件複製粘貼到lib文件夾的下麵; 如下圖: 給這個j ...
  • 業務上雲的大背景對彈性與可靠性的要求越來越高,傳統架構的單機資料庫或是分片資料庫已經很難支撐快速增長的業務,如何解決這些痛點呢?一起來聽聽百度雲原生資料庫資深技術專家邱學達怎麼說。 ...
  • SQL語言基礎 SQL (Structured Query Language:結構化查詢語言) 是用於管理關係資料庫管理系統(RDBMS)。 SQL 的範圍包括數據插入、查詢、更新和刪除,資料庫模式創建和修改,以及數據訪問控制。 本文主要記錄一些主要的SQL命令(比如 SELECT、UPDATE、D ...
  • 一、使用PIVOT實現行轉列 1、首先創建一個學生表 CREATE TABLE [dbo].[Students]( [stu_id] [int] IDENTITY(1,1) NOT NULL, [stu_name] [varchar](100) NULL, [stu_hobby] [varchar] ...
  • 在進行視頻通話過程中,用戶有時候會出現網路不好的情況,比如在進行多人視頻通話或者多人唱歌時,我們需要實時顯示用戶的網路質量。 ...
  • 本次上新,共計新增94個開源組件。組件涉及工具、網路、UI、圖形、音視頻等多種功能。 ...
  • 5月11日晚19:00,Hello HarmonyOS進階系列應用篇第二課《電腦視覺》直播如約而至。 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...