隨著新技術的不斷演進,人工智慧已經廣泛地應用到教育、金融、物流、零售、交通、醫療等各個領域。而在AI高速發展的當下,高效開發變得更為重要,如何將創意想法與AI技術深度融合,迅速轉化為可落地的AI應用,是開發者在激烈競爭中制勝的關鍵。 為了助力開發者快速上線AI業務,為消費者提供創新AI體驗,HMS ...
隨著新技術的不斷演進,人工智慧已經廣泛地應用到教育、金融、物流、零售、交通、醫療等各個領域。而在AI高速發展的當下,高效開發變得更為重要,如何將創意想法與AI技術深度融合,迅速轉化為可落地的AI應用,是開發者在激烈競爭中制勝的關鍵。
為了助力開發者快速上線AI業務,為消費者提供創新AI體驗,HMS Core HiAI Foundation將HiAI 生態中的底層硬體能力開放,為開發者提供了300多個具備業界優質模型相容性的AI運算元,讓開發者更簡單快捷地應用華為AI能力,快速構建智能AI應用。
此外,HUAWEI HiAI Foundation還推出端雲協同、多IP深度協同、自主調優工具包、Model Zoo等多種解決方案和能力,為眾多業務場景打造更高性能更低功耗的計算環境,助力開發者快速開發和部署AI應用。
五大性能優勢,助力開發者高效靈活開發
• 端雲協同:針對新業務場景運算元以及已有典型業務場景運算元,提供性能優化、快速升級平臺能力的解決方案
當前,AI業務和演算法模型都在持續快速演進,AI計算平臺適配新業務和新演算法快速升級成為難題。端雲協同具備快速升級端側計算庫的能力,助力開發者快速支持新模型、上線新業務,讓消費者快速獲得端側AI帶來的體驗提升。
• Model Zoo:輔助開發者優化模型結構,更好地利用NPU加速優勢
開發者在業務開發過程中,為了更大程度利用底層算力,需要針對底層硬體結構做一些模型調整,這個過程可能會出現效率低,資源利用不足的情況。HiAI Foundation打造Model Zoo,將NPU友好的模型結構、Backbone、運算元放進去,供開發者自行挑選,輔助其優化模型結構,更好地發揮麒麟晶元NPU的加速優勢。
• 模型量化工具包:讓開發者的App更快、更小
正常情況下,開發者訓練的模型是32bit,這樣的模型計算精度固然高,但對手機功耗和記憶體的要求也比較高。HiAI Foundation為開發者提供模型量化工具包,在滿足計算精度的前提下,可以把原始模型直接量化為更小、更輕便且更適合NPU結構的低比特模型,無需開發者做二次調整,從而節省手機空間,降低計算資源的消耗。
HiAI Foundation模型量化工具包
• 網路結構搜索工具包:讓網路設計更簡單、更有效
網路結構搜索工具包支持多種類型的網路結構搜索任務,包含分類,檢測和分割。通過精度,性能目標牽引,協同硬體信息通過最優化搜索演算法獲得最優的網路結構,得到最佳的性能提升。網路結構搜索工具包支持多種主流訓練框架使能,包含:caffe,tensorflow,pytorch。同時針對多種主流硬體平臺具有算力和時延建模的能力。
HiAI Foundation網路結構搜索工具包
• 多IP深度協同:各計算單元共用DDR記憶體,提升性能降低功耗
HiAI Foundation在硬體裸算力開放的同時,還具備硬體底層多IP深度協同的優勢。多IP深度協同的好處在於,CPU、NPU、ISP、GPU等各計算IP可以共用DDR記憶體,最大程度減少IP之間拷貝數據流轉的開銷,既可提升性能又能降低功耗。
從平臺架構來看,HMS Core HiAI Foundation銜接智慧業務和底層硬體能力,上層支持MNN、TNN、華為MindSpore Lite、Paddle Lite、KwaiNN等合作伙伴的框架對接,利用推理加速平臺(Foundation DDK)和異構計算平臺(Foundation HCL)將AI任務調入NPU/CPU/GPU/DSP等IP中進行計算,賦能手機、平板、智慧屏、車機、手錶等終端設備,將更多好玩酷炫的AI應用帶到消費者面前。
HiAI Foundation 開放架構
日調用量突破600億,引領端側AI行業標準構築
如今,AI技術在端側的應用越來越廣泛,語音識別、圖像識別、圖像分割、圖像超分、人臉識別、文字識別等已經成為全民通用的技術,消費者期待更好玩的AI應用出現,希望獲得更優質的AI應用體驗。HiAI Foundation為AI應用開發提供了基礎保障,讓開發者能夠突破性能瓶頸,提高開發效率,節省計算資源,更好地投入到AI玩法的研究與落地中,滿足消費者對智慧生活的美好期待。
據統計, HiAI Foundation自2018年開放以來,以高性能、低功耗、高易用性收穫越來越多的開發者青睞,短短幾年間日調用量從100萬+增長到600億+(數據來自參與體驗改進計劃的用戶)。愛奇藝、美顏相機、抖音、剪映、快手、優酷等頭部應用已先後接入HiAI Foundation,利用端側AI強大的計算能力,為用戶打造智能新體驗。
HiAI Foundation日調用量突破600億+
為了助力端側AI行業繁榮發展,HiAI Foundation在優化平臺性能的同時,已加入AI標準化組織AITISA(人工智慧產業技術創新戰略聯盟),並參與端側AI標準草案撰寫,共同構築AI行業標準,目前該草案已進入標准定稿審核階段。
更多HiAI Foundation相關信息,請關註5月24日HUAWEI Developer Day(簡稱HDD)-HiAI Foundation主題演講,你也可以登錄華為開發者聯盟官網>HMS Core>HiAI Foundation查看。
瞭解更多詳情>>
訪問華為開發者聯盟官網
獲取開髮指導文檔
華為移動服務開源倉庫地址:GitHub、Gitee
關註我們,第一時間瞭解 HMS Core 最新技術資訊~