蘋果在iOS10開放了siriKit介面給第三方應用。目前,QQ已經率先適配了Siri的發消息和打電話功能。這意味著在iOS10中你可以直接告訴Siri讓它幫你發QQ消息和打QQ電話了,聽起來是不是很酷炫? 那麼第三方應用使用Siri的體驗究竟如何?哪些應用可以接入SiriKit?接入SiriKi... ...
1. 概述
蘋果在iOS10開放了siriKit介面給第三方應用。目前,QQ已經率先適配了Siri的發消息和打電話功能。這意味著在iOS10中你可以直接告訴Siri讓它幫你發QQ消息和打QQ電話了,聽起來是不是很酷炫?
那麼第三方應用使用Siri的體驗究竟如何?哪些應用可以接入SiriKit?接入SiriKit又需要做哪些工作呢?這篇文章會為你一一解答這些疑惑。
圖1 用Siri發QQ消息效果展示
2. SiriKit簡介
我們都知道Siri是iphone手機中的智能語音助手,那麼什麼是SiriKit呢?SiriKit是蘋果為第三方應用支持Siri提供的開發框架。在官方文檔中,SiriKit將對不同場景的語音支持劃分為不同的domain,目前,SiriKit支持的domain包括:VoIP電話、發消息、轉賬、圖片搜索、網約車訂車、CarPlay和餐廳預定,也就是說如果你的應用中包含有這些功能之一,就可以考慮將這些功能接入到SiriKit中啦。
實現SiriKit相關功能時,我們並不需要真正對語音進行識別,語音的識別工作會由Siri完成。Siri識別完語音後,會將語音要完成的功能抽象成Intent對象傳遞給我們,而我們的接入工作主要是與這些Intent對象打交道,並不會涉及到自然語言處理(NLP)的技術。
關於SiriKit的開髮網上已有一些文章,也可參考蘋果的官方文檔SiriKit Programming Guide,本文著重介紹QQ的適配經驗。
圖2 SiriKit原理
3. SiriKit接入
要實現SiriKit的功能需要在Xcode工程中添加Intents Extension的target,和其他extension一樣, Intents Extension是一個獨立於Containing App進程運行的插件,主要用於處理和確認來自siri的intent請求。如果想讓Siri在處理App相關intent時提供一些自定義的界面,那麼你就需要再添加Intents UI Extension的target,Intents UI Extension也是一個獨立運行的插件(所以要完整的支持SiriKit其實是需要添加兩個target,有點蛋疼)。關於App Extension的開發可以參考蘋果的App Extension Programming Guide。
我們以QQ中的發消息功能為例說明一下SiriKit的接入方法:
首先,我們需要在Intents Extentsion的info.plist文件中配置我們需要支持的siri Intents,在IntentsSupported中加入INSendMessageIntent,如果需要在鎖屏時禁用某個功能,則再在IntentsRestrictedWhileLocked中加入相應項的Intent,如圖3所示。
圖3 Intent Extentsion info.plist配置
SiriKit的接入主要分為Intents Extension和Intents UI Extension兩部分,下麵分別進行介紹。
Intents Extension
當我們對siri說“用QQ發消息給王一然說你好”時,語音的識別將會由Siri自動完成,Siri會將識別好的內容展示在Siri的界面。如圖4所示,我們可以看到一個完整的發消息語句主要由四部分組成:
應用名:告訴Siri要使用哪個App,siri會根據app的bundle displayname自動識別app的名稱,無需額外註冊。
發消息Intent:告訴Siri要使用發消息的功能,我們實測發現說發信息也是能識別,具體還有哪些辭彙會識別為發消息的intent蘋果沒有在文檔中說明。
消息接收者:告訴siri消息的接收者是誰,“王一然”是我QQ好友的昵稱。
消息內容:告訴Siri你要發的消息內容是什麼,這裡的消息內容為“我很生氣”。
圖4 確認發送消息界面
其中應用名和Intent是必須的,不然Siri無法抽象出你的“Intent”。後兩項如果預設的話,我們可以在實現中要求用戶進一步提供數據或者忽略。在識別完成後Siri會將消息內容和接收者抽象成一個INSendMessageIntent傳遞給 QQ的Intent Extension。
我們從圖4還可以看到Siri準確從我的語音中識別出我QQ好友中昵稱為“王一然”的好友,然而“王一然”並不是一個通用的短語,那麼這是怎麼做到的呢?奧秘就在於在QQ運行時我們把所有QQ好友的昵稱同步到了Siri雲端,這樣Siri就可以識別出特定用戶要使用的特定短語,詳細同步方法可參考INVocabulary的setVocabularyStrings:ofType:方法。
每個domain的功能在Siri中都有對應的Intents,而每個intents都對應一個特定的handler協議。對於發消息來講,對應的Intent和handler協議分別為INSendMessageIntent和INSendMessageIntentHandling。只要實現INSendMessageIntentHandling協議中的相關方法,併在Siri解析出INSendMessageIntent請求時用我們的INSendMessageIntentHandling對象去處理相關的發消息請求。具體的流程如圖5:
圖5 Siri發QQ消息流程
1)ResolveRecipientsForSendMessage
對siri從Intent中傳遞過來的接收者名稱進行處理和確認,比如可以確認該名稱當前是否在QQ好友列表中,並將resolution result反饋給Siri。Resolution result代表了應用對intent處理後的結果,對於發消息來說,表1列舉了幾種可能的resolution results。
表1 send resolution result
2)ResolveContent
與接收者的處理類似,在這個方法中可以對Siri識別出的消息內容進行“修飾”,並且將resolution result反饋給Siri,比如QQ對一些消息裡面的特殊辭彙如“生氣”做了emoji適配。
3)ConfirmSendMessage
這個方法的作用是確認是否要發送該消息,可以在這一步進行一些鑒權工作,鑒權通過後再確認發送,否則取消。確認可以發送後會調起確認發送界面,如圖4所示。如果需要從Containing App共用數據,具體的實現方案參考App Group的Shared Container。
4)HandleSendMessage
如圖4,當用戶點擊了“發送”按鈕或者用語音給出了發送指令時會最終進入到這個方法,在這個方法里我們需要實現發消息的邏輯,發送成功後可以調起消息發送成功的界面,如圖6。
圖6 消息發送成功界面
Intents UI Extension
對於支持自定義界面的Intent類型,可以在Intents UI Extension中提供更美觀的自定義界面。 Custom UI的實現相對較簡單,和ios app的開發一樣,都是通過UIViewController的子類實現。我們需要在Intents UI Extension的info.plist文件中設置initial viewcontroller或者設置main storyboard,對於不同類型的Intent的界面展示通過Child Viewcontrollers的方式實現差異化界面展示。
如圖7所示,當接收到來自Intents Extension的response時,系統會喚起Intents UI Extension並載入initial viewcontroller,通過INUIHostedViewSiriProviding協議的configureWithInteraction:context:completion:方法可以獲取intent,比如在發消息功能中,在消息確認發送和發送成功後都會回調一次這個方法。根據Intent對象的類型和狀態,在收到相關Intent的回調時present對應的Child Viewcontroller即可實現定製化的界面展示。
這裡需要註意的是,Intents UI Extension的進程並不會在界面銷毀後就退出,很可能只是在後臺處於休眠狀態,下次response到來時再被喚醒。
圖7 Life cycle of an Intents UI extension
4. 總結
總的來說雖然蘋果這一次對SiriKit開放的場景有限,但是從我們的適配經歷來看蘋果對Siri還是非常重視的。另外,這是SiriKit首次對第三方應用開放介面,所以不可避免存在一些問題。我們在開發過程中也確實遇到了一些SiriKit本身的Bug,大部分bug在向蘋果反饋後都得到瞭解決,但是在語言識別方面Siri依然存在一些缺陷,比如對中英文混合的場景識別依舊不太好。期待以後Siri對中文的支持越來越好,也希望Siri能夠開放更多的場景給第三方應用適配。
-
(-1)寫在前面 我用的是chrome49,如果你用的不是。可以嘗試換下瀏覽器首碼。IE在這方面的實現又特例獨行了。不想提及…,這篇是為後續做準備。 (0)快速使用 background-image:-webkit-linear-gradient(red,blue); 或者 background-i ...
-
AOS 是一個用於在頁面滾動的時候呈現元素動畫的工具庫,你可能會覺得它和 WOWJS 一樣,的確他們效果是類似的。但是AOS是 CSS3 動畫驅動的庫,當你滾動頁面的時候能讓元素動起來,當頁面滾回頂部的時候,元素能夠回到前一個狀態,如此達到迴圈動畫的效果。 ...
-
效果圖如下: ...
-
效果圖: ...
-
做App測試時監測使用期間的cpu,記憶體,流量,電量等指標時,發現的企鵝很好用的工具。 備份至此,方便後期查閱 以下內容摘抄自企鵝GT官網 http://code.tencent.com/gt.html http://gt.qq.com/ 文檔 http://gt.qq.com/docs.html ...
-
開發第一應用 可以開發屬於自己的應用,是否有點小激動?好吧!讓我們開始,首先點擊Start a new Android Studio Project創建工程:接下來需要輸入應用名稱(第一個字母要大寫)、公司域以及指定應用存放目錄,點擊Next按鈕進入下一步: 如果第一個字母不是大寫,會提示:The ...
-
遍歷可變數組的同時刪除數組元素 獲取系統當前語言 UITableView的Group樣式下頂部空白處理 UITableView的plain樣式下,取消區頭停滯效果 獲取某個view所在的控制器 兩種方法刪除NSUserDefaults所有記錄 列印系統所有已註冊的字體名稱 獲取圖片某一點的顏色 字元 ...
-
最近半年以來,Android熱補丁技術熱潮繼續爆發,各大公司相繼推出自己的開源框架。Tinker在最近也順利完成了公司的審核,並非常榮幸的成為github.com/Tencent上第一個正式公開的項目。 ...