微軟開源了一個 助力開發LLM 加持的應用的 工具包 semantic-kernel

来源:https://www.cnblogs.com/shanyou/archive/2023/03/24/semantic-kernel.html
-Advertisement-
Play Games

在首席執行官薩蒂亞·納德拉(Satya Nadella)的支持下,微軟似乎正在迅速轉變為一家以人工智慧為中心的公司。最近微軟的眾多產品線都採用GPT-4加持,從Microsoft 365等商業產品到“新必應”搜索引擎,再到低代碼/無代碼Power Platform等面向開發的產品,包括軟體開發組件P ...


在首席執行官薩蒂亞·納德拉(Satya Nadella)的支持下,微軟似乎正在迅速轉變為一家以人工智慧為中心的公司。最近微軟的眾多產品線都採用GPT-4加持,從Microsoft 365等商業產品到“新必應”搜索引擎,再到低代碼/無代碼Power Platform等面向開發的產品,包括軟體開發組件Power Apps[1]。

非常重要的一點是這些產品都是使用.NET 構建的, 這些項目可以快速的使用LLM 加持,我們寫程式的同學肯定都會想微軟是怎麼做的,正好微軟在3月17日在發佈了一篇博客文章: [Hello, Semantic Kernel!](https://devblogs.microsoft.com/semantic-kernel/hello-world/)[2], 在這篇文章中微軟已經開源了一個內部孵化項目,Github的倉庫:https://github.com/microsoft/semantic-kernel [3],該項目可以幫助開發人員快速輕鬆地將尖端的人工智慧模型集成到他們的應用程式中。這使您能夠在應用中構建新體驗,從而為用戶帶來無與倫比的工作效率:例如總結冗長的聊天交流,標記通過Microsoft Graph添加到待辦事項列表中的重要“下一步”,或者計劃一個完整的假期,而不僅僅是預訂飛機上的座位。

語義內核(簡稱SK)是一種創新的輕量級軟體開發工具包(SDK),旨在將人工智慧(AI)大型語言模型(LLM)與傳統編程語言集成。藉助 SK,開發人員可以輕鬆地為其應用程式註入複雜的技能,例如提示鏈接、摘要、遞歸推理、基於嵌入的記憶體等。SK 支持提示模板[4]、函數鏈、矢量化記憶體[5]和開箱即用的智能規劃[6]功能。

SK旨在支持和封裝來自最新 AI 研究的多種設計模式,以便開發人員可以為他們的應用程式註入複雜的技能[7],如提示[7]鏈接、遞歸推理、總結、zero/few-shot 學習、上下文記憶、長期記憶、嵌入[8]、語義索引、 規劃,以及訪問外部知識庫以及您自己的數據。

image

SK最初的目標是 C#開發人員,但也為數據科學家的最愛的 Python提供了預覽支持,而微軟也根據從社區反饋中學到的內容,正在考慮支持[9]其他語言,包括自己的TypeScript。

微軟將SK的主要優勢列為:

  • 快速集成:SK旨在嵌入任何類型的應用程式中,使您可以輕鬆測試和運行LLM AI。
  • 擴展:藉助 SK,您可以連接外部數據源和服務,使其應用程式能夠將自然語言處理與實時信息結合使用。
  • 更好的提示:SK的模板化提示可讓您使用有用的抽象和機制快速設計語義函數,以釋放LLM AI的潛力。
  • 新奇但熟悉:傳統編程語言代碼始終可供您作為一流的合作伙伴,幫助您快速完成工程設計,可以兩全其美。

為了幫助開發人員入門,微軟提供了一個免費的LinkedIn學習課程[10]。它的描述是:“人工智慧的未來終於來了,它改變了軟體開發人員的游戲規則。探索語義內核 (SK) 的可能性,這是 AI 驅動的開發的新面孔,封裝在輕量級、易於使用的多層軟體開發工具包中。使用SK快速啟動和運行,SK是Microsoft AI生態系統的最新成員,使開發人員能夠輕鬆地將LLM AI功能集成到他們的應用程式中。

Technical perspective of what's happening

 

除了LinkedIn學習課程之外,Microsoft 還解釋了開發人員如何克隆存儲庫並嘗試以下示例:

  • 簡單的聊天摘要[11]:使用現成的技能,並輕鬆地將這些技能應用到你的應用中。
  • 圖書創作者[12]:使用規劃師解構複雜的目標,併在應用中設想使用規劃師。
  • 身份驗證和 API[13]:使用基本連接器模式進行身份驗證並連接到 API,並設想將外部數據集成到應用的 LLM AI 中。
  • Github倉庫問答[14]:使用嵌入和記憶體來存儲最近的數據,並允許您對其進行查詢。

 

在運行示例和筆記本之前,您可能需要滿足一些軟體要求:

  1. Azure Functions 核心工具[15],用於將內核作為本地 API 運行,這是 Web 應用所需的。
  2. 需要OpenAI API[16] 密鑰或 Azure OpenAI 服務密鑰[17]才能開始使用。
  3. 用於安裝 Web 應用的依賴項的Yarn[18]。
  4. SK 支持 .NET Standard 2.1,建議使用 .NET 6+。但是,倉庫中的某些示例需要 .NET 7[19] 和 VS Code Polyglot 擴展[20]才能運行筆記本

 

SK 入門

下麵是如何從 C# 控制台應用使用語義內核的快速示例,這裡我們使用VS Code Polyglot 來做

image

image

 

相關鏈接:

  • [1]Power Apps:https://powerapps.microsoft.com/zh-cn/ 
  • [2] Hello, Semantic Kernel!: https://devblogs.microsoft.com/semantic-kernel/hello-world/
  • [3] Github的倉庫:https://github.com/microsoft/semantic-kernel
  • [4]提示模板: https://github.com/microsoft/semantic-kernel/blob/main/docs/PROMPT_TEMPLATE_LANGUAGE.md 
  • [5] 矢量化記憶體: https://github.com/microsoft/semantic-kernel/blob/main/docs/EMBEDDINGS.md 
  • [6] 智能規劃 https://github.com/microsoft/semantic-kernel/blob/main/docs/PLANNER.md 
  • [7] 技能: https://github.com/microsoft/semantic-kernel/blob/main/docs/SKILLS.md 
  • [8] 嵌入: https://github.com/microsoft/semantic-kernel/blob/main/docs/EMBEDDINGS.md 
  • [9] 支持其他語言: https://aka.ms/sk/python
  • [10] LinkedIn學習課程 https://www.linkedin.com/learning/introducing-semantic-kernel-building-ai-based-apps/introducing-semantic-kernel
  • [11] 簡單的聊天摘要 https://github.com/microsoft/semantic-kernel/blob/main/samples/apps/chat-summary-webapp-react/README.md
  • [12] 圖書創作者 https://github.com/microsoft/semantic-kernel/blob/main/samples/apps/book-creator-webapp-react/README.md
  • [13] 身份驗證和 API https://github.com/microsoft/semantic-kernel/blob/main/samples/apps/auth-api-webapp-react/README.md
  • [14] Github倉庫問答 https://github.com/microsoft/semantic-kernel/blob/main/samples/apps/github-qna-webapp-react/README.md
  • [15] Azure Functions 核心工具 https://learn.microsoft.com/azure/azure-functions/functions-run-local 
  • [16] OpenAI API https://openai.com/api/
  • [17] Azure OpenAI 服務密鑰 https://learn.microsoft.com/azure/cognitive-services/openai/quickstart?pivots=rest-api
  • [18] Yarn https://yarnpkg.com/getting-started/install
  • [19] .NET 7 https://dotnet.microsoft.com/download
  • [20] Polyglot 擴展 https://www.cnblogs.com/shanyou/p/17247652.html

歡迎大家掃描下麵二維碼成為我的客戶,扶你上雲


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一、什麼是敏感詞過濾? 敏感詞過濾是一種處理網路內容的技術,可以檢測和過濾出網路中的敏感/違禁辭彙。它通過給定的關鍵字或字元串,判斷網路內容是否包含某些敏感信息,從而防止違反法律法規的信息流通。 通常,可以使用兩種方法來過濾敏感詞: 黑名單過濾:即定義一個黑名單,將所有敏感詞擇記錄在其中,然後對輸入 ...
  • WPF(Windows Presentation Foundation)是由微軟開發的桌面應用程式框架,用於創建現代化、高度交互和具有視覺吸引力的用戶界面。它是 .NET Framework 的一部分,提供了一種基於 XAML(Extensible Application Markup Langua... ...
  • 前言 在程式設計中,我們會遇到各種各樣的異常問題,一個好的異常處理解決方案能夠幫助開發者快速的定位問題,也能夠給用戶更好的用戶體驗。 異常處理的幾種方式 1、通過異常過濾器捕獲異常進行處理 2、自定義異常處理中間件 在這裡我選擇自定義異常處理中間件,中間件依托於請求管道運行,並且中間件的執行是有序的 ...
  • 1.可空類型修飾符(?) 眾所周知,在C#中引用類型可以使用一個null引用來表示一個不存在的值,比如 string str = null 是正確的; 但是值類型卻不能為空,比如 int k = null 那麼編譯器就會報錯; 為了讓值類型也可以為空,就需要使用可空類型,即用可空類型修飾符 "?" ...
  • 泛型的學習 一、泛型的引入 泛型 泛:寬泛的--不確定的; 型:類型 不確定的類型 無處不在的 調用普通方法的時候,參數類型在聲明的時候就確定了,調用按照類型傳遞參數即可 a. 如果有100個類型 100個方法?--很累 b. 有沒有能夠做一個方法可以能夠滿足不同類型的需求呢? 傳統方法 publi ...
  • WebSocket 1.基於Html5,IIS8.0版本以上,前端代碼和伺服器都必須支持WebSocket才能使用; 2.請求必須以WS:開頭 下麵是後臺接收前端websocket申請的方法: /// <summary> /// WebSocket建立鏈接的方法 /// </summary> /// ...
  • 一:背景 1. 講故事 最近經常遇到有朋友反饋,在 x64 環境下如何提取線程棧中的方法參數,熟悉 x64 調用協定的朋友應該知道,這種協定範圍下,方法的前四個參數都是用寄存器傳遞的,比如rcx,rdx,r8d,r9d 四個寄存器,由於寄存器存值的臨時性,它的值容易被後面的邏輯給徵用了,那這種情況下 ...
  • 1. 高品質的代碼 1.1. 性能(Performance) 1.1.1. 只執行需要的操作,而且執行迅速 1.1.2. 不會使系統陷入停頓 1.2. 可用性(Availability) 1.2.1. 持續在所需的性能水平上保持可用 1.2.2. Topic1 1.3. 安全性(Security) ...
一周排行
    -Advertisement-
    Play Games
  • GoF之工廠模式 @目錄GoF之工廠模式每博一文案1. 簡單說明“23種設計模式”1.2 介紹工廠模式的三種形態1.3 簡單工廠模式(靜態工廠模式)1.3.1 簡單工廠模式的優缺點:1.4 工廠方法模式1.4.1 工廠方法模式的優缺點:1.5 抽象工廠模式1.6 抽象工廠模式的優缺點:2. 總結:3 ...
  • 新改進提供的Taurus Rpc 功能,可以簡化微服務間的調用,同時可以不用再手動輸出模塊名稱,或調用路徑,包括負載均衡,這一切,由框架實現並提供了。新的Taurus Rpc 功能,將使得服務間的調用,更加輕鬆、簡約、高效。 ...
  • 本章將和大家分享ES的數據同步方案和ES集群相關知識。廢話不多說,下麵我們直接進入主題。 一、ES數據同步 1、數據同步問題 Elasticsearch中的酒店數據來自於mysql資料庫,因此mysql數據發生改變時,Elasticsearch也必須跟著改變,這個就是Elasticsearch與my ...
  • 引言 在我們之前的文章中介紹過使用Bogus生成模擬測試數據,今天來講解一下功能更加強大自動生成測試數據的工具的庫"AutoFixture"。 什麼是AutoFixture? AutoFixture 是一個針對 .NET 的開源庫,旨在最大程度地減少單元測試中的“安排(Arrange)”階段,以提高 ...
  • 經過前面幾個部分學習,相信學過的同學已經能夠掌握 .NET Emit 這種中間語言,並能使得它來編寫一些應用,以提高程式的性能。隨著 IL 指令篇的結束,本系列也已經接近尾聲,在這接近結束的最後,會提供幾個可供直接使用的示例,以供大伙分析或使用在項目中。 ...
  • 當從不同來源導入Excel數據時,可能存在重覆的記錄。為了確保數據的準確性,通常需要刪除這些重覆的行。手動查找並刪除可能會非常耗費時間,而通過編程腳本則可以實現在短時間內處理大量數據。本文將提供一個使用C# 快速查找並刪除Excel重覆項的免費解決方案。 以下是實現步驟: 1. 首先安裝免費.NET ...
  • C++ 異常處理 C++ 異常處理機制允許程式在運行時處理錯誤或意外情況。它提供了捕獲和處理錯誤的一種結構化方式,使程式更加健壯和可靠。 異常處理的基本概念: 異常: 程式在運行時發生的錯誤或意外情況。 拋出異常: 使用 throw 關鍵字將異常傳遞給調用堆棧。 捕獲異常: 使用 try-catch ...
  • 優秀且經驗豐富的Java開發人員的特征之一是對API的廣泛瞭解,包括JDK和第三方庫。 我花了很多時間來學習API,尤其是在閱讀了Effective Java 3rd Edition之後 ,Joshua Bloch建議在Java 3rd Edition中使用現有的API進行開發,而不是為常見的東西編 ...
  • 框架 · 使用laravel框架,原因:tp的框架路由和orm沒有laravel好用 · 使用強制路由,方便介面多時,分多版本,分文件夾等操作 介面 · 介面開發註意欄位類型,欄位是int,查詢成功失敗都要返回int(對接java等強類型語言方便) · 查詢介面用GET、其他用POST 代碼 · 所 ...
  • 正文 下午找企業的人去鎮上做貸後。 車上聽同事跟那個司機對罵,火星子都快出來了。司機跟那同事更熟一些,連我在內一共就三個人,同事那一手指桑罵槐給我都聽愣了。司機也是老社會人了,馬上聽出來了,為那個無辜的企業經辦人辯護,實際上是為自己辯護。 “這個事情你不能怪企業。”“但他們總不能讓銀行的人全權負責, ...