LLM大模型與AI應用的粘合劑。 1 langchain是什麼以及發展過程 LangChain是一個開源框架，旨在簡化使用大型語言模型構建端到端應用程式的過程，也是ReAct(reason+act)論文的落地實現。 2022年10月25日開源 54K+ star 種子輪一周1000萬美金，A輪250 ...
LLM大模型與AI應用的粘合劑。
1 langchain是什麼以及發展過程
LangChain是一個開源框架，旨在簡化使用大型語言模型構建端到端應用程式的過程，也是ReAct(reason+act)論文的落地實現。
2022年10月25日開源
54K+ star
種子輪一周1000萬美金，A輪2500萬美金
11個月里累計發佈200多次，提交4000多次代碼
2 langchain能做什麼和能力一覽
模型 A
構造提示詞 -> LLMs -> 模型生產結果 -> 結果處理 -> 最終結果
模型 B
構造提示詞 -> LLMs -> 模型生產結果 -> 結果處理 -> 最終結果
模型 N...
構造提示詞 -> LLMs -> 模型生產結果 -> 結果處理 -> 最終結果
Langchain I/O系統
+------------+ +------------------------+ +------------+
| | 輸入 | +--------------+ | 輸入 | |
| 用戶輸入 | -------------> | | prompt | | -------------> | LLMs |
| | | +--------------+ | | |
| | | | | |
| | 輸出 | +--------------+ | 輸出 | |
| | <------------- | | Output | | <------------- | |
+------------+ | | Parsers | | +------------+
| +--------------+ |
+------------------------+
Langchain I/O系統
- 解決大模型各種問題的提示詞工程方案之一
- 提供了與LLMs交互的各種組件，極大提升開發效率
- 可以以文件方式載入提示詞、鏈等，方便共用提示詞和做提示詞版本管理
- 提供豐富的鏈式工具箱
LLMs & Prompt
提供了目前市面上幾乎所有 LLM 的通用介面，同時還提供了 提示詞 的管理和優化能力，同時也提供了非常多的相關適用工具，以方便開發人員利用 LangChain 與 LLMs 進行交互。
Chains
LangChain 把 提示詞、大語言模型、結果解析封裝成 Chain，並提供標準的介面，以便允許不同的Chain形成交互序列，為 AI 原生應用提供了端到端的 Chain
Retrieval-Augemented Generation
檢索增強生成式，一種解決預訓練語料數據無法及時更新而帶來的回答內容陳舊的方式。LangChain提供支持 檢索增強生成式的Chain。使用時，這些 Chain 會首先與外部數據源進行交互以獲得對應數據，然後再利用獲得的數據與 LLMs 進行交互。典型應用場暴如：基於特定數據源的問答機器人。
Agent
對於一個任務，代理主要涉及讓 LLMs 來對任務進行拆分、執行該行動、並觀察執行結果，代理 會重覆執行這個過程，直到該任務完成為止。LangChain 為 代理 提供了標準介面，可供選擇的代理，以及一些端到端的代理的示例
Memory
chain 或 agent 調用之間的狀態持久化。LangChain 為 記憶體 提供了準介面三並提供了↖系烈COn的 記憶體 實現
Evaluation
LangChain 還提供了非常多的評估能力以允許我們可以更方便的對 LLMs 進行評估
3 langchain的優劣
3.1 優點
- 平臺大語言模型調用能力，支持多平臺多模型調用，為用戶提供靈活選擇
- 輕量級SDK(python、javas生一起將LLMs與傳統編程語言集成持
- 多模態支持，提供多模態數據支持，如圖像、音頻等
3.2 缺點
- 學習曲線相對較高
- 文檔相對不完善，官方文檔不是很完善
- 缺乏大型工業化應用實踐
4 langchain開發環境搭建
4.1 為啥用Python？
- 高級的接近人類語言的編程語言，易於學習
- 動態語言
- 直譯式語言，可以跳過編譯逐行執行代碼廣泛應用於web應用、軟體、數據科學和機器學習
- AI方向的主流語言
- 活躍的python社區
- 數據巨大且豐富的庫
4.2 環境要求
Python
= 3.8.1，推薦 3.10.12
https://www.python.org/downloads/
安裝 jupyter
參閱：安裝使用教程
安裝 LangChain
官網：https://python.langchain.com
命令安裝
$ pip install langchain
$ conda install langchain -c conda-forge
也可以使用VS code/PyCharm的jupyter插件啟動。
關註我，緊跟本系列專欄文章，咱們下篇再續！
作者簡介：魔都架構師，多家大廠後端一線研發經驗，在分散式系統設計、數據平臺架構和AI應用開發等領域都有豐富實踐經驗。
各大技術社區頭部專家博主。具有豐富的引領團隊經驗，深厚業務架構和解決方案的積累。
負責：
- 中央/分銷預訂系統性能優化
- 活動&券等營銷中台建設
- 交易平臺及數據中台等架構和開發設計
- 車聯網核心平臺-物聯網連接平臺、大數據平臺架構設計及優化
- LLM應用開發
目前主攻降低軟體複雜性設計、構建高可用系統方向。
參考：
本文由博客一文多發平臺 OpenWrite 發佈！
