眾所周知，我們是訪問不通OpenAI官方服務的，但是我們可以自己通過代理或者使用第三方代理訪問介面 現在新出台的規定禁止使用境外的AI大模型介面對境內客戶使用，所以我們需要使用國內的大模型介面 國內的效果真的很差，現在如果想合規的使用GPT大模型，可以使用微軟Azure的OpenAI服務，畢竟微軟在 ...
眾所周知，我們是訪問不通OpenAI官方服務的，但是我們可以自己通過代理或者使用第三方代理訪問介面
現在新出台的規定禁止使用境外的AI大模型介面對境內客戶使用，所以我們需要使用國內的大模型介面
國內的效果真的很差，現在如果想合規的使用GPT大模型，可以使用微軟Azure的OpenAI服務，畢竟微軟在中國是有公司的，算是合規的境內公司。
負責任的AI
在微軟，我們致力於以人為本的原則推動AI的進步。生成模型（如Azure OpenAI中可用的模型）具有顯著的潛在優勢，但如果沒有仔細的設計和深思熟慮的緩解措施，這樣的模型有可能生成不正確甚至有害的內容。微軟已經進行了大量投資，以幫助防止濫用和意外傷害，其中包括要求申請人展示定義明確的用例，納入微軟負責任的AI使用原則，構建內容過濾器以支持客戶，併為客戶提供負責任的AI實施指導。
微軟在中國是有合規企業的，並且數據內容經過了過濾，我們可以考慮平替OpenAI官網服務
介面規範
我們可以參考下麵這個REST介面的調用參數
在Azure上創建服務成功以後，會得到兩個參數 ENDPOINT 和 API-KEY
聊天補全介面
curl $AZURE_OPENAI_ENDPOINT/openai/deployments/gpt-35-turbo/chat/completions?api-version=2023-05-15 \ -H "Content-Type: application/json" \ -H "api-key: $AZURE_OPENAI_KEY" \ -d '{"messages":[{"role": "system", "content": "You are a helpful assistant."},{"role": "user", "content": "Does Azure OpenAI support customer managed keys?"},{"role": "assistant", "content": "Yes, customer managed keys are supported by Azure OpenAI."},{"role": "user", "content": "Do other Azure Cognitive Services support this too?"}]}'
向量轉換介面
curl https://YOUR_RESOURCE_NAME.openai.azure.com/openai/deployments/YOUR_DEPLOYMENT_NAME/embeddings?api-version=2023-05-15 \ -H "Content-Type: application/json" \ -H "api-key: YOUR_API_KEY" \ -d "{\"input\": \"The food was delicious and the waiter...\"}"
與OpenAI官方的區別
介面地址不一樣，header參數里傳遞key的形式也不一樣。
除了這倆點，還有一個很重要的事情。
註意
大家仔細看看上面介面地址的url部分，標紅的部分
$AZURE_OPENAI_ENDPOINT/openai/deployments/gpt-35-turbo/chat/completions?api-version=2023-05-15
https://YOUR_RESOURCE_NAME.openai.azure.com/openai/deployments/YOUR_DEPLOYMENT_NAME/embeddings?api-version=2023-05-15
我們需要把大模型部署一下，上面標紅的地方，就是部署名稱，所以如果我們想無縫切換OpenAI與微軟Azure OpenAI
我們需要固定好，部署的名稱與模型的名稱保持一致，這樣才能正常調用
我們現在已經相容了OpenAI與微軟Azure OpenAI，並且在探索國內大模型的對接。現在已經開發落地了智能客服系統產品，可對接知識庫的AI客服系統，有興趣的朋友可以訪問網站 gofly.v1kf.com
