Azure OpenAI 模型部署指南

时间: 2024-10-09 11:26:36

前提条件

检查公司邮箱是否收到Azure OpenAI Service开通成功的邮件

Azure OpenAI服务申请通过,公司邮箱收到标题开头为“Welcome to the Azure OpenAI Service”的邮件。

创建资源区域建议

GPT-4 Turbo(gpt-4 1106-Preview版本)支持部署的区域 GPT-3.5-Turbo-1106(gpt-35-turbo 1106版本)支持部署的区域
澳大利亚东部(Australia East)
加拿大东部(Canada East)
美国东部 2(East US 2)
法国中部(France Central)
挪威东部(Norway East)
印度南部(South India)
瑞典中部(Sweden Central)
英国南部(UK South)
美国西部(West US)
澳大利亚东部(Australia East)
加拿大东部(Canada East)
法国中部(France Central)
印度南部(South India)
瑞典中部(Sweden Central)
英国南部(UK South)
美国西部(West US)

建议选择瑞典中部(Sweden Central)进行资源部署。具体模型支持的区域以Azure OpenAI官方文档为准:https://learn.microsoft.com/zh-cn/azure/ai-services/openai/concepts/models

创建资源

1、创建Azure OpenAI

登录Microsoft Azure(https://portal.azure.com/),搜索OpenAI,点击“服务”下的“Azure OpenAI”。

在“Azure AI servers | Azure OpenAI”的界面点击中间的“创建Azure OpenAI”。

初次创建Azure OpenAI,可以根据以下建议进行填写,填写完成后点击“下一页”。

# 项目详细信息
(1)“订阅”选择默认即可。
(2)初次创建Azure OpenAI,需要在“项目详细信息”中点击“资源组”中的“创建”来创建资源组,名称可以自己设定。
# 实例详细信息
(1)“区域”可以根据需求自己选择,一般选择Sweden Central/Canada East/East US/East US 2/。
(2)“名称”可以自己设定,最后Endpoint格式是https://<名称>.openai.azure.com。
(3)“定价层”选择默认“Standard S0”即可。

默认选择“所有网络”,点击“下一页”。

根据需要输入名称和值,也可以不填写,直接点击“下一页”。

审阅完成后,点击“创建”。

之后,我们可以看到右上角出现“正在初始化部署”的提示框。

返回“Azure AI services | Azure OpenAI”控制台,我们可以看到刚刚创建的资源的状态为Creating。

等其状态变为Succeeded后,我们便可以获取密钥等信息。

2、获取密钥、终结点信息

点击对应Azure OpenAI资源的“名称”,进入Azure OpenAI资源控制台,点击“单击此处查看终结点”或“单击此处管理密钥”查看终结点和密钥。

在“密钥和终结点”窗口,我们可以看到密钥和终结点信息。

模型部署

导航到需要部署模型的资源中,依次点击“模型部署”-“管理部署”。

或直接访问Azure OpenAI Studio地址:https://oai.azure.com/portal

进入Azure OpenAI Studio,点击“新建部署”。

选择需要部署的模型名称和模型版本,设置部署名(建议和模型名称设置一样),点击“创建”。

如果没有您想要的模型,可以参考Azure OpenAI服务模型说明:https://learn.microsoft.com/zh-cn/azure/ai-services/openai/concepts/models,在新的区域创建资源部署模型。

控制台显示状态“已成功”则表示模型部署成功。

后续如果想要更换模型版本,可以选中部署后进行“编辑部署”操作。

如果需要查看其他区域的模型部署情况,可以点击右上角头像,在点击区域后面的“切换”按钮即可。