如何使用 Azure 机器学习 CLI v2 将多个模型部署到端点？

Question

在 az ml cli v2 的 GA 上，我们一直在托管端点之上使用 yml 在线部署 进行一些 POC，对于单一模型来说一切进展顺利，直到出现某些场景需要将多个经过训练和注册的模型部署到一个托管端点，似乎没有关于如何实现这一目标的文档。

以前使用Python SDK，能够将模型列表部署到AKS集群。

检查是否有任何限制或可能是我可能错过的一些文档？

Answer 1

此操作可以使用ACI（Azure容器实例）来执行。根据文档中提到的Blackmistsdgilley。每个容器每次部署的部署限制为 1000 个模型。

部署过程根据所提供的文档中的语法进行显示。

更新：

上面的链接是关于V1的，下面的链接和程序是关于V2的

V2

的链接

Answer 2

您可以通过将所有模型添加到一个目录中来完成此操作，如下所示。

models_path = "<path-to-directory>"

blue_deployment = ManagedOnlineDeployment(
    name="blue",
    endpoint_name=endpoint_name,
    model=Model(name="minimal-multimodel", path=models_path),
    environment=env,
    code_configuration=CodeConfiguration(
        code="src", scoring_script="predict.py"
    ),
)

azureml-exmples 中的示例代码