将模型部署到 Azure 机器学习上专用网络中的 Web 服务

Question

当我的 Azure 机器学习工作区配置在专用网络中并与公共网络隔离时，将模型部署到 Web 服务时会发生什么？

我了解到在线（实时）端点和批处理端点继承了工作区的网络配置，但找不到任何微软官方文档。

部署到Web服务也一样吗？

实时端点：https://learn.microsoft.com/en-us/azure/machine-learning/concept-secure-online-endpoint?view=azureml-api-2&tabs=azure-studio 批量端点：https://learn.microsoft.com/en-us/azure/machine-learning/how-to-secure-batch-endpoint?view=azureml-api-2

参考文献

实时端点：https://learn.microsoft.com/en-us/azure/machine-learning/concept-secure-online-endpoint?view=azureml-api-2&tabs=azure-studio 批量端点：https://learn.microsoft.com/en-us/azure/machine-learning/how-to-secure-batch-endpoint?view=azureml-api-2

Answer 1

如果您在部署到 Web 服务时观察到，它提供了 2 个计算类型选项：

1. AksCompute
2. Azure 容器实例

在这里，您需要配置您的专用网络设置。当您尝试创建 AksCompute 时，它会要求提供 Kubernetes 服务，您需要为安全的 Kubernetes 推理环境进行配置。

请参阅 this 文档，其中解释了可以使用 VNet 保护的两个推理选项：

1. Azure 机器学习托管在线端点
2. Azure Kubernetes 服务

您可以参考使用Azure Kubernetes Service，该服务将在Web服务部署中使用。

Answer 2

我也有类似的问题。我认为我们需要通过网络网关允许来自这些服务的流量。