为数据块端点启用推理

Question

我试图简单地为现有端点启用推理表，但不确定它是否显示 - 一个或多个服务实体上发生错误。

我正在关注这个https://learn.microsoft.com/en-us/azure/databricks/machine-learning/model-serving/enable-model-serving-inference-tables

我需要输出它不应该显示此错误，因为一切都已启用

Answer 1

此错误是由于服务实体部署失败而发生的。 您所服务的实体之一或两者在部署时失败。

以下是您需要检查的一些事项。

• 检查模型是否在 Databricks 模型注册表中正确注册
• 如果模型的特定版本存在问题，则会出现该错误。确保模型已正确记录，并且版本之间不存在不匹配或不一致。
• 验证模型依赖项是否在服务环境中正确安装和指定。有时，由于缺少库或不兼容的软件包版本可能会出现问题。
• 确保您拥有正确的权限来启用推理表并为模型提供服务。

查看此文档，了解单端点中的多模型服务。

您无法在单个端点中提供不同的模型类型。例如，您不能在同一端点中提供自定义模型和外部模型。

这里，您需要满足一些条件和要求才能服务多型号，请仔细阅读。