无法从 Docker 容器应用程序接收 LMStudio 服务器上的请求？

Question

我正在尝试自行托管 Khoj AI，并且我已遵循 文档中的所有步骤。

我在 yml 文件中唯一更改的是：-

- OPENAI_API_BASE=http://localhost:1234/v1/

这就是我的 LMStudio 在主机上运行的地方。当我从主机上拨打电话时，例如：-

curl http://localhost:1234/v1/models/

我收到响应，因此服务器已启动并正在运行。但是，当我尝试从 Khoj AI GUI 前端发送相同的请求时，服务器不会显示任何传入请求。这意味着 Docker 容器应用程序无法访问主机上的服务器。如何使主机上的 LMStudio 服务器可用于我的 Khoj AI docker 终端？

我已经检查过this 和this 但我不明白它们。

Answer 1

根据设计，来宾（容器，在您的情况下 - khoj ai）无法访问其外部的服务器（在主机上，在您的情况下 - lmstudio）。

你有2个选择：

1. 在容器中运行 lmstudio 并适当配置 khoj ai
2. 将 lmstudio 套接字文件挂载到 khoj ai 容器中，并使用该套接字文件与 lmstudio 进行交互。请参阅“从第二个容器连接到它”中的第二个示例