如何使用streamlit部署大型深度学习模型？

Question

我保存了一个（.h5）模型，大小约为85GB。我正在尝试使用 Streamlit 构建一个网络应用程序。但是，我面临加载模型的问题，因为我无法将其上传到 github。我尝试使用tensorflow lite缩小保存模型的大小，但它仅将大小缩小到80GB左右。有没有办法使用 Streamlit 或其他工具与我保存的模型免费部署我的模型？

代码和问题位于 https://github.com/kenanmorani/COVID-19Deployment

Answer 1

即使使用 Git 大文件存储，您也不能在 Github 上使用超过 5GB 的文件。我认为对您来说最简单的方法是将模型保存在 Gdrive 中并提供 Streamlit 应用程序的 URL。 在 python 中从 gdrive 下载公共文件的一种简单方法是库 gdown。

如果模型应保持私有，您将需要依赖 google Drive api 并使用 Streamlits secrets 来传递凭据。