如何自动分割图。例如Resnet?
我已经得到了 torch.fx 跟踪的 Resnet 图。我如何获取子图并将它们放置在不同的 GPU 中。我应该学什么来解决这个问题。
我是新手,请大家给我一些建议,谢谢。
自动决定切断哪个节点可能具有挑战性。我认为一个实用的方法是根据经验或试错来手动确定分割点。关于图的分割,可以参考这篇博客。尽管演示使用
torch.export
torch.fx