我使用torch.fx获得了该图。如何分割图并将其放置在不同的GPU上?

问题描述 投票:0回答:1

如何自动分割图。例如Resnet?

我已经得到了 torch.fx 跟踪的 Resnet 图。我如何获取子图并将它们放置在不同的 GPU 中。我应该学什么来解决这个问题。

我是新手,请大家给我一些建议,谢谢。

pytorch distributed
1个回答
0
投票

自动决定切断哪个节点可能具有挑战性。我认为一个实用的方法是根据经验或试错来手动确定分割点。关于图的分割,可以参考这篇博客。尽管演示使用

torch.export
,但
torch.fx
的过程类似。希望这有帮助!

© www.soinside.com 2019 - 2024. All rights reserved.