我已经从 Huggingface 获得了令牌,并且能够使用 Huggingface-cli 登录。我还获得了下载 7B-hf 模型的批准。当我开始推理运行时,模型下载开始顺利,但现在卡在
Map
并且尚未完成。
我错过了什么?
Loading checkpoint shards: 100%| . . . | 2/2 [00:01<00:00, 1.83it/s]
Data type of the model: torch.float32
Map: 0%| . . .| 0/2662 [00:00<?, ? examples/s]
尝试更新变压器模块:
$pip install --升级变压器