LLAMA-2 模型下载失败

问题描述 投票:0回答:1

我已经从 Huggingface 获得了令牌,并且能够使用 Huggingface-cli 登录。我还获得了下载 7B-hf 模型的批准。当我开始推理运行时,模型下载开始顺利,但现在卡在

Map
并且尚未完成。

我错过了什么?

Loading checkpoint shards: 100%| . . . | 2/2 [00:01<00:00,  1.83it/s]
Data type of the model: torch.float32
Map:   0%| . . .| 0/2662 [00:00<?, ? examples/s]
nlp huggingface-transformers meta huggingface llama-cpp-python
1个回答
0
投票

尝试更新变压器模块:

$pip install --升级变压器

最新问题
© www.soinside.com 2019 - 2025. All rights reserved.