拥抱脸部集成中的导入错误：使用 Llama 索引和变压器时`LocalEntryNotFoundError`

Question

我正在使用

Llama Index

和

transformers

库开发一个人工智能项目，集成 Hugging Face 模型。下面是我的代码片段：

from llama_index.core import Settings
from llama_index.embeddings.huggingface import HuggingFaceInferenceAPIEmbedding
import tiktoken
from llama_index.core.callbacks import CallbackManager, TokenCountingHandler
from llama_index.core.service_context import ServiceContext
from llama_index.core.postprocessor import SentenceTransformerRerank
from llama_index.llms.huggingface import HuggingFaceInferenceAPI

但是，当我运行代码时，出现以下错误：

ImportError：无法从“huggingface_hub.errors”导入名称“LocalEntryNotFoundError”（/usr/local/lib/python3.10/dist-packages/huggingface_hub/errors.py）

在处理上述异常的过程中，出现了这样的情况：

运行时错误：由于以下错误，无法导入 Transformers.trainer：无法从“huggingface_hub.errors”导入名称“LocalEntryNotFoundError”

我尝试过的：

1. 验证了huggingface_hub和transformers的安装版本。
2. 确保设置正确的 API 密钥和模型。
3. 升级依赖项

%pip install --upgrade transformers huggingface_hub llama-index-llms-huggingface llama-index-llms-huggingface-api

Answer 1

这是我解决问题的方法。该错误是由各个库之间的版本不匹配引起的，特别是

llama-index

、

transformers

、

huggingface-hub

和

peft

。

解决方案：

我卸载了冲突版本的库并重新安装了特定的兼容版本，如下所示：

卸载冲突的库：

pip uninstall llama-index-llms-huggingface -y
pip uninstall llama-index-llms-huggingface-api -y
pip uninstall huggingface-hub -y
pip uninstall peft -y

安装兼容版本

pip install llama-index-llms-huggingface-api==0.3.0
pip install llama-index-llms-huggingface==0.4.0
pip install huggingface-hub==0.23.5
pip install peft==0.11.0

要点：

• 通过确保这些库的兼容性解决了该问题。
• 将peft降级到版本0.11.0使其可以与huggingface-hub版本0.23.5一起使用。