我在 CrewAI 中遇到问题,“提供商列表:https://docs.litellm.ai/docs/providers”

问题描述 投票:0回答:1

错误:LiteLLM 调用失败:litellm.BadRequestError:未提供 LLM 提供程序。传入您要致电的 LLM 提供商。您通过了 model=model='models/gemini-1.5-flash' google_api_key=SecretStr('************') 温度=0.5 client= default_metadata=() 将模型传递为 E.g.对于“Huggingface”推理端点,传入完成(model='huggingface/starcoder',..)了解更多信息:https://docs.litellm.ai/docs/providers

我使用的是 Gemini 1.5 flash,所有 api 密钥都是正确的,但它仍然显示,我无法解决它。所有型号配置均正确。

我尝试使用crewAi 构建代理然后运行它们。定义的模型是gemini 1.5 flash,使用的工具是serperDev,它没有执行链,而是显示liteLLm无法找到LLM提供者,并且执行停止

langchain large-language-model agent crewai
1个回答
0
投票

如果遇到此错误,请按照以下两个步骤操作:

  1. 使用 CrewAI
    LLM
    类,该类在后台利用 liteLLM
  2. 确保在配置LLM之前设置LLM提供商。对于 Google AI Studio,请使用
    gemini/<LLM name>
    。如果您不确定如何针对特定 LLM 提供商执行此操作,请参阅 liteLLM 提供商页面 获取指导。
from crewai import Agent, LLM

my_llm = LLM(
    api_key=os.getenv("GEMINI_API_KEY"),
    model="gemini/gemini-pro",
),

my_agent = Agent(
    ...,
    llm=my_llm,
)
© www.soinside.com 2019 - 2024. All rights reserved.