如何通过动态检索配置使用 Google 搜索接地

问题描述 投票:0回答:1

我正在尝试使用 Google 搜索通过动态检索配置来奠定 Vertex AI 的基础,但我遇到了 Tool.from_google_search_retrieval 方法的问题。

from vertexai.generative_models import Tool, grounding

tool = Tool.from_google_search_retrieval(grounding.GoogleSearchRetrieval())

responses = model.generate_content(
    prompt,
    tools=tool
    generation_config=self.generation_config
)

这有效。但是,当我尝试设置阈值(例如使用字典解释)时,我遇到了错误。

google-cloud-platform large-language-model google-search google-cloud-vertex-ai google-gemini
1个回答
0
投票
GoogleSearchRetrieval

是一个用于检索公共网络数据以进行基础的工具,由 Google 提供支持。 dynamic\_retrieval\_config 字段用于指定给定源的动态检索配置。

通过字典配置

model = genai.GenerativeModel('models/gemini-1.5-pro-002') response = model.generate_content( contents="Who won Wimbledon this year?", tools={"google_search_retrieval": { "dynamic_retrieval_config": { "mode": "unspecified", "dynamic_threshold": 0.06}}}) print(response)

对于字典实现,您不必传入 
mode

dynamic\_threshold
的键值对。您可以省略它们并让模型使用默认值,如下例所示:
model = genai.GenerativeModel('models/gemini-1.5-pro-002')
response = model.generate_content(contents="Who won Wimbledon this year?",
                                  tools={"google_search_retrieval": {}})
print(response)

mode

dynamic\_threshold
设置可让您控制
动态检索
的行为,让您能够额外控制何时使用 Google 搜索接地。

© www.soinside.com 2019 - 2024. All rights reserved.