我可以将 Vertex Prompt 优化器与接地的 Gemini 一起使用吗

Question

我想尝试使用Vertex提示优化器使用Gemini with grounding时优化我的提示。两者可以同时使用吗？

在我看来，答案是没有给出的，这里的顶点提示优化器示例仅使用原始 Gemini 模型，而不是能够使用接地。 IE。这里的教程似乎不允许双子座接地气。 https://cloud.google.com/vertex-ai/generative-ai/docs/learn/prompts/prompt-optimizer#notebook_1

具体来说，本教程中的以下代码仅允许将 Gemini 模型作为字符串包含在内：

params = {
    "project": PROJECT_ID,
    "num_steps": NUM_INST_OPTIMIZATION_STEPS,
    "system_instruction": SYSTEM_INSTRUCTION,
    "prompt_template": PROMPT_TEMPLATE,
    "target_model": TARGET_MODEL,
    "target_model_qps": TARGET_MODEL_QPS,
    "target_model_location": LOCATION,
    "source_model": SOURCE_MODEL,
    "source_model_qps": SOURCE_MODEL_QPS,
    "source_model_location": LOCATION,
    "eval_qps": EVAL_QPS,
    "eval_model_location": LOCATION,
    "optimization_mode": OPTIMIZATION_MODE,
    "num_demo_set_candidates": NUM_DEMO_OPTIMIZATION_STEPS,
    "demo_set_size": NUM_DEMO_PER_PROMPT,
    "aggregation_type": METRIC_AGGREGATION_TYPE,
    "data_limit": 50,
    "num_template_eval_per_step": NUM_TEMPLATES_PER_STEP,
    "input_data_path": input_data_path,
    "output_path": output_path,
    "response_mime_type": RESPONSE_MIME_TYPE,
    "language": TARGET_LANGUAGE,
    "placeholder_to_content": json.loads(PLACEHOLDER_TO_VALUE),
}

Answer 1

使用以下选项之一运行 Vertex AI 提示优化器，在这些情况下我使用 Python：

在尝试此示例之前，请按照“使用客户端库的 Vertex AI 快速入门”中的 Python 设置说明进行操作。有关更多信息，请参阅 Vertex AI Python API 参考文档。 要向 Vertex AI 进行身份验证，请设置应用程序默认凭据。有关更多信息，请参阅

为本地开发环境设置身份验证

。

from google.cloud import aiplatform

# Initialize Vertex AI platform
aiplatform.init(project=PROJECT_ID, location="us-central1")

# TODO(Developer): Check and update lines below
# cloud_bucket = "gs://cloud-samples-data"
# config_path = f"{cloud_bucket}/instructions/sample_configuration.json"
# output_path = "custom_job/output/"

custom_job = aiplatform.CustomJob(
    display_name="Prompt Optimizer example",
    worker_pool_specs=[
        {
            "replica_count": 1,
            "container_spec": {
                "image_uri": "us-docker.pkg.dev/vertex-ai-restricted/builtin-algorithm/apd:preview_v1_0",
                "args": [f"--config={cloud_bucket}/{config_path}"],
            },
            "machine_spec": {
                "machine_type": "n1-standard-4",
            },
        }
    ],
    staging_bucket=cloud_bucket,
    base_output_dir=f"{cloud_bucket}/{output_path}",
)

custom_job.submit()
print(f"Job resource name: {custom_job.resource_name}")
# Example response:
#    'projects/123412341234/locations/us-central1/customJobs/12341234123412341234'

运行 Vertex AI 提示优化器后，针对我使用笔记本的情况，使用以下选项之一查看作业进度：

如果您想通过笔记本查看Vertex AI提示优化器的结果，请执行以下操作：

打开 Vertex AI 提示优化器笔记本。
在检查结果部分中，执行以下操作：

2. a.在 RESULT_PATH 字段中，添加您配置 Vertex AI 提示优化器以将结果写入其中的 Cloud Storage 存储桶的 URI。例如，gs://bucket-name/output-path。

   b.单击

   运行单元。

   

整个过程完成后，您可能会获得您配置了 Vertex AI 提示优化器的 Cloud Storage 存储桶，以写入结果并将其馈送到具有接地的 Gemini 通过这样做，我们将优化的提示存储在存储桶中并运行到接地

谷歌搜索

或到您自己的数据。