什么是 AWS Bedrock Batch Inference JSON 格式?

问题描述 投票:0回答:1

我正在尝试使用 AWS Bedrock 将输入文本数据转换为嵌入。我需要使用批处理,因为我有大量数据。

我尝试了不同的格式,但每次作业都会失败并出现以下错误。

 'status': 'Failed',
 'message': 'Invalid JSON format encountered in file: abc.jsonl',

我尝试过的格式(abc.jsonl)

{
    "recordId" : "CALL0000001",
    "modelInput": {
        "inputText":"this is where you place your input text"
    }
}

{
    "modelInput": {
        "inputText":"this is where you place your input text"
    }
}

根据该模型的文档,上述任何一种格式都应该有效,但它不起作用。 https://docs.aws.amazon.com/bedrock/latest/userguide/model-parameters-titan-embed-text.html

有人可以检查并分享到底应该是什么格式吗?

amazon-web-services amazon-bedrock
1个回答
0
投票

正如文档所说:

要准备批量推理的输入,请按以下格式创建一个 .jsonl 文件:

{ "recordId" : "11 character alphanumeric string", "modelInput" : {JSON body} }

每行都包含一个 JSON 对象,其中包含 recordId 字段和 modelInput 字段,其中包含要提交的输入的请求正文。 modelInput JSON 对象的格式必须与您在 InvokeModel 请求中使用的模型的正文字段匹配。有关更多信息,请参阅基础模型的推理请求参数和响应字段。

© www.soinside.com 2019 - 2024. All rights reserved.