我无法使用经过训练的 Node.js 微调模型生成文本

Question

我训练了一个新的微调模型并上传到 openAI。 现在我得到了一个新的微调模型，因此我尝试使用新模型生成文本。 这是一段代码

const response = await openai.chat.completions.create({ model: process.env.FINE_TUNE_MODEL, messages: [ { role: "system", content: prompt, }, { role: "user", content: inputText, }, ], temperature: 0, top_p: 1, frequency_penalty: 0, presence_penalty: 0, });

但是执行该函数时出现404错误。 这是错误消息： 'NotFoundError: 404 这不是聊天模型，因此 v1/chat/completions 端点不支持。你的意思是 使用 v1/完成？ 如何使用模型生成文本？

我尝试使用经过训练的微调模型生成文本

Answer 1

问题

您微调了一种非聊天模型，但想要使用 API 端点，该端点仅与聊天模型兼容。

您需要用于微调模型的 API 端点取决于您微调的模型。

从今天开始，您可以微调以下模型：

• gpt-4o-mini-2024-07-18

  （聊天模型），

• gpt-4o-2024-05-13

  （聊天模型），

• gpt-4-0613

  （聊天模型），

• gpt-3.5-turbo-0125

  （聊天模型），

• gpt-3.5-turbo-1106

  （聊天模型），

• gpt-3.5-turbo-0613

  （聊天模型），

• babbage-002

  （非聊天模式），以及

• davinci-002

  （非聊天模式）。

解决方案

使用以下规则：

• 如果您微调聊天模型，请使用

  /v1/chat/completions

  API 端点。
• 如果您微调非聊天模型，请使用

  /v1/completions

  API 端点。

换句话说：

• 如果您微调聊天模型，请使用

  client.chat.completions.create

  方法。
• 如果您微调非聊天模型，请使用

  client.completions.create

  方法。