OpenAI GPT API 预标记化？

Question

我正在尝试制作一个“个人助理”聊天机器人（使用 GPT AI API），当其他人问它问题时，它可以回答有关我自己的问题。为此，我必须向其提供大量有关我自己的信息，我目前正在提示中执行此操作。

示例：

这意味着每次有人问问题时，提示都会包含有关我的所有信息，这意味着每次提出问题时它都会被标记化。有没有办法“预标记”有关我自己的信息或以其他方式存储它？我问这个问题是因为关于我自己的信息是我花费最多的，因为它消耗了很多代币。

Answer 1

有几种方法可以解决这个问题。

1. 您可以使用 Playground 来总结您的信息，但这可能会失去一些意义。这是最简单的方法。

2. 可能最有效的方法是微调您自己已有数据的模型。这样比较费时间。

https://platform.openai.com/docs/guides/fine-tuning

这是来自OpenAI网站：

微调模型。 通过使用您的训练数据微调我们的基础模型来创建您自己的自定义模型。微调模型后，您只需为该模型请求中使用的令牌付费。