带有插入的 GPT3 完成 - 无效参数：后缀答案

【问题标题】：GPT3 completion with insertion - invalid argument :suffix带有插入的 GPT3 完成 - 无效参数：后缀
【发布时间】：2022-10-06 19:17:43
【问题描述】：

我正在尝试使用插入完成。

看来我应该使用一个名为suffix: 的参数来告知插入的结尾在哪里。

到端点的有效负载：`POST /v1/completions`

{
  \"model\": \"code-davinci-002\",
  \"prompt\": \"Write a JSON document for a person with first name, last name, email and phone number\\n\\n{\\n\",
  \"suffix\": \"\\n}\",
  \"temperature\": 0,
  \"max_tokens\": 256,
  \"top_p\": 1,
  \"frequency_penalty\": 0,
  \"presence_penalty\": 0
}

我尝试从 GPT3 的 ruby 实现中执行此操作。

parameters
=> {
:model=>\"code-davinci-001\",
 :prompt=>\"generate some JSON for a person with first and last name {\",
 :max_tokens=>250,
 :temperature=>0,
 :top_p=>1,
 :frequency_penalty=>0,
 :presence_penalty=>0,
 :suffix=>\"\\n}\"}

post(url: \"/v1/completions\", parameters: parameters)

我收到 suffix 的无效参数错误

{\"error\"=>{\"message\"=>\"Unrecognized request argument supplied: suffix\", \"type\"=>\"invalid_request_error\", \"param\"=>nil, \"code\"=>nil}}

标签： openai gpt-3

【解决方案1】：

我查看了来自 OpenAI 的有效负载与来自 Ruby 库的有效负载并发现了问题。

我的 ruby 库将模型设置为 code-davinci-001，而 OpenAI 使用的是 code-davinci-002。

一旦我在调试中手动更改了 model: 属性，完成就开始正常工作。

{
  "id"=>"cmpl-5yJ8b01Cw26W6ZIHoRSOb71Dc4QvH",
  "object"=>"text_completion",
  "created"=>1665054929,
  "model"=>"code-davinci-002",
  "choices"=>
  [{"text"=>"\n    \"firstName\": \"John\",\n    \"lastName\": \"Smith\"",
    "index"=>0,
    "logprobs"=>nil,
    "finish_reason"=>"stop"}],
  "usage"=>{"prompt_tokens"=>14, "completion_tokens"=>19, 
 "total_tokens"=>33}
}

【讨论】：

到端点的有效负载：POST /v1/completions

到端点的有效负载：`POST /v1/completions`