0
Kayıt Ol

ChatGPT ve ChatGPT API ile alakalı yaşadığım problem

3

●

138

  • 30-07-2023, 20:35:56
    #1
    FOX
    FOX
    ChatGPT'nin normal Chat kısmına bir prompt yazıyorum, karşılığında yaklaşık 600-700 kelimelik güzel bir çıktı alıyorum. Gayet hoş.
    Aynı prompt'u ChatGPT'nin API'si ile yolladığımda gelen cevap çok kısa ve tatmin etmekten uzak. API'ı premium hesap üzerinden kullanıyorum yani bir kısıtlama yok.
    Chat kısmı ile API farklı dil modellerini mi kullanıyor? Ben API'a istek atarken şu ayarları kullanıyorum:

    $Veri = array(
        'model' => 'text-davinci-003',
        'prompt' => $AranacakBaslik,
        'temperature' => 0.5,
        'max_tokens' => 2500,
        'top_p' =>  1.0,
        'frequency_penalty' => 0.0,
        'presence_penalty' => 0.0
    );
    Token değerini 4096 yapmaya çalışınca hata alıyorum.

    Var mı bu konuda uzman, öneri verebilecek olan?

    Şimdiden teşekkür ediyorum cevaplar için.
  • 30-07-2023, 20:52:40
    #2
    phpc
    phpc
    FOX adlı üyeden alıntı: mesajı görüntüle
    ChatGPT'nin normal Chat kısmına bir prompt yazıyorum, karşılığında yaklaşık 600-700 kelimelik güzel bir çıktı alıyorum. Gayet hoş.
    Aynı prompt'u ChatGPT'nin API'si ile yolladığımda gelen cevap çok kısa ve tatmin etmekten uzak. API'ı premium hesap üzerinden kullanıyorum yani bir kısıtlama yok.
    Chat kısmı ile API farklı dil modellerini mi kullanıyor? Ben API'a istek atarken şu ayarları kullanıyorum:

    $Veri = array(
        'model' => 'text-davinci-003',
        'prompt' => $AranacakBaslik,
        'temperature' => 0.5,
        'max_tokens' => 2500,
        'top_p' =>  1.0,
        'frequency_penalty' => 0.0,
        'presence_penalty' => 0.0
    );
    Token değerini 4096 yapmaya çalışınca hata alıyorum.

    Var mı bu konuda uzman, öneri verebilecek olan?

    Şimdiden teşekkür ediyorum cevaplar için.

    max_tokens değeri şöyle hesaplanır: input+output

    yani prompt ve promptun çıktısı biçiminde hesaplanması lazım. Eğer maksimum izin verilen değer aşılırsa o zaman hata verir. Ayrıca api ile gelen yanıtlar genellikle kelime sayısı kıstasına uymaz. Ek olarak text-davinci-003 gpt3.5'tan 10 kat daha pahalıdır.
  • 30-07-2023, 20:53:02
    #3
    tolgaand
    tolgaand
    text-davinci-003,chatgpt3.5'u kullanir.
  • 30-07-2023, 21:17:38
    #4
    GVertigang
    GVertigang
    Ben API erişimim varken aşağıdaki betiği kullanıyordum. Bir problem yaşamadım.

    import openai
openai.api_key = 'APIKEY'
user_input = input("Prompt: ")
response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": user_input},
    ],
    max_tokens=4096, 
    temperature=0.5,
    top_p=1
)
print(response['choices'][0]['message']['content'])