Sohbet (LLM)

Metin tabanlı diyalog. OpenAI'nin chat/completions formatını birebir konuşur; messages listesi gönderirsin, model rolüne göre yanıt verir.

Mevcut modeller

Model	Ne için?	Özellik
verinova (önerilen, hızlı)	Telefon, IVR, kısa sohbet	gpt-oss-20b Q8, reasoning kapalı — yanıt anında gelir
verinova-large	Rapor, analiz, dokümantasyon	Qwen3-30B-A3B-Instruct Q8, reasoning açık — adım adım düşünür, daha detaylı
gpt-4o	OpenAI üzerinden	OpenAI anahtarı ekli channel'da
claude-3-5-sonnet	Anthropic üzerinden	Anthropic anahtarı ekli channel'da

Hangisini seçmeliyim?

• Konuşma akıcılığı kritikse (telefon, anlık chat): verinova
• Cevabın kalitesi kritikse (rapor, PRD, çok adımlı analiz): verinova-large

curl

curl https://app.qevron.ai/v1/chat/completions \
  -H "Authorization: Bearer sk-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "verinova",
    "messages": [
      {"role": "system", "content": "Sen kısa ve net yanıt veren bir asistansın."},
      {"role": "user",   "content": "1 + 1 kaç?"}
    ]
  }'

Python (openai SDK)

from openai import OpenAI

client = OpenAI(
    api_key="sk-...",
    base_url="https://app.qevron.ai/v1",
)

resp = client.chat.completions.create(
    model="verinova",
    messages=[
        {"role": "system", "content": "Be concise."},
        {"role": "user",   "content": "Write me a limerick"},
    ],
)
print(resp.choices[0].message.content)

Akış (streaming)

"stream": true ekle; sunucu Server-Sent Events ile parça parça yanıt verir:

for chunk in client.chat.completions.create(
    model="verinova",
    messages=[{"role": "user", "content": "..."}],
    stream=True,
):
    print(chunk.choices[0].delta.content or "", end="", flush=True)

reasoning_effort (verinova-large)

Qwen3 30B varsayılan olarak <think>...</think> blok'larıyla içsel düşüncesini gösterir. Eğer sadece final cevabı istiyorsan:

{
  "model": "verinova-large",
  "messages": [...],
  "chat_template_kwargs": {"reasoning_effort": "none"}
}

Telefon ajanı?

verinova-large'i CalleKit'te kullanma — yanıt süresi çok artar. CalleKit verinova'ya bağlanır ve reasoning zaten kanal düzeyinde kapalı tutulur.

Sorun çözme

• "model not found" → Tablo'daki yazımı bire bir kullan. Büyük-küçük harf önemli.
• "connection refused" → İlgili channel düşmüş olabilir. /capabilities sayfasından bu yeteneğin durumunu kontrol et.
• Yanıt çok yavaş → verinova-large doğası gereği verinova'dan ~3-5× yavaş. Önce streaming aç (stream:true), sonra gerekirse max_tokens: 256-512 ile tavanı düşür.

Devam: RAG: Embedding + Rerank · İlk Sohbet Botu