Embedding (Vektör)

Metni sabit boyutlu vektöre çevirir. RAG, semantik arama, benzerlik karşılaştırması için temel taş.

Mevcut modeller

Model	Boyut	Dil
veriEmbedding (önerilen)	1024	TR + EN + 100+ dil (multilingual)
text-embedding-3-large	3072	OpenAI üzerinden
text-embedding-3-small	1536	OpenAI üzerinden

curl

curl https://app.qevron.ai/v1/embeddings \
  -H "Authorization: Bearer sk-..." \
  -H "Content-Type: application/json" \
  -d '{"model": "veriEmbedding", "input": ["merhaba dünya", "hello world"]}'

Python (openai SDK)

from openai import OpenAI
import numpy as np

client = OpenAI(api_key="sk-...", base_url="https://app.qevron.ai/v1")

resp = client.embeddings.create(
    model="veriEmbedding",
    input=["merhaba dünya", "hello world", "qevron bir AI gateway'idir"],
)
vectors = np.array([item.embedding for item in resp.data])
print(vectors.shape)   # (3, 1024)

Batch çağrı

input bir array verirsen sunucu hepsini tek geçişte hesaplar (en az 10–100 kat daha hızlı):

texts = ["chunk 1", "chunk 2", ..., "chunk 256"]
resp = client.embeddings.create(model="veriEmbedding", input=texts)

Toplu işlem ipucu

İndeks oluştururken 50–100'lük chunk'lar halinde gönder. Tek seferde 1000+ chunk göndermek sunucu memory'sini ve network round-trip'ini optimize eder ama timeout riskini artırır.

Vektörleri karşılaştırma (cosine similarity)

from numpy import dot
from numpy.linalg import norm

def cosine(a, b):
    return dot(a, b) / (norm(a) * norm(b))

similarity = cosine(vectors[0], vectors[1])   # 0.85+ ⇒ çok benzer

RAG akışı (tipik)

1. Dokümanları chunk'la (~500 token)
2. Her chunk'ı embed et → veriEmbedding
3. (chunk_text, vector) çiftlerini bir vektör DB'ye yaz (pgvector, qdrant, ...)
4. Kullanıcı sorgusu geldiğinde → sorguyu embed et → vektör DB'de en benzer K chunk'ı bul
5. (opsiyonel) verirerag ile re-rank yap
6. Bulunan chunk'ları verinova-large'a context olarak ver, cevabı al

Tam uçtan uca: RAG rehberi.

Sorun çözme

• Vektörler hep aynı çıkıyor → input boş ya da çok kısa olabilir. Whitespace temizle, en az 5–10 karakter ver.
• Çok yavaş → tek tek değil array olarak gönder (batch).
• Boyut uyuşmazlığı → vektör DB şeman 1024 olmalı (veriEmbedding için). OpenAI modelinden geçişte boyut farkı (1536/3072) yeniden indeksleme gerektirir.

Devam: Rerank · RAG rehberi