Moderations

Bir metnin zararlı/uygunsuz içerik barındırıp barındırmadığını sınıflandırır. Kullanıcı girdilerini filtrelemek için kullanışlıdır.

POST/v1/moderations

İstek parametreleri

Alan	Tip	Zorunlu	Açıklama
model	string	✓	Moderasyon modeli
input	string | dizi	✓	Sınıflandırılacak metin

Örnek

curl

curl https://app.qevron.ai/v1/moderations \
  -H "Authorization: Bearer $QEVRON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "text-moderation-latest",
    "input": "Sınıflandırılacak metin burada."
  }'

Python

resp = client.moderations.create(
    model="text-moderation-latest",
    input="Sınıflandırılacak metin burada.",
)
print(resp.results[0].flagged)

Yanıt

Yanıt, sağlayıcıya göre değişebilir; OpenAI uyumlu biçimde tipik olarak şu yapıdadır:

{
  "id": "modr-...",
  "model": "text-moderation-latest",
  "results": [
    {
      "flagged": false,
      "categories": { "hate": false, "violence": false, "...": false },
      "category_scores": { "hate": 0.0001, "violence": 0.0002 }
    }
  ]
}

Alan	Açıklama
results[].flagged	İçerik işaretlendi mi (true/false)
results[].categories	Kategori bazında ihlal var/yok
results[].category_scores	Kategori bazında skorlar

WARNING

Moderasyon yanıt alanları kullanılan sağlayıcı modeline bağlıdır. Kendi modelinizin tam çıktısını test ederek doğrulayın.