llmgw ctl guard judge status lists each judge model the policies ask: in the catalog, as a judge, replicas ready, its last failure to answer, and what is wrong in words. enable serves the missing one through model serve - Llama Guard 3 1B on CPUs, role guard, under the name the policies give it - with --replace for a model of that name that is not a judge; the console has it under Do. GET /api/v1/guard/judges, and the summary's judges, put the problem on ctl status and the console's Overview. A Llama Guard file served from the mirror page is added as a judge, under the name the policies ask, rather than as a model clients use the policies never find. ctl says plainly when the API answers with a page. Co-Authored-By: Claude Opus 5.5 (1M context) <noreply@anthropic.com>
81 lines
5.3 KiB
JSON
81 lines
5.3 KiB
JSON
{
|
||
"serve.refusal": "Bu hâliyle sunulamaz: %s.",
|
||
"serve.serving": "<code>%s</code>, <strong>%s</strong> ile sunulacak.",
|
||
"serve.whole_version": "Sürümün tamamı, %d dosya: düğüm hepsini tek bir dizine indirir ve motora dizin verilir.",
|
||
"serve.name": "Ad",
|
||
"serve.aliases": "Diğer adlar",
|
||
"serve.aliases_hint": "virgülle ayrılmış",
|
||
"serve.aliases_example": "coder-7b",
|
||
"serve.replicas": "Replikalar",
|
||
"serve.runs": "Çalışma",
|
||
"serve.mode.ondemand": "istek üzerine: istendiğinde yüklenir, 15 dk kullanılmazsa durur",
|
||
"serve.description": "Ne için",
|
||
"serve.description_hint": "istemcilere /v1/models içinde gösterilir",
|
||
"serve.description_example": "genel sohbet, İsveççesi güçlü; 14B, 8B'den yavaş",
|
||
"serve.context_length": "Bir isteğin kullanabileceği bağlam",
|
||
"serve.max_output": "Çıktı sınırı",
|
||
"serve.optional": "isteğe bağlı",
|
||
"serve.ctx_pool": "Motorun bağlam havuzu",
|
||
"serve.ctx_pool_hint": "yuvalara bölünür",
|
||
"serve.placement": "Çalışacağı yer",
|
||
"serve.place.gpu": "GPU: %s, %d / %d boşta",
|
||
"serve.place.cpu_slower": "Yalnızca CPU: GPU yok, kat kat yavaş",
|
||
"serve.place.cpu_only": "CPU: bu kümede GPU yok",
|
||
"serve.gpus": "Replika başına GPU",
|
||
"serve.gpus_hint": "tek düğümde",
|
||
"serve.parallel": "Paralel istek",
|
||
"serve.parallel_hint": "replika başına",
|
||
"serve.cpu_ok": "Yine de CPU üzerinde çalıştır: %d GPU boşta ve kullanılmadan kalacak",
|
||
"serve.memory": "Gereken RAM (GB)",
|
||
"serve.memory_hint": "yanındaki bağlam havuzu için",
|
||
"serve.cpu_cores": "CPU çekirdeği",
|
||
"serve.cpu_cores_hint": "ayrılır; motorun iş parçacıkları",
|
||
"serve.selector": "Yalnızca şu etiketli düğümler",
|
||
"serve.selector_hint": "anahtar / değer, isteğe bağlı",
|
||
"serve.selector_key_example": "role",
|
||
"serve.selector_value_example": "cpu-large",
|
||
"serve.add": "Kataloğa ekle",
|
||
|
||
"serve.on_cpu": "%s, CPU üzerinde",
|
||
"serve.on_gpu_one": "%s, 1 adet %s GPU üzerinde",
|
||
"serve.on_gpus": "%s, tek düğümün %d adet %s GPU'su üzerinde",
|
||
"serve.host_memory": "%s GB ana makine belleği",
|
||
"serve.cores.other": "%d çekirdek",
|
||
"serve.pool_parallel": "%s token bağlam havuzu, %s paralel isteğe bölünmüş (her birine %s)",
|
||
"serve.pool": "%s token bağlam havuzu",
|
||
"serve.will_run_as": "Şöyle çalışacak: %s.",
|
||
"serve.free_gpus_warning": "%s GPU boşta; CPU üzerinde bu model kat kat yavaş çalışır.",
|
||
|
||
"serve.pool_note": "Bağlam havuzu motora verilen miktardır; llama.cpp onu paralel yuvalarına böler, bu yüzden tek bir isteğin kullanabileceği sayı yukarıdaki küçük olandır.",
|
||
"serve.memory_note": "Bellek: %s. Bağlam havuzunu değiştirirseniz bu da KV önbelleğinin payı kadar değişir — bir tahmindir ve düzenlenebilir. Boş bırakılmak yerine doldurulur, çünkü bir CPU profilinin yetersiz kalacak bir kartı yoktur: bir değer olmadan hazır her düğüm adaydır ve ilk seçilen, modeli taşıyabilen değil, zamanlayıcının ilk ulaştığı düğüm olur. Sabitlemeyi tercih ederseniz bir düğüm etiketi aynı işi adla görür.",
|
||
"serve.basis.estimate": "ağırlıkların bir buçuk katı artı iki",
|
||
"serve.basis.shape": "ağırlıklar %s GB + %[3]s token için KV önbelleği %[2]s GB (%[4]d katman × %[5]d KV başı) + motor için %[6]s GB",
|
||
|
||
"serve.refuse.no_engine": "burada %s dosyalarını okuyan bir şey yok",
|
||
"serve.refuse.llamacpp": "düğümlerdeki llama.cpp bunu çalıştıramaz: %s",
|
||
"serve.refuse.declared": "%s adında bir model yapılandırmada tanımlı; ikincisini eklemek yerine onu orada düzenleyin",
|
||
"serve.warn.not_installed": "hiçbir düğüm %s kurulu olduğunu bildirmiyor ve %s ağırlıkları ona gerek duyar",
|
||
"serve.warn.no_gpu": "Bu kümede GPU da yok; aynı modelin bir GGUF derlemesi CPU düğümlerinde çalışır",
|
||
"serve.warn.too_big": "en büyük düğümde %d GB var, bu ise yaklaşık %d GB gerektiriyor",
|
||
"serve.warn.and": "%s; ayrıca %s",
|
||
|
||
"serve.err.name_source": "bir model için ad ve kaynak gerekli",
|
||
"serve.err.whole_number": "%s tam sayı olmalı",
|
||
"serve.what.context_length": "bağlam uzunluğu",
|
||
"serve.what.max_output": "çıktı sınırı",
|
||
"serve.what.replicas": "replika sayısı",
|
||
"serve.what.gpus": "replika başına GPU",
|
||
"serve.what.ctx_pool": "motorun bağlam havuzu",
|
||
"serve.what.parallel": "paralel istek sayısı",
|
||
"serve.what.memory": "bellek gereksinimi",
|
||
"serve.what.cores": "çekirdek sayısı",
|
||
"serve.err.engine": "hangi motor çalıştıracak?",
|
||
"serve.err.needs_gpu": "%s GPU üzerinde çalışır; yerleştirmek için bir GPU sınıfı seçin",
|
||
"serve.err.placement": "%q geçerli bir yerleşim değil",
|
||
"serve.err.cpu_with_free_gpus.other": "bu kümede %d GPU boşta, %s ise CPU üzerinde çalışacak biçimde ayarlandı; bir GPU yerleşimi seçin ya da \"yine de CPU üzerinde çalıştır\" kutusunu işaretleyin",
|
||
"serve.msg.added": "%s kataloğa eklendi, %s: %s; bir sonraki geçişte yerleştirilecek",
|
||
"serve.replicas_n.other": "%d replika",
|
||
"serve.msg.judge": "Guardrail'lerin judge modeli olarak eklendi (role: guard): %s adını veren politikalar ona soruyor; istemciler görmüyor.",
|
||
"serve.msg.judge_renamed": "Ağırlıkları bir judge modelinin olduğu için guardrail judge'ı olarak eklendi (role: guard); adı %[1]s yerine politikaların istediği gibi %[2]s."
|
||
}
|