CI / test (push) Has been cancelled
Plan v0.2'nin Faz 0 çıktısı. Yazılan sıraya göre:
- cobra tabanlı CLI iskeleti; server/agent/ctl komutları henüz stub.
- internal/sim: OpenAI uyumlu sahte inference engine. Router'ı GPU olmadan
gerçekçi koşullarda test edebilmek için gerçek bir engine'in router
açısından önemli davranışlarını modeller:
* continuous batching ve KV blok muhasebesi (head-of-line blocking dahil)
* zincirlenmiş blok hash'leri + LRU ile otomatik prefix cache
* batch büyüdükçe artan token gecikmesi
* istemci koptuğunda isteğin düşürülüp blokların bırakılması
* vLLM metrik adlarıyla /metrics (plan §7.6 engine kontratı)
- Testler: prefix hash zincirlemesi, LRU tahliyesi, iptal propagasyonu,
kuyruklama, SSE formatı, usage/cached_tokens, metriklerin gerçek
Prometheus parser'ıyla okunabilirliği.
- Gitea Actions CI: gofmt, vet, race detector.
Modül yolu gitea.mynodes.xyz/ilker/llmgw; `make rename` ile değiştirilebilir.
Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
42 lines
809 B
Go
42 lines
809 B
Go
// Package obs, log ve metrik kurulumunu tek yerden yapar.
|
||
package obs
|
||
|
||
import (
|
||
"log/slog"
|
||
"os"
|
||
"strings"
|
||
)
|
||
|
||
// Options, log kurulumunu belirler.
|
||
type Options struct {
|
||
Level string // debug, info, warn, error
|
||
Format string // text, json
|
||
}
|
||
|
||
// Setup, slog varsayılan logger'ını kurar ve onu döner.
|
||
func Setup(o Options) *slog.Logger {
|
||
var lvl slog.Level
|
||
switch strings.ToLower(o.Level) {
|
||
case "debug":
|
||
lvl = slog.LevelDebug
|
||
case "warn":
|
||
lvl = slog.LevelWarn
|
||
case "error":
|
||
lvl = slog.LevelError
|
||
default:
|
||
lvl = slog.LevelInfo
|
||
}
|
||
|
||
hopts := &slog.HandlerOptions{Level: lvl}
|
||
var h slog.Handler
|
||
if strings.EqualFold(o.Format, "text") {
|
||
h = slog.NewTextHandler(os.Stderr, hopts)
|
||
} else {
|
||
h = slog.NewJSONHandler(os.Stderr, hopts)
|
||
}
|
||
|
||
l := slog.New(h)
|
||
slog.SetDefault(l)
|
||
return l
|
||
}
|