Faz 0: iskelet ve sim-engine
CI / test (push) Has been cancelled

Plan v0.2'nin Faz 0 çıktısı. Yazılan sıraya göre:

- cobra tabanlı CLI iskeleti; server/agent/ctl komutları henüz stub.
- internal/sim: OpenAI uyumlu sahte inference engine. Router'ı GPU olmadan
  gerçekçi koşullarda test edebilmek için gerçek bir engine'in router
  açısından önemli davranışlarını modeller:
    * continuous batching ve KV blok muhasebesi (head-of-line blocking dahil)
    * zincirlenmiş blok hash'leri + LRU ile otomatik prefix cache
    * batch büyüdükçe artan token gecikmesi
    * istemci koptuğunda isteğin düşürülüp blokların bırakılması
    * vLLM metrik adlarıyla /metrics (plan §7.6 engine kontratı)
- Testler: prefix hash zincirlemesi, LRU tahliyesi, iptal propagasyonu,
  kuyruklama, SSE formatı, usage/cached_tokens, metriklerin gerçek
  Prometheus parser'ıyla okunabilirliği.
- Gitea Actions CI: gofmt, vet, race detector.

Modül yolu gitea.mynodes.xyz/ilker/llmgw; `make rename` ile değiştirilebilir.

Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
This commit is contained in:
ilkerandClaude Opus 5 committed 2026-09-16 01:00:03 +02:00
commit e07bc46c57
24 files changed
+3443

No files matched your search

+41
View File
@@ -0,0 +1,41 @@
// Package obs, log ve metrik kurulumunu tek yerden yapar.
package obs
import (
"log/slog"
"os"
"strings"
)
// Options, log kurulumunu belirler.
type Options struct {
Level string // debug, info, warn, error
Format string // text, json
}
// Setup, slog varsayılan logger'ını kurar ve onu döner.
func Setup(o Options) *slog.Logger {
var lvl slog.Level
switch strings.ToLower(o.Level) {
case "debug":
lvl = slog.LevelDebug
case "warn":
lvl = slog.LevelWarn
case "error":
lvl = slog.LevelError
default:
lvl = slog.LevelInfo
}
hopts := &slog.HandlerOptions{Level: lvl}
var h slog.Handler
if strings.EqualFold(o.Format, "text") {
h = slog.NewTextHandler(os.Stderr, hopts)
} else {
h = slog.NewJSONHandler(os.Stderr, hopts)
}
l := slog.New(h)
slog.SetDefault(l)
return l
}