ilkerandClaude Opus 5
e07bc46c57
Plan v0.2'nin Faz 0 çıktısı. Yazılan sıraya göre:
- cobra tabanlı CLI iskeleti; server/agent/ctl komutları henüz stub.
- internal/sim: OpenAI uyumlu sahte inference engine. Router'ı GPU olmadan
gerçekçi koşullarda test edebilmek için gerçek bir engine'in router
açısından önemli davranışlarını modeller:
* continuous batching ve KV blok muhasebesi (head-of-line blocking dahil)
* zincirlenmiş blok hash'leri + LRU ile otomatik prefix cache
* batch büyüdükçe artan token gecikmesi
* istemci koptuğunda isteğin düşürülüp blokların bırakılması
* vLLM metrik adlarıyla /metrics (plan §7.6 engine kontratı)
- Testler: prefix hash zincirlemesi, LRU tahliyesi, iptal propagasyonu,
kuyruklama, SSE formatı, usage/cached_tokens, metriklerin gerçek
Prometheus parser'ıyla okunabilirliği.
- Gitea Actions CI: gofmt, vet, race detector.
Modül yolu gitea.mynodes.xyz/ilker/llmgw; `make rename` ile değiştirilebilir.
Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
33 lines
786 B
Makefile
33 lines
786 B
Makefile
MODULE := gitea.mynodes.xyz/ilker/llmgw
|
|
VERSION ?= $(shell git describe --tags --always --dirty 2>/dev/null || echo dev)
|
|
LDFLAGS := -X '$(MODULE)/internal/version.Version=$(VERSION)'
|
|
|
|
.PHONY: build test race lint fmt clean rename
|
|
|
|
build:
|
|
go build -ldflags "$(LDFLAGS)" -o bin/llmgw ./cmd/llmgw
|
|
|
|
test:
|
|
go test ./...
|
|
|
|
race:
|
|
go test -race ./...
|
|
|
|
lint:
|
|
golangci-lint run
|
|
|
|
fmt:
|
|
go fmt ./...
|
|
go vet ./...
|
|
|
|
clean:
|
|
rm -rf bin dist
|
|
|
|
# Modül yolunu değiştirmek için: make rename NEW=git.ornek.com/ekip/llmgw
|
|
rename:
|
|
@test -n "$(NEW)" || (echo "kullanim: make rename NEW=<yeni/modul/yolu>"; exit 1)
|
|
go mod edit -module=$(NEW)
|
|
grep -rl '$(MODULE)' --include='*.go' . | xargs sed -i '' 's|$(MODULE)|$(NEW)|g'
|
|
sed -i '' 's|^MODULE := .*|MODULE := $(NEW)|' Makefile
|
|
go build ./...
|