🏗️Enterprise Infrastructure • Kubernetes Native

Served Infrastructure

Enterprise-grade Kubernetes infrastruktur med tenant-scoped caching, real-time CDC events og AI-drevet DevOps monitoring via Atlas.

Se Arkitektur 🤖 Mød Atlas AI

Systemarkitektur

Overblik over Served's Kubernetes-baserede infrastruktur

┌─────────────────────────────────────────────────────────────────────────────────┐
│                            Helledi-Cluster (Kubernetes 1.28.2)                   │
├─────────────────────────────────────────────────────────────────────────────────┤
│                                                                                 │
│  ┌─────────────────────────────────────────────────────────────────────────┐   │
│  │                          served namespace                               │   │
│  │                                                                          │   │
│  │   ┌──────────────┐     ┌──────────────┐     ┌──────────────────────┐    │   │
│  │   │  ServedApi   │     │   Workers    │     │  Tenant Cache        │    │   │
│  │   │  (1 replica) │     │  (2 × 25)    │     │  (In-Memory)         │    │   │
│  │   │              │     │              │     │                      │    │   │
│  │   │  HTTP/REST   │     │  Hangfire    │     │  Projects, Tasks     │    │   │
│  │   │  SignalR     │     │  Background  │     │  Customers, TimeReg  │    │   │
│  │   └──────┬───────┘     └──────┬───────┘     │  Employees           │    │   │
│  │          │                    │             └──────────┬───────────┘    │   │
│  └──────────┼────────────────────┼────────────────────────┼────────────────┘   │
│             │                    │                        │                    │
│  ┌──────────┼────────────────────┼────────────────────────┼────────────────┐   │
│  │          ▼                    ▼                        ▼                │   │
│  │   served-redis           served-kafka                                   │   │
│  │                                                                          │   │
│  │   ┌──────────────┐     ┌──────────────┐     ┌──────────────────────┐    │   │
│  │   │    Redis     │     │    Kafka     │     │     Debezium         │    │   │
│  │   │  StatefulSet │     │   (KRaft)    │◄────│   CDC Connector      │    │   │
│  │   │              │     │              │     │                      │    │   │
│  │   │  DB0: Cache  │     │  Bootstrap:  │     │  MySQL Binlog        │    │   │
│  │   │  DB1: Jobs   │     │  :9092       │     │  → Kafka Topics      │    │   │
│  │   └──────────────┘     └──────────────┘     └──────────────────────┘    │   │
│  └─────────────────────────────────────────────────────────────────────────┘   │
│                                                                                 │
│             ┌─────────────────────────────────────────────────────┐             │
│             │                    Atlas AI                          │             │
│             │                                                     │             │
│             │   Code Analysis • PR Reviews • Pipeline Monitoring  │             │
│             │   Kubernetes Troubleshooting • Error Detection      │             │
│             └─────────────────────────────────────────────────────┘             │
│                                                                                 │
└─────────────────────────────────────────────────────────────────────────────────┘

Infrastruktur Komponenter

Enterprise-grade komponenter designet til skalerbarhed og pålidelighed

☸️

Kubernetes

1.28.2

Container orchestration med auto-healing, rolling updates og horizontal pod autoscaling.

2 nodes, NFS-backed storage

🔴

Redis

7.2

Distribueret cache og Hangfire job storage. Ultra-hurtig in-memory dataadgang.

DB0: Cache, DB1: Hangfire

📨

Apache Kafka

KRaft mode

Event streaming platform til Change Data Capture og real-time data synkronisering.

~56k CDC events/dag

🔄

Debezium

2.4

Change Data Capture fra MySQL. Monitorerer 11 entiteter for real-time opdateringer.

Finance, Projects, TimeTracking

🤖

Atlas AI

v1.0

AI-drevet DevOps assistent til kode-analyse, PR reviews og infrastructure monitoring.

Claude API + GPT-4 Azure

⚡

SignalR

Real-time

WebSocket-baseret real-time kommunikation mellem browser, apps og server.

/notificationHub endpoint

Kubernetes Namespaces

Logisk opdeling af infrastruktur komponenter

☸️served

API (1 replica) Workers (2 replicas × 25)

Hovedapplikation

☸️served-redis

Redis StatefulSet RedisInsight UI

Distribueret cache

☸️served-kafka

Kafka Broker Debezium Connect Kafka UI

Event streaming

Tenant-Scoped Caching

Ultra-hurtig in-memory dataadgang med fuldstændig tenant isolation

                           CDC Update Flow

   ┌──────────────┐     ┌──────────────┐     ┌──────────────────────────┐
   │              │     │              │     │                          │
   │    MySQL     │────▶│   Debezium   │────▶│    Kafka Topic           │
   │   Binlog     │     │   Connector  │     │  served.served_db.*      │
   │              │     │              │     │                          │
   └──────────────┘     └──────────────┘     └────────────┬─────────────┘
                                                          │
                                                          ▼
   ┌─────────────────────────────────────────────────────────────────────┐
   │                        Tenant Pod                                   │
   │                                                                     │
   │   ┌─────────────────────────────────────────────────────────────┐   │
   │   │                   TenantCacheService                        │   │
   │   │                                                             │   │
   │   │   ConcurrentDictionary<int, CachedProject>   _projects      │   │
   │   │   ConcurrentDictionary<int, CachedTask>      _tasks         │   │
   │   │   ConcurrentDictionary<int, CachedCustomer>  _customers     │   │
   │   │   ConcurrentDictionary<int, CachedTimeReg>   _timeRegs      │   │
   │   │   ConcurrentDictionary<int, CachedEmployee>  _employees     │   │
   │   │                                                             │   │
   │   │   Indexes:                                                  │   │
   │   │   _tasksByProject      → HashSet<int>                       │   │
   │   │   _timeRegsByProject   → HashSet<int>                       │   │
   │   │   _timeRegsByUser      → HashSet<int>                       │   │
   │   └─────────────────────────────────────────────────────────────┘   │
   │                                                                     │
   └─────────────────────────────────────────────────────────────────────┘

🚀

In-Memory Performance

ConcurrentDictionary-baseret cache med O(1) lookups via indexering.

🔐

Tenant Isolation

Hver tenant pod har sin egen isolerede cache - ingen data-leakage på tværs af tenants.

📊

Smart Indexering

Tasks by project, time registrations by user/project - optimeret til hyppige queries.

🔄

CDC-Drevet Updates

Debezium pusher ændringer via Kafka. Cachen opdateres automatisk i real-time.

🌡️

Warmup on Startup

Async cache warmup loader alle tenant data ved pod opstart.

📈

Memory Tracking

Built-in statistik for memory usage, entity counts og last update timestamps.

Cached Entiteter

Data der holdes i memory for hurtig adgang

Entitet	Estimeret Size	Indexeret By
Projects	~200 bytes	By ID, Customer
Tasks	~150 bytes	By ID, Project
Customers	~150 bytes	By ID
Time Registrations	~100 bytes	By Project, User (30 dage)
Employees	~80 bytes	By ID, User

🤖AI-Powered DevOps

Atlas - DevOps AI Assistant

"Hold overblik over din codebase" - Atlas monitorerer og analyserer hele din infrastruktur

DevOps Integration

✓ GitHub/GitLab/Azure DevOps
✓ PR Management
✓ Pipeline Monitoring
✓ Branch Analysis

Code Intelligence

✓ Codebase Exploration
✓ Pattern Detection
✓ Dependency Analysis
✓ Security Scanning

Documentation

✓ Auto-generering
✓ README Maintenance
✓ API Docs
✓ Architecture Diagrams

Kubernetes

✓ Cluster Monitoring
✓ Pod Health Checks
✓ Resource Analysis
✓ Troubleshooting

                            Atlas Architecture

   ┌─────────────────────────────────────────────────────────────────────┐
   │                        Atlas Interface                              │
   │                                                                     │
   │    CLI        VS Code       Web UI       Slack        MCP Server    │
   └─────────────────────────────────┬───────────────────────────────────┘
                                     │
                                     ▼
   ┌─────────────────────────────────────────────────────────────────────┐
   │                       Atlas Core Engine                             │
   │                                                                     │
   │    Code Analysis    Context Management    Tool Orchestration        │
   └─────────────────────────────────┬───────────────────────────────────┘
                                     │
                    ┌────────────────┼────────────────┐
                    │                │                │
                    ▼                ▼                ▼
   ┌──────────────────┐  ┌──────────────────┐  ┌──────────────────┐
   │   AI Providers   │  │   Integrations   │  │   Code Intel     │
   │                  │  │                  │  │                  │
   │  Claude API      │  │  GitHub/GitLab   │  │  Language AST    │
   │  GPT-4 Azure     │  │  Azure DevOps    │  │  Security Scan   │
   │  Ollama Local    │  │  Kubernetes      │  │  Test Generator  │
   └──────────────────┘  └──────────────────┘  └──────────────────┘

Resource Allocation

Kubernetes resource requests og limits

Pod Resources

Component	CPU	Memory
ServedApi	100m-1000m	256Mi-2Gi
Workers	100m-500m	256Mi-1Gi
Redis	100m-500m	128Mi-512Mi
Kafka	250m-1000m	512Mi-2Gi
Debezium	100m-500m	256Mi-1Gi

Health Checks

Startup Probe18 retries, 10s interval

Initial warmup time

Readiness Probe3 retries, 10s interval

Traffic routing

Liveness Probe3 retries, 30s interval

Auto-restart on failure

Cluster Overview

Nodes

~8-15Gi

Total Memory

~4-8

CPU Cores

~56k

CDC Events/Day

Enterprise-Klar Infrastruktur

Served's infrastruktur er designet til skalerbarhed, pålidelighed og sikkerhed. Kontakt os for at lære mere om vores enterprise løsninger.

Kom i gang gratis Udforsk AI Assistenter