EKS Üzerinde High Throughput Mimariler

Saniyede milyonlarca istek (RPS) alan, düşük gecikme (latency) gerektiren bir reklam teknolojisi (AdTech) veya oyun sunucusu çalıştırıyorsanız, standart EKS ayarları yeterli olmayacaktır. Ağ darboğazlarını aşmak için özel bir mimari gerekir.

1. Network Load Balancer (NLB) Kullanımı

HTTP tabanlı Application Load Balancer (ALB), belirli bir yükten sonra ölçeklenmek için zamana ihtiyaç duyar ("Pre-warming" gerekir). Network Load Balancer (NLB) ise milyonlarca isteği anında karşılayabilir. Trafiği L4 (TCP/UDP) seviyesinde yönetir ve çok daha hızlıdır.

2. Pod Ağ Performansı

• Prefix Delegation: AWS VPC CNI eklentisinde bu özelliği açarak, bir node'a daha fazla IP adresi (ve dolayısıyla daha fazla pod) atayabilirsiniz. Bu, ağ çağrılarındaki API yükünü azaltır.
• SR-IOV ve ENA: Yüksek performanslı EC2 instance tiplerini (örn: c5n, m5n) seçin. Bu sunucular, Elastic Network Adapter (ENA) ile 100 Gbps'ye kadar ağ bant genişliği sunar.

3. Kube-Proxy Yerine eBPF

Standart kube-proxy (iptables modu), çok sayıda servis olduğunda yavaşlayabilir. Cilium gibi eBPF tabanlı CNI eklentileri kullanarak, paketleri çekirdek (kernel) seviyesinde çok daha hızlı yönlendirebilirsiniz.

Bu teknikler, EKS'i bir Formula 1 aracına dönüştürür.