Azure Üzerinde 10 Doların Altına Güvenli ve Öz Barındırmalı Molten AI Ajanı Kurulumu
AI ajanlarını (AI Agents) bulutta çalıştırmak, özellikle yönetilen servislere veya yüksek performanslı GPU sunucularına bağımlı kaldığınızda yüksek maliyetli olabilir. Ancak, otomatik raporlama, veri kazıma veya hafif mantıksal çıkarsama gibi birçok Veri Mühendisliği ve İş Zekası (BI) görevi için her zaman bir GPU'ya ihtiyacınız yoktur. Aslında, Azure üzerinde aylık 10 doların altına sağlam, güvenli ve kendi sunucunuzda barındırılan (self-hosted) bir AI ajanı ortamı kurabilirsiniz.
Bu rehberde, Azure'un "burstable" (ani performans artışı sunabilen) B-serisi sanal makinelerini, konteynerizasyon için Docker'ı ve otomatik SSL güvenliği için Caddy'i kullanarak bir AI ajanını (Molten mimarisi referans alınarak) nasıl dağıtacağımızı adım adım inceleyeceğiz.
Neden Kendi AI Ajanınızı Barındırmalısınız?
Yönetilen AI servisleri kullanışlıdır ancak ölçeklendiğinde pahalı hale gelebilir. Kendi sunucunuzda barındırma (Self-hosting) şunları sunar:
- Maliyet Kontrolü: Jeton (token) başına veya işlem başına değil, sadece altyapı için ödeme yaparsınız.
- Veri Gizliliği: Verileriniz tamamen sizin kontrolünüzdeki altyapıda kalır.
- Özelleştirme: Çalışma ortamı, kütüphaneler ve çalışma zamanı (örn. Python sürümü) üzerinde tam kontrol sağlarsınız.
Mimari
Maliyeti aylık 10 doların altında tutarken güvenliği sağlamak için aşağıdaki teknoloji yığınını kullanacağız:
- İşlem (Compute): Azure Sanal Makineler (Standard_B1s veya B2s). Bu makineler, zamanın çoğunda boşta bekleyen ancak bir görev işlenirken performansa ihtiyaç duyan ajanlar için mükemmeldir.
- Konteynerizasyon: Molten ajanını ve bağımlılıklarını paketlemek için Docker.
- Güvenlik: HTTPS'i (Let's Encrypt) otomatik olarak yönetmek için ters proxy olarak Caddy Web Sunucusu ve trafiği kısıtlamak için Azure Ağ Güvenlik Grubu (NSG).
- Depolama: İşletim sistemi ve loglar için Standart SSD (LRS).
1. Adım: Azure VM Kurulumu
İlk olarak bir kaynak grubu ve sanal makine oluşturmamız gerekiyor. Hafif bir Python tabanlı ajan için yeterli olan 1 vCPU ve 1 GiB RAM sunan Standard_B1s boyutunu seçeceğiz.
# Kaynak Grubu Oluşturma
az group create --name ai-agent-rg --location eastus
# Sanal Makineyi Oluşturma
az vm create \
--resource-group ai-agent-rg \
--name MoltenAgentVM \
--image Ubuntu2204 \
--size Standard_B1s \
--admin-username azureuser \
--generate-ssh-keys \
--public-ip-sku Standard
Not: Bölgenizdeki güncel fiyatlandırmayı kontrol edin. B1s örneği genellikle aylık 8$ civarındadır.
2. Adım: Güvenlik Yapılandırması
Bir ajanı internete açarken güvenlik en önemli unsurdur. Yalnızca gerekli trafiğe izin vermek için Azure NSG kullanacağız.
- SSH (Port 22): Bunu yalnızca kendi IP adresinize kısıtlayın.
- HTTP/HTTPS (Port 80/443): Caddy tarafından güvenliği sağlanan web arayüzü veya API webhook'u için internet erişimine izin verin.
az network nsg rule create \
--resource-group ai-agent-rg \
--nsg-name MoltenAgentVMNSG \
--name Allow-My-IP-SSH \
--priority 100 \
--source-address-prefixes <EV_IP_ADRESINIZ> \
--destination-port-ranges 22 \
--access Allow \
--protocol Tcp
3. Adım: Docker ile Molten Ajanının Dağıtımı
VM'e SSH ile bağlandıktan sonra Docker'ı kurun. Ajanı ve ters proxy'yi yönetmek için Docker Compose kullanacağız.
Bir docker-compose.yml dosyası oluşturun:
version: '3.8'
services:
molten-agent:
image: molten-agent:latest # Kendi ajan imajınızla değiştirin
restart: always
environment:
- API_KEY=${API_KEY}
volumes:
- ./data:/app/data
caddy:
image: caddy:latest
restart: always
ports:
- "80:80"
- "443:443"
volumes:
- ./Caddyfile:/etc/caddy/Caddyfile
- caddy_data:/data
- caddy_config:/config
volumes:
caddy_data:
caddy_config:
Bu kurulum, ajanınızın izole çalışmasını ve Caddy tarafından yönetilen HTTPS sertifikalarıyla otomatik olarak korunmasını sağlar.
4. Adım: Maliyet Analizi
East US bölgesi için tahmini aylık maliyet dökümü şöyledir:
- Sanal Makine (B1s): ~$7.59
- Depolama (32GB Standart SSD): ~$1.54
- Genel IP (Standart): ~$3.00 (İsteğe bağlı: Maliyeti düşürmek için Basic IP kullanabilirsiniz)
- Toplam: ~$12.13 (Basic IP veya Spot instance ile ~$9.13)
Azure Spot instance'larını kullanarak işlem maliyetini %90'a kadar düşürebilir ve iş yükünüz kesintiye toleranslıysa toplam maliyeti 10 doların altına rahatlıkla çekebilirsiniz.
Sonuç
Kendi AI ajanınızı barındırmak için kurumsal bütçelere ihtiyacınız yoktur. Azure B-serisi VM'ler ve Docker gibi modern araçlardan yararlanarak, Veri Mühendisleri ve BI ekipleri, yönetilen hizmetlerin maliyetinin çok altında güvenli ve özel ajanlar dağıtabilir. Bu kurulum, zamanlanmış veri hatlarını çalıştırmak, izleme görevleri veya hafif mantıksal analiz botları için idealdir.