Serkan Özcan

Sesli özet0:00 / –:––
Gönderiler
#Yapay Zekâ · #DigitalOcean · #Bulut Altyapısı

DigitalOcean MicroVMs: yapay zekâ ajanlarının bekleme maliyeti

Yapay zekâ ajanlarının maliyetini konuşurken genellikle modelin token fiyatına bakıyoruz. Oysa kod yazan bir ajan, cevap üretmenin ötesinde paket kuruyor, test çalıştırıyor ve dosya değiştiriyor. Bu işlemlerin gerçekleştiği ortamı nasıl açıp kapattığımız da ürünün ekonomisini belirliyor.

DigitalOcean’ın 9 Ekim’de genel önizlemeye açtığı MicroVMs, bu ikinci katmana odaklanıyor. Firecracker üzerine kurulan hizmet, konteyner imajlarını her biri kendi çekirdeğine sahip sanal makinelerde çalıştırıyor. Bence burada değerli olan, her ajan oturumuna ayrı bir çalışma alanı ayırmayı uygulamanın doğal bir parçasına dönüştürmesi.

Beklemek, ortamı kaybetmek zorunda değil

Bir kodlama ajanının işi kesintisiz ilerlemiyor. Kullanıcı çıktıyı inceliyor, değişiklik istiyor veya başka bir işe geçiyor. Bu aralarda çalışma alanını tamamen silmek yeniden kurulum gerektiriyor; sürekli açık tutmak ise gereksiz maliyet yaratabiliyor.

MicroVMs duraklatıldığında bellek, dosyalar ve süreçlerin durumu korunuyor. Devam edildiğinde oturum kaldığı yerden sürdürülebiliyor; duraklama sırasında işlem yürütülmüyor. Otomatik duraklatma varsayılan olarak beş dakikalık trafik yokluğundan sonra devreye giriyor. Bu yüzden yalnızca işlemcinin boş olmasıyla ortamın duraklamasını aynı şey sanmamak gerekiyor.

DigitalOcean başlangıç ve devam etme sürelerini milisaniyelerle ifade ediyor. Bunu kendi uygulamamda ölçülmüş bir sonuç olarak görmüyorum: kullanıcı açısından önemli olan, isteğin gönderilmesinden kullanılabilir cevaba kadar geçen toplam süre.

Her seferinde aynı hazırlığı yapmak gerekmeyebilir

Checkpoint özelliği, hazırlanmış bir ortamın bellek ve disk durumundan yeni çalışma alanları oluşturmayı sağlıyor. Bağımlılıkların önceden kurulduğu bir başlangıç noktası, tekrar eden hazırlık işlerini azaltabilir.

Benim için bunun asıl karşılığı daha öngörülebilir bir deneyim. Kullanıcının her oturumda aynı kurulum adımlarını beklemesi yerine, geliştirme ekibi hangi hazırlığın ortak kalacağını ve hangi verinin oturuma ait olduğunu açıkça tasarlayabilir.

Tasarruf hesabı yalnızca işlemci fiyatından ibaret değil

11 Ekim 2026 itibarıyla iki vCPU ve dört GiB bellekli bir ortamın çalışma ücreti saatte 0,078 dolar. On beş dakika çalışır durumda kalırsa hesaplama bedeli 0,0195 dolar ediyor. Bu, toplam ajan maliyeti değil.

Duraklatıldığında işlemci ve bellek ücretleri duruyor; depolama ücretleri devam ediyor. Checkpoint depolaması, dışarı veri aktarımı ve kullanılan model API’sinin bedeli de toplam hesaba girmeli. Dolayısıyla tasarrufu yalnızca “kaç dakika işlem yaptık?” sorusuyla ölçmek eksik kalır.

Benim için ilk adım küçük bir pilot

Hizmet henüz genel önizlemede ve üretim iş yükleri için önerilmiyor. Şimdilik yalnızca MKC1 bölgesinde, linux/amd64 imajlarıyla kullanılabiliyor.

Bu koşullarda önce beklemeleri uzun, çalışmaları kısa bir ajan akışını denerdim. Devam etme gecikmesini, dosyaların korunmasını, arka plan işlerinin duraklamadan nasıl etkilendiğini ve gerçek faturayı birlikte ölçerdim.

MicroVMs’in ilgimi çeken tarafı daha fazla sunucu seçeneği sunması değil; ajan oturumunun yaşam döngüsünü altyapının merkezine koyması. Bu yaklaşımın değeri, model kadar çalışma ortamını da iyi yöneten ürünlerde ortaya çıkacak.

Kapak yapay zekâyla üretilmiş temsili bir görseldir; gerçek ürün arayüzünün ekran görüntüsü değildir.

Yükleniyor…