Küçük modellerin büyük riski: IoT cihazlarında kendini çoğaltma

Yapay zekâ güvenliğinde en zor başlıklardan biri, bir modelin yalnızca saldırı komutu üretmesi değil, kendisini başka makinelerde çalıştırıp yayabilmesi. Yeni bir güvenlik araştırması bu ihtimali doğrudan bir veri merkezi senaryosuna bağlamak yerine ucuz IoT cihazlarına taşıyor. Sonuç, bugün küresel bir yapay zekâ solucanı var demek değil; küçük modellerin önündeki bazı teknik engellerin hızla küçüldüğünü göstermek.

12 Ekim’de yayımlanan çalışmada, düşük maliyetli Android TV kutularında dağıtık çıkarım kuruluyor. Yaklaşık 55 dolarlık 15 cihaz üzerinde 26 milyar parametreli Gemma4-26B-A4B modelinin saniyede 0,39 token hızında çalıştırıldığı bildiriliyor. Ayrıca dokuz donanım türünün sekizinde dokuz milyar parametreli bir model için çıkarımın kurulabildiği aktarılıyor. Bunlar saldırıların sahada gerçekleştiğini değil, ucuz ve zayıf korunan cihazların anlamlı bir hesaplama havuzuna dönüşebileceğini gösteren kontrollü deneyler.

Araştırma, çoğalma zincirini hedef bulma, çalıştırma yetkisi edinme, çıkarımı kurma ve yeni makineden devam etme olarak ayırıyor. Tam uçtan uca değerlendirmede GLM-5.2’nin, kimlik doğrulaması olmayan ADB bağlantıları içeren basitleştirilmiş bir ortamda sekiz düğümün tamamına dört denemenin üçünde yayıldığı; diğer denemede yedi düğüme ulaştığı belirtiliyor. Bu düzenek siber istismar adımını kolaylaştırdığı için gerçek dünya başarı oranı olarak okunamaz. Araştırmacılar da sonucu bir üst sınır olarak nitelendiriyor.

Daha dikkat çekici tahmin, yetenek ile model boyutunun kesişme zamanı. Çalışma, küçük modellerin tarihsel ilerleme hızını koruması halinde gerekli yetenek düzeyine 2026 sonuna doğru yaklaşabileceğini öne sürüyor. Bu bir öngörü; donanım çeşitliliği, güvenlik yamaları ve model davranışı bu takvimi değiştirebilir. Deneylerde çoğalma yavaş: bazı senaryolarda bir kopyanın tamamlanması bir ila iki gün sürüyor. Yavaşlık tehdidi yok etmiyor, fakat hızlı bir salgın ile kalıcı bir arka plan riski arasındaki farkı belirliyor.

Savunma tarafında ilk adım, yapay zekâya özel sihirli bir ürün değil: varsayılan parolaları kapatmak, ADB ve benzeri yönetim arayüzlerini ağdan ayırmak, cihaz envanterini güncel tutmak ve olağandışı işlem yükünü izlemek. Cihaz içinde çalışan modellerin kullanıcı verisine ve ağdaki diğer cihazlara erişimini de en az ayrıcalık ilkesiyle sınırlamak gerekir. Bu çalışma, “model küçükse zararsızdır” varsayımını sorgulatıyor; aynı zamanda kontrollü deney ile gerçek saldırı arasındaki mesafenin korunmasını zorunlu kılıyor.

Kapak görseli yapay zekâyla üretilmiş temsili bir sahnedir; gerçek ürün veya etkinlik fotoğrafı değildir.