Yapay zekâ uygulamalarında çocuk güvenliği: Yaş etiketi yetmez

Bir uygulamanın mağazada bulunması veya yaşa uygun görünmesi, bütün özelliklerinin çocuklar için güvenli olduğunu göstermiyor. Yapay zekâyla görüntü düzenleme araçları bu farkı daha görünür hâle getiriyor: masum görünen bir düzenleme ekranı, başka bir kişinin rızası olmadan mahrem görüntüler üretmek için de kullanılabiliyor.

19 Ekim 2026'da açıklanan bir araştırmada, 13 yaşındaki kullanıcıları temsil eden dört test hesabıyla toplam 135 uygulamaya erişilebildiği bildirildi. Hesapların ikisinde ebeveyn denetimleri etkinleştirilmişti. Bu sayı araştırmanın kullandığı geniş sınıflandırmaya dayanıyor; listedeki her uygulamanın aynı yeteneklere sahip olduğu anlamına gelmiyor.

Denetim nerede kopuyor?

Benim için asıl sorun, güvenliğin yalnızca geliştiricinin bildirdiği yaş derecesine bağlanması. Uygulamanın ücretsiz ekranı ile ödeme sonrasında açılan araçları farklıysa, mağaza açıklamasını kontrol etmek yeterli kalmayabilir. Koruma, çocuğun gerçekten kullanabildiği özelliklere kadar uzanmalı.

Apple ve Google, kurallarını ihlal eden uygulamalara karşı işlem yaptıklarını belirtiyor. Apple ayrıca bazı uygulamaların meşru düzenleme araçları olduğunu ve araştırmadaki sınıflandırmayla aynı görüşte olmadığını söylüyor. Bu ayrım önemli: geniş bir uygulama kategorisini tek bir etiketle suçlamak yerine, hangi özelliğin hangi zarara izin verdiğini göstermek gerekiyor.

Ürün geliştirirken çıkaracağım ders

Bir görüntü aracında yalnızca yükleme anını değil, sonradan açılan özellikleri, abonelikle değişen yetenekleri ve reklamlarla yönlendirilen yolları da incelerdim. Şikâyet mekanizmasının kolay bulunması ve bildirilen içeriğe hızlı müdahale edilmesi de tasarımın parçası olmalı.

Ebeveyn denetimleri değerlidir; fakat bütün yükü aileye bırakmak sürdürülebilir görünmüyor. Bana göre güvenilir bir ürün, yaş etiketini başlangıç kabul eder ve bu sözün kullanım sırasında da tutulup tutulmadığını sınar.

Kapak görseli yapay zekâ ile üretilmiş temsili bir sahnedir.