UNICEF, yapay zeka tarafından üretilen çocuk cinsel istismarı içeriklerindeki (CSAM) korkunç artışa karşı küresel bir alarm verdi. Yeni yayınlanan rapor, geçtiğimiz yıl 1,2 milyon çocuğun görüntülerinin manipüle edilerek cinsel içerikli “deepfake” videolara dönüştürüldüğünü ortaya koydu.
NEW YORK / KÖLN – Birleşmiş Milletler Çocuklara Yardım Fonu (UNICEF), yapay zeka (YZ) teknolojilerinin kötüye kullanımıyla üretilen cinsel içerikli görsellerin ulaştığı boyutlara ilişkin sert bir açıklama yayınladı. “Deepfake istismarı, gerçek bir istismardır” başlığıyla sunulan bildiride, dijital dünyada hiçbir çocuğun güvende olmadığı vurgulandı.
Her Sınıfta Bir Çocuk Tehdit Altında
UNICEF, ECPAT International ve INTERPOL iş birliğiyle 11 ülkede yürütülen araştırma, krizin derinliğini gözler önüne serdi. Araştırmaya göre:
- Geçtiğimiz yıl en az 1,2 milyon çocuğun yüzü veya vücudu yapay zeka ile manipüle edildi.
- Bazı ülkelerde her 25 çocuktan biri (ortalama bir okul mevcuduna denk) bu tür bir dijital saldırıya maruz kaldığını beyan etti.
- Çocukların %66’sı, kendi görüntülerinin yapay zekayla cinsel içerikli videolara dönüştürülmesinden derin endişe duyuyor.
“Zararı Sahte Değil, Mağduriyeti Gerçek”
UNICEF açıklamasında, kamuoyundaki “yapay zeka ürünü içeriklerin gerçek bir mağduru olmadığı” yönündeki yanlış algıya set çekti. Yapılan açıklamada, “Bir çocuğun kimliği veya görüntüsü kullanıldığında, o çocuk doğrudan mağdur edilmiştir. Ortada tanımlanabilir bir mağdur olmasa bile, bu görüntüler çocuk istismarını normalleştirmekte ve talebi artırmaktadır” ifadelerine yer verildi.
Hükümetlere ve Teknoloji Devlerine Acil Çağrı
UNICEF, yasal düzenlemelerin teknolojinin hızına yetişemediğini belirterek acil önlem paketi çağrısında bulundu:
- Hukuki Düzenleme: Hükümetler, “çocuk istismarı materyali” tanımını yapay zeka içeriklerini de kapsayacak şekilde genişletmeli; üretimini ve paylaşımını suç kapsamına almalıdır.
- Güvenlik Odaklı Tasarım: Yapay zeka geliştiricileri, sistemlerinin istismar edilmesini engelleyecek “Safety-by-Design” (tasarım yoluyla güvenlik) protokollerini zorunlu kılmalıdır.
- Hızlı Müdahale: Sosyal medya şirketleri, bu içeriklerin yayılmasını sadece raporlamadan sonra değil, daha yükleme aşamasında engelleyecek teknolojilere yatırım yapmalıdır.
“Çocuklar, yasaların kendilerine yetişmesini bekleyemez.” UNICEF’in mesajı net: Deepfake teknolojisiyle bir çocuğun kıyafetlerini dijital olarak çıkaran veya onu istismar ortamında gösteren her türlü araç, bir suç aletidir.
