Yapay zekada 3 görselden biri çocuk istismarı

Yapay Zeka, Çocuk İstismarında Kullanılıyor

İnternet İzleme Vakfı (IWF), yapay zeka teknolojisinin çocuk cinsel istismarı nitelikli materyal üretiminde kullanımı üzerine bir rapor yayımladı. Yayımlanan rapora göre yapay zeka kullanılarak oluşturulan her üç görselden biri çocuk istismarı içeriyor. Bilinen istismar mağduru çocukların görselleri yapay zekayla canlandırılarak yeni istismar görsellerinde kullanılıyor.

AI ile Gerçekleştirilen Çocuk İstismarı

“Yapay zeka çocuk cinsel istismar raporu” isimli rapor, AI teknolojisinin suçlular tarafından giderek daha fazla kullanıldığına dikkat çekiyor. Raporda özellikle belirtilen detaya göre, AI özellikle görsel içeriklerde çocuk istismarı amacıyla manipüle ediliyor.

Rapora göre AI araçlarını kullanarak yasa dışı çocuk istismarı içeriklerini üretmek konusunda çok daha başarılı hale gelen suçlular, 2023’te özellikle “dark web” de yaklaşık 20 bin AI destekli CSAM görüntüsünü paylaştı. Raporda 2024’te sayıda düşüş yaşanmasına rağmen paylaşılan içeriklerin daha ciddi suç kategorilerine girdiği belirtildi. Hızla gelişen AI teknolojisi sayesinde oluşturulan görüntülerin %90’ının gerçek görüntüler kadar gerçekçi olduğu ve yasa dışı olarak değerlendirilebileceği vurgulandı.

Suçluların Yeni Araçları

2024’te ilk kez AI ile üretilmiş cinsel istismar videolarına rastlandığı, videoların çoğunun gerçek görüntülerin AI ile manipüle edilmesiyle oluşturulan içerikler olduğu ancak tam sentetik videoların da üretilmeye başlandığı ifade edildi.

Raporda, Google Veo ile OpenAI Sora gibi gelişmiş AI video gibi üretim araçların metinden görüntüye ya da metinden videoya içerik üretebilme kapasitesinin suçluların elinde potansiyel bir araç haline geldiği vurgulandı.

Her Beş İçerikten Biri Çocuk İstismarı

Bir IWF analistinin rapor bağlamında yaptığı açıklamaya göre, Nisan 2023 ile Mart 2024 arasında, kamuya açık internet sitelerinde yer alan ve AI ile oluşturulmuş 375 içerik için bildirim yapıldığı tespit edildi. Analiz sonucunda, bu 375 bildirimin 70’inde yer alan içeriklerin CSAM olduğu ve Birleşik Krallık yasaları uyarınca “çocuk istismarı” suçunu meydana getirdiği belirlendi. Bu, AI ile oluşturulmuş her beş içerikten birinin CSAM olduğu anlamına gelirken bu içeriklerin kaldırılmaları için işlem yapıldı.

Çocukların Yaşları ve İstismar

Rapor kapsamında AI ile oluşturulmuş CSAM görsellerindeki çocukların tahmini yaşlarını da analiz eden vakıf, 1 ila 13 yaş aralığındaki çocuklar ile 14-15 yaşlarındaki çocukların kullanıldığı görsel sayısı, Eylül 2023 dönemine kıyasla ortalama %10 artış gösterdiğini bildirdi.

Yapay Zekanın Kötüye Kullanımı

İnternet İzleme Vakfı (IWF) CEO’su, hükümetleri ve teknoloji şirketlerini yapay zekanın kötüye kullanımına karşı acilen harekete geçmeleri konusunda uyardı. CEO, “Gelecekte yapay zekanın kontrolsüz gelişiminin önüne geçilmezse, çocuk istismarı içeriklerinin önüne geçmek imkansız hale gelebilir.” dedi.

Leave a Comment

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Scroll to Top