Yapay zeka çocuk pornosu aracına dönüştü: İnsan hakları aktivistlerinden SOS

İngiliz insan hakları örgütü Internet Watch Foundation, yapay zeka tarafından oluşturulan çocuklara yönelik cinsel istismar videolarının sayısının arttığını duyurdu.

IWF uzmanları, pedofililerin, gerçek suç mağdurları da dahil olmak üzere, gerçek çocuklarla içerik oluşturmak için yapay zekayı giderek daha fazla kullandıklarını tespit etti. Bu tür görüntüler yalnızca dark web’de değil, açık web’de de karşımıza çıkıyor.

“AB tarafından üretilen çocuk cinsel istismarı görüntüleri o kadar hızlı gelişiyor ki IWF halihazırda yapay zeka tarafından oluşturulan çocuk cinsel istismarı videolarının ilk gerçek örneklerini görüyor.

IWF raporunda, “Bu inanılmaz derecede gerçekçi, son derece sahte veya kısmen sentetik çocuk istismarı ve işkence videoları, suçlular tarafından gerçek bir kişinin yüzünü veya benzerliğini tahrif eden yapay zeka araçları kullanılarak yaratılıyor.” ifadesine yer verildi.

Yeni raporun sonuçları

IWF ilk raporunu Ekim 2023’te yayınladı. Ardından bir ay içinde uzmanlar, karanlık ağdaki internet forumlarından birinde yapay zeka tarafından oluşturulan 20.000’den fazla görüntüyü keşfetti. Bunlardan 3.000’den fazlası çocuklara yönelik cinsel şiddeti anlattı. IWF uzmanları, o zamandan bu yana sorunun daha da kötüleştiğini söyledi.

Yeni bir rapor, Ekim 2023’ten bu yana aynı karanlık web sitesine yapay zeka tarafından oluşturulan 3.500’den fazla yeni çocuk cinsel istismarı görselinin yüklendiğini gösteriyor.

İnsan hakları aktivistleri, yapay zeka tarafından üretilen çok daha vahşi görüntülerin karanlık ağda paylaşıldığını da belirtti.

Raporda, “Forumda yapay zeka tarafından oluşturulan çocuk cinsel istismarı görselleri arasında, en acımasız A kategorisi şiddete ait daha fazla görsel var, bu da istismarcıların sert senaryolar oluşturmak için daha fazla fırsata sahip olduğunu gösteriyor” dedi.

Yüz değiştirme teknolojileri, küçüklere yönelik cinsel şiddet içeren sahte video içerikleri oluşturmak için aktif olarak kullanılıyor. Pedofililer aynı zamanda gerçek ünlü çocukların ve cinsel suç mağdurlarının fotoğraflarını da kullanıyor.

Ayrıca, yalnızca karanlık ağda değil, kamusal alanda, özellikle de ticari web sitelerinde, yapay zeka tarafından oluşturulan çocuk cinsel istismarı görüntülerinin sayısında da “önemli bir artış” yaşandı.

IWF, yapay zekanın gelişmesinin gelecekte bu tür içeriklerin artmasına yol açabileceği konusunda uyarıyor. Bunun bir nedeni, yapay zeka teknolojilerinin geniş bir kullanıcı kitlesi için daha erişilebilir olmasıdır.

Analistler, “Internet Watch Foundation (IWF), yapay zeka teknolojisinin çocuklara yönelik cinsel istismar materyalleri (CSAM) oluşturmak için kullanılmasından kaynaklanan önemli ve büyüyen bir tehdit tespit etti” sonucuna vardı.

Uzmanların daha önce yapay zekanın, özellikle çocuklara yönelik şiddet sahneleri oluşturma taleplerine nasıl yanıt vereceği konusunda endişe duyduğunu hatırlayın. Stanford İnternet Gözlemevi, yapay zeka tabanlı görüntü oluşturucuların çocuk pornosundan “öğrendiğini” söylüyor.

Kullanıcılar ayrıca ChatGPT’nin metinlere keyfi olarak çocuk cinsel istismarı sahneleri eklediğini de buldu.

Alper