Fotoğraflarda Kadınları Soymak İçin Yapay Zeka kullanan Uygulama ve Web Sitelerinin Popülaritesi Hızla Artıyor
Fotoğraflarda Kadınları Soymak İçin Yapay Zeka kullanan Uygulama ve Web Sitelerinin Popülaritesi Hızla Artıyor
Araştırmacılara göre, fotoğraflarda kadınları soymak için yapay zeka kullanan uygulama ve web sitelerinin popülaritesi hızla artıyor.
Sosyal ağ analiz şirketi Graphika‘nın bulgularına göre yalnızca Eylül ayında 24 milyon kişi soyunma web sitelerini ziyaret etti.
Graphika’ya göre bu soyunma veya “çıplaklaştırma” hizmetlerinin çoğu, pazarlama için popüler sosyal ağları kullanıyor. Araştırmacılar, örneğin bu yılın başından bu yana, soyunma uygulamalarının reklamını yapan bağlantıların sayısının, X ve Reddit de dahil olmak üzere sosyal medyada %2.400’den fazla arttığını söyledi. Hizmetler, kişinin çıplak olmasını sağlayacak şekilde bir görüntüyü yeniden oluşturmak için yapay zekayı kullanıyor. Hizmetlerin çoğu yalnızca kadınlara yöneliktir.
Bu uygulamalar, derin sahte pornografi olarak bilinen bir tür uydurma medya olan yapay zekadaki ilerlemeler nedeniyle geliştirilen ve dağıtılan endişe verici rıza dışı pornografi eğiliminin bir parçası. Görüntülerin sıklıkla sosyal medyadan alınması ve kişinin izni, kontrolü veya bilgisi olmadan dağıtılması nedeniyle, bu görüntülerin yayılması ciddi yasal ve etik engellerle karşılaşmaktadır.
Graphika, popülaritedeki artışın birkaç açık kaynaklı yayılma modelinin veya birkaç yıl önce oluşturulanlardan çok daha üstün görüntüler yaratabilen yapay zekanın piyasaya sürülmesiyle bağlantılı olduğunu söyledi. Açık kaynak kodlu oldukları için uygulama geliştiricilerin kullandığı modeller ücretsiz olarak sunulmaktadır.
Graphika analistlerinden Santiago Lakatos, “Gerçekten gerçekçi görünen bir şey yaratabilirsiniz” dedi ve önceki deepfake’lerin genellikle bulanık olduğuna dikkat çekti.
X’te yayınlanan ve bir soyunma uygulamasının reklamını yapan bir görselde, müşterilerin çıplak görseller oluşturup daha sonra bu görselleri dijital olarak soyunmuş kişiye gönderebileceklerini ve tacizi teşvik edeceklerini öne süren bir dil kullanıldı. Bu arada uygulamalardan biri, Google’ın YouTube’unda sponsorlu içerik için ödeme yaptı ve “çıplaklaştırma” kelimesiyle arama yapıldığında ilk sırada çıkıyor.
Bir Google sözcüsü, şirketin “cinsel içerik barındıran” reklamlara izin vermediğini söyledi.
Şirket, “Söz konusu reklamları inceledik ve politikalarımızı ihlal edenleri kaldırıyoruz” dedi.
Bir Reddit sözcüsü, sitenin sahte müstehcen materyallerin rıza dışı paylaşımını yasakladığını ve araştırma sonucunda birçok alanı yasakladığını söyledi. X yorum talebine yanıt vermedi.
Trafikteki artışın yanı sıra, bazıları ayda 9,99 dolar ücret alan hizmetler, web sitelerinde çok sayıda müşteri çektiklerini iddia ediyor
Lakatos, “Çok fazla iş yapıyorlar” dedi. Soyunma uygulamalarından birini anlatırken şunları söyledi: “Onların sözlerine güvenirseniz, web siteleri günde binden fazla kullanıcıya sahip olduğunun reklamını yapıyor.”
Kamuya mal olmuş kişilerin rızası olmadan pornografisi uzun zamandır internetin başına bela olmuştur, ancak gizlilik uzmanları yapay zeka teknolojisindeki ilerlemelerin deepfake yazılımlarını daha kolay ve daha etkili hale getirdiğinden giderek daha fazla endişe duyuyor.
Electronic Frontier Foundation’ın siber güvenlik direktörü Eva Galperin, “Bunların giderek daha fazlasının sıradan hedeflere sahip sıradan insanlar tarafından yapıldığını görüyoruz” dedi. “Lise çocukları ve üniversiteye giden insanlar arasında bunu görüyorsunuz.”
Galperin, birçok mağdurun görüntülerden hiçbir zaman haberi olmadığını, ancak öğrenenlerin bile kolluk kuvvetlerinin soruşturma yapmasını sağlamakta veya yasal işlem başlatmak için fon bulmakta zorlanabileceğini söyledi.
Şu anda deepfake pornografi oluşturulmasını yasaklayan bir federal yasa bulunmamakla birlikte, ABD hükümeti küçüklerin bu tür görüntülerinin oluşturulmasını yasaklıyor. Kasım ayında, Kuzey Carolina’lı bir çocuk psikiyatristi, hastalarının fotoğraflarında soyunma uygulamaları kullandığı için 40 yıl hapis cezasına çarptırıldı; bu, derin sahte çocuk cinsel istismarı materyallerini yasaklayan, yasaya göre türünün ilk kovuşturmasıydı.
Uygulamaya göre TikTok, hizmetlerle ilişkili popüler bir arama terimi olan “soyunmak” anahtar kelimesini engelleyerek bu kelimeyi arayan herkesi “kurallarımızı ihlal eden davranış veya içerikle ilişkili olabileceği” konusunda uyardı. Bir TikTok temsilcisi ayrıntı vermeyi reddetti. Sorulara yanıt olarak Meta Platforms Inc., soyunma uygulamalarının aranmasıyla ilgili anahtar kelimeleri de engellemeye başladı. Bir sözcü yorum yapmaktan kaçındı.
(10. paragrafta Reddit yorumuyla güncellemeler. Bu hikayenin önceki bir versiyonunda hatalı bir şekilde uygulamaların ücretsiz olduğu belirtildi.)
Kaynak: bloomberg