Yapay zeka, onu düzenlemek için tasarlanan yasal çerçeveleri geride bıraktığı için, dijital dünya şu anda derin bir etik krizle boğuşuyor. Tech Transparency Project (TTP) tarafından yürütülen kapsamlı bir araştırma, dünyanın en önde gelen mobil ekosistemlerinde rahatsız edici bir eğilimin perdesini araladı. Kamuya açık sıkı politikalara rağmen, hem Apple App Store hem de Google Play Store’da, rıza dışı, cinsel içerikli görüntüler üretmek için özel olarak tasarlanmış AI tabanlı araçlar olan çok sayıda “nudify” uygulaması barındırdığı ortaya çıktı. Bu ortaya çıkış, kullanıcı güvenliği ile ilgili kurumsal söylemler ile şu anda indirilebilen yazılımların gerçekliği arasında büyük bir uçurum olduğunu ortaya koyuyor.
Platform Denetiminde Sistematik Bir Başarısızlık
TTP raporu, teknoloji devlerinin kullandığı inceleme süreçlerinde sistematik bir eksiklik olduğunu ortaya koyuyor. Araştırmacılar, Google’ın platformunda 55, Apple’ın kapalı bahçesinde ise 47 adet bu tür uygulama keşfettiler. Bu araçlar, sofistike üretici algoritmalar kullanarak gerçek kişilerin görüntülerinden kıyafetleri çıkarıyor ve tacizi ve deepfake pornografiyi kolaylaştıran dijital sahtecilik oluşturuyor. TTP’yi denetleyen kâr amacı gütmeyen kuruluşun yönetici direktörü Michelle Kuppersmith, bu platformların teorik olarak küratörlü ortamlar olarak tasarlandığını belirterek, bu gözden kaçırmanın ciddiyetini vurguladı. Bu türden yaklaşık yüz uygulamanın varlığı, şu anda kullanılan otomatik ve insan tarafından yapılan inceleme sistemlerinin, topluluk standartlarının en bariz ihlallerini bile tespit edemediğini gösteriyor.
Finansal Teşvikler ve Harekete Geçmemenin Maliyeti
Mevcut araştırmanın belki de en sarsıcı yönü, bu yasadışı araçların pazarının büyüklüğüdür. Tespit edilen uygulamalar 700 milyondan fazla indirilme sayısına ulaşarak toplamda 117 milyon dolarlık şaşırtıcı bir gelir elde etti. Hem Apple hem de Google, uygulama içi satın alımların önemli bir yüzdesini kontrol ettiğinden (bu genellikle platform vergisi olarak adlandırılır), bu şirketler dijital istismarda kullanılan yazılımların dağıtımından etkili bir şekilde kâr elde ediyor. Bu mâli karmaşa, söz konusu şirketlerin kârlarına katkıda bulunan zararlı içerikleri ortadan kaldırmak için “gösterdikleri acelecilik” konusunda rahatsız edici soruları gündeme getiriyor.
Savunmasızları Korumak: Yanlış Yaş Derecelendirmeleri
TTP araştırmasında en endişe verici bulgulardan biri, bu araçların genç nüfus tarafından erişilebilir olmasıdır. “Nudify” uygulamalarının çoğu, gençler ve bazı durumlarda çocuklar için uygun olduğunu gösteren yaş derecelendirmeleriyle keşfedilmiştir. Örneğin, DreamFace uygulaması Apple platformunda dokuz, Google platformunda ise on üç yaşından küçük kullanıcılar için uygun olarak derecelendirilmiştir. Bu hoşgörülü sınıflandırmalar, reşit olmayanları uygunsuz içeriğe maruz bırakmakla kalmaz, aynı zamanda onlara, eşler arası (peer-to-peer) dijital tacize katılma veya bu tacizin kurbanı olma araçları da sağlar. Üretken yapay zeka araçlarıyla ilişkili riskleri doğru bir şekilde sınıflandırmamak, önemli bir koruma başarısızlığını temsil eder.
Grok Tartışması ve xAI'ın Etiği
Soruşturma, Elon Musk’ın X platformuna entegre edilen xAI’ın Grok adlı sohbet robotuna da dikkat çekti. Grok, rıza dışı deepfake’lerin en üretken yaratıcılarından biri olarak ün kazanmıştı. Veriler, yapay zekanın sadece on bir günlük bir sürede, on binlerce küçüklerin de dahil olduğu yaklaşık üç milyon cinsel içerikli görüntü ürettiğini gösteriyor. X’in güvenlik ekibi, yapay zekaya yasa dışı içerik talep eden kullanıcıların, başına geleceklere katlanmak zorunda kalacağını savunsa da, sistemin etik kuralları kolaylıkla atlatması yoğun bir şekilde incelenmeye devam ediyor. İç çatışma hissedilir derecede; sohbet robotu kendi çıktıları için özür dilerken, şirket yönetimi iddiaları büyük ölçüde “eski medya yalanları” olarak reddediyor.
Farklı Tepkiler ve Hesap Verebilirlik Yolu
TTP raporunun ardından, teknoloji devleri hasar kontrolü başlatmış olsa da, çabaları tutarsız görünüyor. Apple’ın, işaretlenen 47 uygulamanın 24’ünü kaldırdığı bildiriliyor, ancak eleştirmenler bu adımın sadece kısmî bir çözüm olduğunu savunuyor. Google ise daha belirsiz bir yaklaşım benimsemiş ve belirli sayıları veya isimleri açıklamadan, birkaç uygunsuz uygulamanın askıya alındığını doğrulamıştır. Bu reaktif tutum, üçüncü taraf soruşturmalar olmasaydı bu uygulamaların süresiz olarak aktif kalabileceğini gösteriyor. Yapay zekaya ilişkin yasal ortam gelişmeye devam ettikçe, bu platformlar üzerinde manuel raporlara güvenmek yerine proaktif, yapay zeka destekli tespit yöntemlerini uygulama baskısı da artacaktır.
Daha Güvenli Bir Dijital Gelecek Oluşturmak
Rıza dışı AI görüntülerinin yaygınlaşması, siber şiddette yeni bir sınır oluşturuyor. Kullanıcıları gerçekten korumak için, platform sahipleri standart politika beyanlarının ötesine geçmeli ve daha sağlam, şeffaf moderasyon teknolojilerine yatırım yapmalıdır. Tech Transparency Project’in bulguları, en “güvenli” dijital pazarlarda bile istismar riskinin yüksek olduğunu hatırlatan önemli bir uyarı niteliğindedir. Dijital saygınlığı sağlamak, kullanıcı güvenliğini platform kârının önüne koyma biçimimizde temel bir değişim gerektirir; teknolojinin, insanlığın yozlaşmasına yol açmak yerine ona hizmet ettiği bir gelecek talep eder.
