404 Media’nın haberine göre Google, uygulama tanıtım politikasını ihlal ettiği gerekçesiyle bir yüz değiştirme uygulamasını Google Play Store‘dan kaldırdı. Uygulamanın, deepfake pornografiye hitap eden web sitelerinde rıza dışı, yapay zeka güdümlü cinsel videoların oluşturulmasını teşvik ettiği tespit edildi. Google’dan bir temsilci askıya alma işlemini doğruladı ancak uygulamanın adını açıklamadı. Yüz değiştirme uygulamasının, uygulamaların yanıltıcı veya zararlı tanıtım faaliyetlerinde bulunmasını veya bunlardan kazanç elde etmesini yasaklayan Google yönergelerini ihlal ettiği tespit edildi. Bu yönergelere, kullanıcıları Google Play Store’dan uygulamayı indirmeye çekmek için açık cinsel reklamların kullanılması da dahil. Uygulama özellikle bu tür taktikler kullanmaktan suçlu bulunmuş ve bu da ihraç edilmesine yol açmıştır.
2022 yılında 404 Media, Google Play ve Apple uygulama mağazalarında, rızaya dayalı olmayan deepfake porno üretme yeteneklerinin gizlice reklamını yapan birkaç yüz değiştirme uygulaması keşfetti. Bu uygulamalar mağaza sayfalarında veya web sitelerinde yetişkinlere yönelik içerikleri ifşa etmiyordu. Bunun yerine, çeşitli yetişkin içerik sitelerinde “anında yüz değiştirme pornosu” yeteneklerinin reklamını yaptılar ve profesyonelce hazırlanmış videoları gösteri olarak kullandılar. Geçtiğimiz hafta 404 Media, Google’a yüz değiştirme uygulamasının bir deepfake porno web sitesinde rıza dışı videoları tanıtmaya devam ettiğinin kanıtı olarak bir ekran görüntüsü sundu. Reklamlar, yetişkin sanatçı yüzlerinin, kadın ünlülerin yüzleriyle değiştirildiği profesyonelce hazırlanmış porno videolarını yansıtıyordu. Reklam, kullanıcıları “İstediğiniz pornoyu yapın” ifadesiyle cezbediyordu.