Ünlü bir yapay zeka (AI) görüntü oluşturma platformu olan Leonardo AI’ın adı, ünlülerin rıza dışı müstehcen görüntülerinin üretilmesine karıştı. Bu rahatsız edici ifşaat 404 Media tarafından gün ışığına çıkarıldı ve bu ileri teknolojinin rahatsız edici bir şekilde kötüye kullanıldığının altı çizildi. Aralarında teknoloji devi Samsung’un da bulunduğu yatırımcılardan 31 milyon dolar fon alan platform, yakın zamanda eleştirilere maruz kalan bir başka yapay zeka ile görüntü üreten web sitesi olan Civitai’a benzer bir şekilde faaliyet gösteriyor. Leonardo AI, kullanıcı tarafından oluşturulan bir dizi “Stable Diffusion” metinden görüntüye yapay zeka modelini inceleme olanağı sağlıyor. Bu modeller, belirli türde görüntüler üretmek üzere programlanmıştır. Bazıları belirli bir estetiği veya kompozisyonu taklit etmek için tasarlanırken, diğerleri belirli bir bireyin görünümünü yeniden üretmek için geliştirilmiştir.
İnsanların bu modelleri kullanarak sitede anında görüntü oluşturabilmelerinin kolaylığı, hem platformun çok yönlülüğünü hem de kötüye kullanım potansiyelini vurgulamaktadır. Görüntü üretmek için metin komutları kullanan açık kaynaklı Stable Diffusion sistemi, “Porn Pen” adlı yüksek doğrulukta görüntü üreten bir web sitesi oluşturmak için kötüye kullanıldı. Web sitesi, görüntü üreten sistemlerdeki önyargılar ve bunların ortaya çıktığı verilerin kaynakları gibi bir dizi soruyu gündeme getirdi. Kullanıcılar sadece ünlü isimlerini biraz yanlış yazarak ve resim açıklaması için cinsel açıdan müstehcen terimler belirleyerek resim oluşturma aracını kötüye kullanabilirler. Ancak Leonardo AI’ın hizmet koşulları, kullanıcıların “herhangi bir gerçek kişinin taklidini içeren, bir kişiyi yanıltıcı veya karalayıcı bir şekilde yanlış tasvir eden içerik oluşturamayacağını” belirterek bu içerik türlerini yasaklamaktadır.