Gözetim Kurulu, Meta’nın cinsel içerikli deepfake’ler için güncellenmiş kurallara ihtiyacı olduğunu söylüyor. Kurul, kamuya mâl olmuş kişilerin yapay zeka tarafından oluşturulmuş görüntülerini içeren iki davada verdiği kararın bir parçası olarak bu tavsiyelerde bulundu. Davalar, kamuya mâl olmuş kişilerin yapay zeka tarafından oluşturulmuş görüntülerine ilişkin iki kullanıcı başvurusundan kaynaklanıyor, ancak kurul, kişilerin isimlerini vermeyi reddetti. Instagram’da paylaşılan bir gönderide çıplak bir Hintli kadın tasvir ediliyordu. Gönderi Meta’ya bildirildi ancak rapor 48 saat sonra otomatik olarak kapatıldı ve ardından bir kullanıcı itirazı yapıldı. Şirket, Gözetim Kurulu’nun dikkatini çektikten sonra gönderiyi kaldırdı, ancak Meta’nın görüntüyü yayında bırakma yönündeki ilk kararını bozdu. Yapay zeka sanatına adanmış bir Facebook grubunda paylaşılan ikinci gönderi, “göğsünü elleyen bir adamla çıplak bir kadının yapay zeka tarafından oluşturulmuş bir görüntüsünü” gösteriyordu. Meta bu gönderiyi otomatik olarak kaldırdı çünkü daha önce şirkete bildirilen görüntüleri tespit edebilen dahili bir sisteme eklenmişti. Gözetim Kurulu, Meta’nın gönderiyi kaldırmakta haklı olduğuna karar verdi. Her iki durumda da Gözetim Kurulu, yapay zeka deepfake’lerinin şirketin aşağılayıcı cinselleştirilmiş photoshop görüntülerini yasaklayan kurallarını ihlal ettiğini söyledi.
Ancak Gözetim Kurulu, Meta’ya yönelik tavsiyelerinde, bu kurallarda kullanılan mevcut dilin güncelliğini yitirdiğini ve kullanıcıların yapay zeka yapımı müstehcen görüntüleri bildirmesini zorlaştırabileceğini söyledi. Bunun yerine kurul, Meta’nın politikalarını güncelleyerek, yapay zeka tarafından üretilen veya manipüle edilen rıza dışı müstehcen görüntüleri yasakladığını açıkça belirtmesi gerektiğini söylüyor. Kurul şöyle yazıyor: “Bugün internette yayılan rıza dışı cinsel içerikli görüntülerin çoğu, mevcut görüntüleri otomatik olarak düzenleyen veya tamamen yeni görüntüler oluşturan üretken yapay zeka modelleriyle oluşturuluyor. Meta, aşağılayıcı cinsellik barındıran içerik yasağının, hem kullanıcılar hem de şirketin moderatörleri için açık olacak şekilde, bu daha geniş düzenleme teknikleri dizisini kapsamasını sağlamalıdır.” Kurul ayrıca Meta’nın kullanıcı itirazlarını otomatik olarak kapatma uygulamasına da dikkat çekerek, bunun kullanıcılar üzerinde insan haklarına önemli etkileri olabileceğini söyledi. Ancak kurul, bu uygulama hakkında bir tavsiyede bulunmak için yeterli bilgiye sahip olmadığını söyledi. Deepfake porno son yıllarda daha yaygın bir çevrimiçi taciz biçimi haline geldiğinden, açık yapay zeka görüntülerinin yayılması giderek daha önemli bir sorun teşkil etmeye başladı. Kurulun kararı, ABD Senatosu’nun açık deepfake’leri engellemeye yönelik bir tasarıyı oybirliğiyle kabul etmesinden bir gün sonra geldi. Tasarı yasalaştığı takdirde, mağdurların bu tür görüntülerin oluşturucularını 250.000 dolara kadar dava edebilmelerine olanak tanıyacak. Bu davalar, Gözetim Kurulu’nun Meta’yı yapay zeka tarafından üretilen içeriklere ilişkin kurallarını güncellemeye zorladığı ilk dava değil. Yüksek profilli bir başka vakada kurul, Başkan Joe Biden’ın kötü niyetle düzenlenmiş bir videosunu soruşturmuştu. Dava, Meta’nın yapay zeka tarafından üretilen içeriğin nasıl etiketleneceğine ilişkin politikalarını yenilemesiyle sonuçlandı.