Meta’nın Gözetim Kurulu, şirketin ‘Holokost’u inkâr eden bir gönderiyi Instagram’da bırakma kararını bozarken otomatik moderasyonla ilgili endişelerini dile getirdi. Holokost inkârı Meta’nın politikaları kapsamında nefret söylemi olarak kabul ediliyor. Söz konusu gönderide Sünger Bob Squarepants’ten Squidward tasvir ediliyor ve Holokost hakkında gerçek bilgiler içerdiği iddia ediliyordu. Ancak Gözetim Kurulu, iddiaların “ya bariz bir şekilde gerçek dışı olduğunu ya da tarihi gerçekleri yanlış yansıttığını” söyledi. Kullanıcılar bu gönderiyi Eylül 2020’de ilk kez yayınlandıktan sonra altı kez şikayet etti, ancak Meta’nın sistemleri ya içeriğin kuralları ihlal etmediğine karar verdi ya da vakayı otomatik olarak kapattı. Meta, 2020’nin başlarında COVID-19 salgını baş gösterdiğinde, insan denetçilerin iş yükünü azaltmak ve yüksek riskli raporların manuel olarak incelenmesi için bant genişliğini boşaltmak amacıyla içerik incelemelerini otomatik olarak kapatmaya başladı. Yine de, Squidward gönderi raporlarının ikisi de insan denetçiler tarafından ihlal edici bulunmadı. Geçtiğimiz Mayıs ayında bir kullanıcı, Meta’nın rahatsız edici içeriği Instagram’da bırakma kararına karşı itirazda bulundu. Ancak Gözetim Kurulu’na göre bu itiraz da, Meta tarafından COVID-19 otomasyon politikaları nedeniyle otomatik olarak kapatıldı. Bunun üzerine kullanıcı, davayı ele alan kurula başvurdu.
Kurul, Meta’nın platformlarındaki Holokost inkâr içeriklerinin bir değerlendirmesini yaptı ve Squidward dalga geçme içeriklerinin (meme) çeşitli antisemitik anlatıları yaymak için kullanıldığını tespit etti. Kurul, bazı kullanıcıların tespit edilmekten kaçmaya çalıştığını ve kelimelerin alternatif yazılışlarını (harfleri sembollerle değiştirmek gibi) kullanarak, karikatürler ve dalga geçen içerikler kullanarak Holokost inkâr içeriğini yaymaya devam ettiğini belirtiyor. Gözetim Kurulu, Meta’nın COVID-19 otomasyon politikalarını geçtiğimiz Mayıs ayından itibaren, “koşullar makul bir şekilde haklı gösterdikten çok sonra” kullanmaya devam etmesinden endişe duyduğunu söyledi. Ayrıca, “Meta’nın moderasyon sistemlerinin Holokost’u inkâr eden içerikleri platformlarından kaldırmadaki etkinliği ve doğruluğu” konusundaki rahatsızlıklarını da dile getirdi. İnsan denetçilerin rahatsız edici içeriği “Holokost inkârı” olarak ayrıntılı bir şekilde etiketleyemediğini belirtiyor. Bu tür gönderiler nefret söylemi kovasına filtreleniyor. Kurul ayrıca, içerik moderasyonu için yapay zekaya daha fazla ağırlık veren şirketin “nefret söyleminin granüler politika düzeyinde doğru bir şekilde uygulanmasına öncelik verme” becerisi hakkında daha fazla bilgi edinmek istiyor. Kurul, Meta’nın Holokost inkâr içeriğini uygularken ne kadar doğru olduğunu sistematik ve yeterli bir şekilde ölçtüğünden emin olmak için “teknik adımlar atmasını” tavsiye etti. Buna daha ayrıntılı bilgi toplamak da dahil. Kurul ayrıca Meta’dan pandeminin başlangıcı sırasında oluşturduğu tüm COVID-19 otomasyon politikalarını durdurup durdurmadığını kamuya açık bir şekilde teyit etmesini istedi. Meta, açıklama isteyenleri şeffaflık sitesinde kurulun kararına verdiği resmi yanıta yönlendirdi. Şirket, rahatsız edici gönderiyi Instagram’da yanlışlıkla bıraktığını kabul ediyor ve kurulun davayı ele aldığı sırada Meta, içeriği kaldırdığını söyledi. Kurulun dava kararının ardından Meta, “aynı içeriğin paralel bir bağlamla incelenmesini başlatacağını” ifade etti. “İçerik üzerinde de işlem yapmak için teknik ve operasyonel kapasiteye sahip olduğumuzu tespit edersek, bunu derhal yapacağız.” ifadelerini de açıklamasına ekledi. Meta, kurulun diğer tavsiyelerini gözden geçirmeyi ve daha sonra bir güncelleme yayınlamayı planlıyor.