İçerik denetimi onlarca yıldır internetin en çetrefilli konularından biri olmuştur. Belirli bir platformda hangi içeriğe izin verilmesi gerektiğini belirlemenin öznelliği göz önünde bulundurulduğunda, herkes için üstesinden gelinmesi zor bir konudur. ChatGPT üreticisi OpenAI, yardımcı olabileceğini düşünüyor ve GPT-4’ün içerik denetleme becerilerini test ediyor. Ölçeklenebilir, tutarlı ve özelleştirilebilir bir içerik denetleme sistemi oluşturmak için büyük ‘multimodal’ modeli kullanıyor. Şirket bir blog yazısında GPT-4’ün yalnızca içerik moderasyon kararları vermeye yardımcı olmakla kalmayıp, aynı zamanda politikalar geliştirmeye ve politika değişikliklerini hızla yinelemeye yardımcı olarak döngüyü aylardan saatlere indirdiğini yazdı. Modelin içerik politikalarındaki çeşitli düzenlemeleri ve nüansları ayrıştırabileceğini, herhangi bir güncellemeye anında uyum sağlayabileceğini iddia ediyor. OpenAI’ın iddiasına göre bu, içeriğin daha tutarlı bir şekilde etiketlenmesini sağlıyor. OpenAI’dan Lilian Weng, Vik Goel ve Andrea Vallone, “Bunun, yapay zekanın platforma özgü politikaya göre çevrimiçi trafiği denetlemeye yardımcı olabileceği ve çok sayıda insan moderatörün zihinsel yükünü hafifletebileceği dijital platformların geleceğine dair daha olumlu bir vizyon sunduğuna inanıyoruz” diye yazdı. “OpenAI API erişimi olan herkes kendi yapay zeka destekli moderasyon sistemini oluşturmak için bu yaklaşımı uygulayabilir.” ifadelerini kullandı. OpenAI, GPT-4 moderasyon araçlarının şirketlerin yaklaşık altı aylık çalışmalarını hemen hemen bir günde gerçekleştirmelerine yardımcı olabileceğini iddia ediyor. Travmatik içeriklerin manuel olarak gözden geçirilmesinin, özellikle grafik materyaller söz konusu olduğunda, insan moderatörlerin ruh sağlığı üzerinde önemli bir etkiye sahip olabileceği iyi biçimde belgelenmiştir.
Meta, 2020 yılında 11.000’den fazla moderatöre Facebook’ta yayınlanan materyalleri incelemekten kaynaklanabilecek ruh sağlığı sorunları için her birine en az 1.000 dolar tazminat ödemeyi kabul etti. İnsan hakemlerin üzerindeki yükün bir kısmını kaldırmak için yapay zekayı kullanmak büyük fayda sağlayabilir. Örneğin Meta, birkaç yıldır moderatörlere yardımcı olması için yapay zeka kullanıyor. Ancak OpenAI, şimdiye kadar insan moderatörlerin daha küçük dikey spesifik makine öğrenimi modellerinden yardım aldığını söylüyor. Bu süreç doğası gereği yavaştır ve insan moderatörler üzerinde zihinsel strese yol açabilir. Yapay zeka modelleri mükemmel olmaktan uzak. Büyük şirketler uzun zamandır moderasyon süreçlerinde yapay zeka kullanıyor ve teknolojinin yardımı olsun ya da olmasın, hâlâ büyük içerik kararlarını yanlış alıyorlar. OpenAI’ın sisteminin, diğer şirketlerin yıllar içinde düştüğünü gördüğümüz büyük moderasyon tuzaklarının çoğundan kaçınabilip kaçınamayacağını zamanla göreceğiz. Her halükarda OpenAI, insanların hâlâ sürece dahil olması gerektiğini kabul ediyor. OpenAI’ın politika ekibinde çalışan Vallone Bloomberg’e verdiği demeçte, “Bazı model yargılarını doğrulamak için insan incelemesi yapmaya devam ettik,” dedi. “Dil modellerinin kararları, eğitim sırasında modele dahil edilmiş olabilecek istenmeyen önyargılara karşı savunmasızdır. Herhangi bir yapay zeka uygulamasında olduğu gibi, sonuçların ve çıktıların, insanları döngüde tutarak dikkatlice izlenmesi, doğrulanması ve rafine edilmesi gerekecektir.” ifadelerini sözlerine ekledi. OpenAI’ın blog yazısı şöyle devam ediyor. “Dil modelleri tarafından ele alınabilecek moderasyon sürecinin bazı bölümlerine insan katılımını azaltarak, insan kaynakları politika iyileştirmesi için en çok ihtiyaç duyulan karmaşık uç vakaları ele almaya daha fazla odaklanabilir.”