ABD’de TikTok’un yasaklanması ihtimali artmaya devam ederken, video uygulaması içerik denetleme politikalarını yeniledi. Hangi içeriğin yayınlanabileceği ve tanıtılabileceğine ilişkin kurallar büyük ölçüde değişmedi, ancak son aylarda uygulamada giderek daha popüler hale gelen ‘AI Deepfakes’ paylaşımına ilişkin yeni kısıtlamalar içeriyor. Bu denetleme politikalarının büyük kısmı (veya TikTok’un deyimiyle “Topluluk Kuralları”) değişmedi ve şaşırtıcı değil. Görsel şiddete izin verilmez, nefret söylemi yoktur ve açıkça cinsel içerik yoktur, ikincisi için konunun yaşına göre derecelendirilmiş kurallar vardır. Bununla birlikte, yeni genişletilen bir bölüm, son aylarda uygulamada giderek daha popüler hale gelen “sentetik ve manipüle edilmiş medyayı” diğer adıyla ‘AI Deepfakes’i kapsıyor. Daha önce, TikTok’un deepfakes ile ilgili kuralları, “olayların gerçekliğini çarpıtarak kullanıcıları yanıltabilecek veya videonun konusuna önemli zarar verebilecek” içeriği yasaklayan tek bir satırla sınırlıydı. Şimdi ise şirket, yapay zeka tarafından oluşturulan ve düzenlenen tüm gerçekçi içeriklerin, video başlığında ya da üzerine yapıştırılan bir etiket olarak “açıkça ifşa edilmesi” gerektiğini söylüyor.
TikTok, “herhangi bir gerçek özel figürün benzerliğini içeren” veya bir ürünü onaylayan veya uygulamanın diğer politikalarını (yani nefret söylemi yasaklarını) ihlal eden kamuya açık bir figürü gösteren herhangi bir sentetik medyaya izin vermeyeceğini söylüyor. Şirket, kamuya mal olmuş kişileri “hükümet yetkilisi, politikacı, iş lideri veya ünlü gibi önemli bir kamusal rolü olan” 18 yaş ve üstü kişiler olarak tanımlıyor. Yapay zeka tarafından üretilen içerik, büyük ölçüde birinin sesini taklit etmeyi kolaylaştıran yapay zeka ses klonlama araçlarının daha geniş kullanılabilirliği sayesinde TikTok’ta popülerliğini artırdı. Bu araçlar, genellikle Başkan Joe Biden ve eski Başkan Donald Trump gibi tanınmış kişileri beklenmedik senaryolara yerleştirmeye odaklanan, örneğin başkanların kişiliklerini çevrimiçi oyun veya ‘Dungeons & Dragons’ hakkındaki tartışmalara dönüştürmek gibi yeni içerik alt türleri üretti. Diğer kullanım alanları ise daha zararlı. Birçok yapay zeka sahtesi, aynı figürleri transfobik veya homofobik ifadeler okurken gösteriyor ve bazen gerçek görüntülerle karıştırılıyor.
Bu arada TikTok’un deepfake onayları yasaklaması, Joe Rogan’ı “erkekler için libido artırıcı” olarak tanıtan sahte yapay zeka kullanan belirli bir videoya yanıt gibi görünüyor. Bu tür videolar Twitter ve Instagram gibi uygulamalarda da yayıldı. TikTok’un politikalarında yapılan güncelleme, batılı hükümetlerin uygulamanın özel verileri toplamasından ve kamuoyunu etkileme potansiyelinden duydukları korkuyu ifade etmeleri nedeniyle ana şirket ByteDance için siyasi baskının arttığı bir dönemde geldi. ABD hükümetinin, TikTok’un sahibi ByteDance’ın hisselerini satmaması halinde TikTok’u kamu yasağıyla tehdit ettiği bildirilirken, uygulama ABD, İngiltere, Yeni Zelanda ve Kanada’daki devlet cihazlarında zaten yasaklanmış durumda. TikTok, güncellenen bu politikalarla işine yönelik bu tehditleri doğrudan ele almıyor, ancak “kurallarımız ve bunları nasıl uyguladığımız hakkında çok daha fazla şeffaflık” sunmak istediğini belirtiyor. Şirket ayrıca “günlük çalışmalarımızı şekillendirdiğini ve zor uygulama kararlarına nasıl yaklaştığımıza rehberlik ettiğini” söylediği sekiz “Topluluk İlkesi” listesi yayınlıyor. İlk iki ilkenin “zararı önlemek” ve “ifade özgürlüğünü sağlamak” olması dikkat çekiyor.