Yüksek profilli yayıncıların görüntüleri, şirketin adım atması için baskı oluşturdu. Twitch zaten müstehcen ‘deepfake’ görüntü ve videoları yasaklıyordu, ancak bugün bunlara karşı daha sert bir pozisyon alıyor. Canlı yayın hizmeti, yetişkin çıplaklığına ilişkin politikasını, sadece kısa bir süre gösterilse veya varlığını eleştirmek için bile olsa, sentetik NCEI (rıza dışı sömürücü görüntüler) yasağını içerecek şekilde güncelliyor. Ayrıca, cinsel şiddet ve istismar politikalarını da gözden geçirerek, rıza dışı deepfake’lerin kasıtlı olarak yapılmasının ve paylaşılmasının, ilk suçta yasaklanmaya yol açabileceğini açıkça belirtiyor. Politika değişikliklerinin önümüzdeki ay içinde yürürlüğe girmesi bekleniyor. Şirket, eklenen netlik ve modernize edilen dilin potansiyel suçluları caydıracağını umuyor. Şirket 14 Mart’ta NCEI uzmanı Zara Ward ile kötü niyetli deepfake’leri tespit etmeye ve bunlarla başa çıkmaya yardımcı olacak sanal bir ‘İçerik Oluşturucu Kampı’ düzenliyor. Şirkete, ortaya çıktıklarında deepfake’leri tespit etmek için herhangi bir planı olup olmadığı soruldu.
Güncelleme, tanınmış yayıncı Atrioc’un, aralarında bazı yüksek profilli içerik oluşturucuların da bulunduğu kadın Twitch yayıncılarının deepfakelerine erişim satan bir web sitesinin bulunduğu bir tarayıcı sekmesini kısa bir süre gösterdiği bir olayın ardından geldi. Atrioc o zamandan beri özür diledi ve sadece “hastalık derecesinde meraklı” olduğunu söyledi. Ancak bu, yine de yayıncıları ve izleyicileri kızdırdı. Kadınların hiçbiri bu görüntülere rıza göstermedi. Twitch’teki kadınlar, cinsel içerikli yayınları yasaklayan politikaları ihlal ettikleri iddiasıyla kendilerini yasaklatmaya çalışan zorbalar da dahil olmak üzere tacize yabancı değiller. Twitch, taciz ve trollemeyi engellemek için daha fazla araç ekledi, ancak eleştirmenler aynı zamanda istismara olanak tanıyan ve kadınları muhafazakar giyinmeye zorlayan kafa karıştırıcı kurallar uygulamakla da suçladı. Deepfake’ler zekice hazırlanmış müzik videoları, olumlu amaçlar için de kullanılabiliyor. Bununla birlikte, rıza dışı versiyonlar bir sorun olmaya devam ediyor ve hükümetlerin baskılarına yol açıyor. Hem eyaletler hem de Birleşik Krallık gibi ülkeler bu tür ‘deepfake’ paylaşımlarını suç sayan yasalar çıkarıyor ya da taslaklar hazırlıyor. Bu bağlamda Twitch, bu içeriğin yayılmasını sınırlamaya yardımcı olacak bir mekanizma daha ekliyor.