Bloomberg tarafından hazırlanan bir araştırma raporu, Twitch’in canlı yayın platformunu, özellikle de kullanıcıların kısa videoları saklamasına olanak tanıyan Klipler özelliğini denetlemekte yaşadığı zorluklara dair rahatsız edici bir tablo çiziyor. Yayın kuruluşu, yaklaşık 1.100 klibi analiz ettikten sonra, çocukların dahil olduğu cinsel içerikli en az 83 video bulduğunu bildirdi. Twitch, uyarıldıktan sonra videoları kaldırdı ve bir şirket sözcüsü gönderdiği e-postada o zamandan beri “uygulama araçlarına ve önleyici tedbirlere büyük yatırım yaptığını ve bunu yapmaya devam edeceğini” yazdı. Bloomberg, Klipler’in geçici platformdaki kalıcı doğasıyla ilgili sorunu örnekleyen bir olayın altını çizdi. Geçtiğimiz ilkbaharda “sandviç yemek ve Fransız kornosu çalmak için” Twitch’e giren 12 yaşındaki bir çocuğun tedirgin edici hikayesini anlatıyor. Kısa süre sonra izleyicilerden istek almaya başlayan çocuk (çevrimiçi davranışların üzücü bir yansıması olarak) bir şekilde pantolonunu indirdi. Yayın organı, olayın bir anda sona erdiğini belirtiyor. Yine de Klipler’in kayıt işlevi, iddiaya göre çocuklara ait, yüzden fazla hesabı takip eden bir izleyicinin olayı kaydetmesine olanak sağladı.
İddiaya göre bu sayede 20 saniyelik Klip, Twitch’e bildirilip kaldırılmadan önce 130’dan fazla kez izlendi. Klipler, platformdaki geçici anları korumanın bir yolu olarak 2016 yılında kullanıma sunuldu. Bu özellik, kayıt düğmesine dokunmadan 25 saniye önce (ve beş saniye sonra) kayıt yapıyor. Bunun, avcıların rahatsız edici bir anı kaydetmesine ve başka bir yere dağıtmasına izin vermek gibi talihsiz bir yan etkisi vardır. Twitch, platformda daha fazla TikTok benzeri içerik üretme stratejisinin bir parçası olarak bu yıl Klipler’i genişletmeyi planladı. Kullanıcıların kısa videolarını yayınlayabilecekleri bir keşif akışı (TikTok’a da benzer) başlatmayı planlıyor. Bloomberg’in haberinde, 83 istismar videosunu inceleyen ve 34’ünün genç kullanıcıların cinsel organlarını kamera önünde gösterdikleri sonucuna varan ‘Kanada Çocuk Koruma Merkezi’ne atıfta bulunuluyor. Bunların büyük bir kısmının beş ila 12 yaş arasındaki erkek çocuklar olduğu iddia ediliyor. İlave 49 adet klipte ise “vücut parçalarını teşhir eden ya da tımar çabalarına maruz kalan” küçüklerin yer aldığı cinselleştirilmiş içerik bulunuyordu. Kuruluş, “en korkunç” 34 adet videonun 2.700 kez görüntülendiğini söyledi. Geri kalanlar ise 7,300 kez görüntülenmiştir.
Twitch’in Yanıtı
Bir Twitch sözcüsü şunları yazdı: “İnternetin neresinde olursa olsun gençlere zarar verilmesi kabul edilemez ve biz bu konuyu son derece ciddiye alıyoruz.” Çocuk cinsel istismarı materyali (CSAM) konusunda uyarılmanın ardından şirket, potansiyel tımar davranışını tespit etmek için yeni modeller geliştirdiğini ve yeni hesaplar oluşturmaya çalışan yasaklı kullanıcıları daha etkili bir şekilde tespit etmek ve kaldırmak için mevcut araçlarını güncellediğini söylüyor (gençlerin güvenliğiyle ilgili sorunlar dahil). Twitch, Klipler’in kökeni olan canlı yayınlar konusunda güvenlik ekiplerinin yaptırımlarını artırdığını da ekliyor. Şirket, “Bu, zararlı içerik barındıran bir canlı yayını devre dışı bıraktığımızda ve kanalı askıya aldığımızda, klipler canlı yayınlardan oluşturulduğu için, zararlı kliplerin oluşturulmasını ve yayılmasını kaynağında önlediğimiz anlamına geliyor. Daha da önemlisi, topluluk kurallarımızı ihlal eden klipleri sildiğimizde ve devre dışı bıraktığımızda, bu kliplerin kamuya açık alanlar veya diğer doğrudan bağlantılar aracılığıyla erişilebilir olmamasını sağlamak için de çalıştık.” diye yazdı. Sözcü şöyle devam etti: “Ne yazık ki çevrimiçi zararların geliştiğinin de farkındayız. Yapay zeka destekli Çocuk Cinsel İstismarı Materyali (CSAM) gibi gelişen bazı çevrimiçi zararları belirlemek için dahili güvenlik ekiplerimizin kullandığı yönergeleri geliştirdik.” Twitch, gelecekte benzer içerikleri (umarız) ortadan kaldırmak için birlikte çalıştığı harici kuruluşların listesini genişlettiğini de sözlerine ekledi.
Twitch’in Moderasyon Sorunları
Bloomberg, Klipler’in Twitch’te en az denetlenen bölümlerden biri olduğunu bildiriyor. Ayrıca, şirketin Nisan 2023’te (teknoloji işten çıkarmalarında üzücü bir yılın parçası olarak) dahili güven ve güvenlik ekibinin yüzde 15’ini işten çıkardığını ve CSAM içeriğini ezmek için dış ortaklara daha fazla bağımlı hale geldiğini belirtiyor. Twitch’in canlı yayın odaklı platformu, onu YouTube veya Instagram gibi daha geleneksel video sitelerinden daha zorlu bir moderasyon mücadelesi haline getiriyor. Bu platformlar, yüklenen videoları hash’lerle karşılaştırabiliyor. (Daha önce internette yayınlanan sorunlu dosyaları tespit edebilen dijital parmak izleri.) ABD Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi’nden Lauren Coffren Bloomberg’e verdiği demeçte “Hash teknolojisi daha önce görülen bir şeyle eşleşen bir şey arıyor. Canlı yayının yepyeni olduğu anlamına geliyor.” dedi.