Yeni bir rapora göre, YouTube’un önerileri küçük çocukları okul saldırıları ve silahla ilgili diğer içeriklerle ilgili videolara yönlendiriyor. Kâr amacı gütmeyen bir izleme grubu olan Tech Transparency Project’e (TTP) göre, YouTube’un tavsiye algoritması “video oyunlarıyla ilgilenen erkek çocukları okul saldırıları sahnelerine, silahların nasıl kullanılacağını, nasıl değiştirileceğine dair talimatlara” ve diğer silah merkezli içeriklere yönlendiriyor. Raporun arkasındaki araştırmacılar, iki adet 9 yaşında erkek çocuk ve iki adet 14 yaşında erkek çocuk kılığında dört yeni YouTube hesabı oluşturdu. Tüm hesaplar Roblox, Lego Star Wars, Halo ve Grand Theft Auto gibi popüler video oyunlarıyla ilgili içeriklerden oluşan oynatma listelerini izledi. Araştırmacılar daha sonra geçtiğimiz Kasım ayında 30 günlük bir süre boyunca hesapların önerilerini takip etti.
TTP, “Çalışma, YouTube’un tüm oyuncu hesaplarına silahlı saldırılar ve silahlarla ilgili içerik gönderdiğini, ancak YouTube’un önerdiği videolara tıklayan kullanıcılara çok daha yüksek bir hacimde içerik gönderdiğini ortaya çıkardı” diye yazıyor. “Bu videolar arasında okul saldırılarını ve diğer kitlesel silahlı saldırı olaylarını tasvir eden sahneler; silahların insan vücuduna ne kadar zarar verebileceğine dair grafik gösterimler ve bir tabancayı tam otomatik bir silaha dönüştürmek için nasıl yapılır kılavuzları yer alıyordu.” Raporda belirtildiği üzere, tavsiye edilen videoların birçoğunun YouTube’un kendi politikalarını ihlal ettiği görülmüştür. Öneriler arasında genç bir kızın silahla ateş ettiği videolar ve tabancaların “tam otomatik” silahlara dönüştürülmesi ve diğer modifikasyonlarla ilgili eğitimler yer alıyordu. Bu videolardan bazıları da reklamlarla paraya çevrilmişti.
Bir YouTube sözcüsü yaptığı açıklamada, platformunda “ergenler ve gençler için daha güvenli bir deneyim oluşturan” YouTube Kids uygulamasına ve uygulama içi denetim araçlarına işaret etti. Sözcü, “Tavsiyelerimizle ilgili araştırmaları memnuniyetle karşılıyoruz ve sistemlerimizi incelemeleri için akademik araştırmacıları getirmenin yolunu arıyoruz” dedi. “Ancak bu raporun metodolojisini incelerken, güçlü sonuçlar çıkarmamız zor. Örneğin, çalışma test hesaplarına genel olarak kaç video önerildiğine dair bir bağlam sunmuyor ve YouTube’un ‘Gözetimli Deneyimler’ araçlarının uygulanıp uygulanmadığı da dahil olmak üzere test hesaplarının nasıl kurulduğuna dair bir fikir vermiyor.” TTP raporu, araştırmacıların YouTube’un tavsiye algoritmasıyla ilgili sorularını ilk kez gündeme getirmiyor. Şirket ayrıca “sınırda” olarak adlandırılan içeriğin (kurallarını açıkça ihlal etmeyen ancak toplu dağıtım için uygun olmayan videolar) önerilerde görünmesini azaltmak için yıllarca çalıştı. Geçen yıl şirket, bu tür bazı içeriklerde paylaşımı tamamen devre dışı bırakmayı düşündüğünü söyledi.