Stanford ve Georgetown Üniversitesi araştırmacıları tarafından yapılan bir çalışma, Facebook’un öneri algoritmalarının spam ve dolandırıcılar tarafından yayınlanan yapay zeka tarafından oluşturulmuş görselleri desteklediğini ortaya koyuyor. Kullanıcılar için genellikle şaşırtıcı ya da büyüleyici olan bu görseller, daha büyük spam ya da dolandırıcılık kampanyalarının bir parçası. Çalışma, Facebook’ta defalarca viral olan ve yapay zeka tarafından oluşturulan ‘Karides İsa’ görselini, saf kullanıcılar için artan tehditlerin en önemli örneği olarak gösteriyor. Yapay zeka tarafından oluşturulan spam sayfaları her gün sık sık paylaşım yapıyor ve Facebook’un öneri algoritması aracılığıyla tanıtım kazanıyor. Başlangıçta takipçi toplamak için tasarlanan bu sayfalar artık reklamlarla dolu web sitelerine trafik çekmeye ya da vasatın altında ürünler satmaya yöneldi.
Hatta bazıları daha fazla kullanıcı çekmek için popüler figürler ya da vatansever temalar içeren Facebook reklamları satın almaya başladı. Stanford İnternet Gözlemevi ve Georgetown Güvenlik ve Gelişen Teknoloji Merkezi’nin araştırmasına göre, Facebook’ta yapay zeka tarafından üretilen görüntüler yüz milyonlarca etkileşime yol açtı. Bu görseller, sayfaları takip etmeyen kullanıcılara da ulaşıyor ve bu kullanıcıların birçoğu uydurma içeriklerle etkileşime girdiklerinden habersiz görünüyor. ‘Karides İsa’ gibi bazı görüntüler açıkça fantastik olsa da, günlük nesneleri veya sanat eserlerini tasvir eden diğerleri, kullanıcıları yapay doğaları konusunda aldatabilir. Düzenleyici makamlar artık reklamcılıkta üretken yapay zekanın kullanımına odaklanıyor. İngiltere’nin Reklam Standartları Kurumu (ASA), bu teknolojinin uygulamasını inceliyor ve bu yıl reklamverenler için yeni yönergelere yol açabilir. Benzer şekilde, ABD Federal Ticaret Komisyonu da konuya yoğun bir şekilde odaklanıyor. Norveç 2021 yılında, reklamverenlerin ve influencer’ların dijital olarak manipüle edilmiş görselleri ne zaman kullandıklarını açıklamalarını zorunlu kılmak için yasalarını revize etti; bu kural yapay zeka tarafından oluşturulan reklamları da kapsayabilir.