Hızlı bir şekilde değiştirilmiş görseller ve videolar oluşturabilen yapay zeka araçlarının yükselişiyle birlikte, yaklaşan ABD başkanlık seçimleri öncesinde siyasi yanlış bilgi yaymak için sahte görseller oluşturmak hiç olmadığı kadar kolay hale geldi. Bloomberg’e göre Midjourney’in bu konudaki çözümü siyasi görselleri tamamen yasaklamak olabilir. Midjourney’nin CEO’su David Holz’un Discord’daki bir sohbet oturumu sırasında kullanıcılara, şirketin önümüzdeki 12 ay içinde Biden ve Trump’a ait görüntüleri yasaklamaya yakın olduğunu söylediği bildirildi. Oturuma katılan kullanıcılara “Trump resimleri yapmanın eğlenceli olduğunu biliyorum. Ben de Trump resimleri yapıyorum” dedi. “Trump estetik olarak gerçekten ilginç. Ancak, muhtemelen yapmamak daha iyi. Bu seçim sırasında biraz geri çekilmek iyi olacak. Göreceğiz.” ifadelerini kullandı. Bloomberg’in belirttiği gibi, insanlar daha önce Midjourney’in yapay zekasını Trump’ın tutuklanmasının deepfake’lerini üretmek için kullanmıştı.
Şirket, bu görüntülerin (Papa’nın Balenciaga’dan esinlenen bir palto giydiği meşhur deepfake’lerle birlikte) viral olmasının ardından yapay zeka görüntü oluşturucusunun ücretsiz denemelerine son vermişti. Şu anda şirketin yanıltıcı kamu figürleri ve yanıltma potansiyeli olan olay tasvirleri oluşturmayı yasaklayan kuralları var. Bloomberg yine de Midjourney’in sisteminin eski versiyonunu kullanarak Trump’ın spagettiye bulanmış modifiye görüntülerini üretebilirken, yeni versiyon eski Başkan’ın modifiye görüntülerini oluşturmayı reddetti. Elbette, Midjourney yüksek profilli politikacıların görüntülerini yasaklasa bile, sadece platformunu eleştirmenlerin öfkesini çekmekten ve bu seçim sezonunda ilgi odağı olmaktan korumuş olacak. Yapay zeka araçlarının siyasi dezenformasyon kampanyalarında kullanılmasını ya da seçimleri bir bütün olarak manipüle etmeye yönelik sahte bilgilerin yayılmasını büyük ihtimalle engellemeyecektir. Diğer teknoloji şirketleri de siyasi dezenformasyonu önlemeye ya da en azından tespit edilmesini kolaylaştırmaya yardımcı olacak adımlar attılar. ChatGPT yakında DALL-E 3 kullanılarak oluşturulan görüntüleri etiketlemeye başlarken, Meta bir görüntü, video veya ses klibinin yapay zeka kullanılarak oluşturulup oluşturulmadığını tespit edebilecek ve işaretleyebilecek bir teknoloji geliştirmek için çalışıyor.