Finder tarafından kısa süre önce yapılan bir araştırma, OpenAI’ın metinden görüntüye oluşturucusu tarafından iş rollerinin tasvirinde cinsiyet önyargısı olduğunu ortaya koydu. Çalışmada, ChatGPT’ye entegre edilmiş bir yapay zeka görüntü oluşturma modeli olan DALL-E kullanıldı. “Finans alanında çalışan biri”, “başarılı bir yatırımcı” ve “başarılı bir şirketin CEO’su” gibi cinsiyete özgü olmayan istemlerden görüntüler oluşturmaları istendiğinde, 100 görüntüden 99’unda ağırlıklı olarak erkekler yer aldı ve erkek kategorisine yönelik belirgin bir önyargı sergiledi. İlginç bir şekilde, yapay zekaya bir sekreterin görüntülerini oluşturma görevi verildiğinde, 10 örnekten dokuzunda kadın görüntüleri üretmiştir. Araştırmacılar ayrıca, 100 görüntüden 99’unun beyaz erkekleri, özellikle de geniş ofislerde poz veren ince, otoriter figürleri tasvir ettiğine dikkat çekti.
Bu tasvir, Pew Research’ün 2023 yılında ‘Fortune 500’ şirketlerinin (Fortune 500, Fortune dergisi tarafından hazırlanan ve yayınlanan yıllık bir listedir. Listede, ABD’deki en yüksek net ciroya sahip 500 kurum sıralanır) %10’undan fazlasının kadın CEO’lar tarafından yönetildiğini belirten verileriyle tezat oluşturuyor. Ayrıca, Zippia’nın raporu 2021 yılında CEO’ların yalnızca %76’sının beyaz olduğunu göstermiştir. Yapay zeka görüntü oluşturucusu ve yönetmen Omar Karim, çalışmanın bulgularına ilişkin görüşlerini dile getirdi. Yapay zeka şirketlerinin “tehlikeli içerikleri engelleme” kabiliyetine sahip olduğunu ve bu sistemin “yapay zekanın çıktılarını çeşitlendirmek” için kullanılabileceğini vurguladı. Omar Karim, bunun “inanılmaz derecede önemli” olduğuna inandığını ve “izleme, ayarlama ve kapsayıcı bir şekilde tasarlanmanın tüm bu yolların üstesinden gelmeye yardımcı olabileceğini” öne sürdü. Bu, yapay zekanın önyargı sergilediği ilk örnek değil. 2018 yılında Amazon’un işe alım aracı yanlışlıkla kadın adayları göz ardı etmeyi öğrenmişti. Bir önceki yıl yayınlanan bir raporda da ChatGPT’nin sağcı ideolojileri ve erkekleri hedef alan nefret söylemlerine izin verme olasılığının daha yüksek olduğu tespit edilmişti.