Google’ın daha önce Bard olarak adlandırılan Gemini sohbet robotu, kullanıcının metin açıklamasına dayalı olarak yapay zeka tarafından oluşturulmuş illüstrasyonlar hazırlama yeteneğine sahip. Örneğin mutlu çiftlerin ya da modern sokaklarda yürüyen dönem kıyafetli insanların resimlerini oluşturmasını isteyebilirsiniz. Ancak BBC’nin de belirttiği gibi, bazı kullanıcılar Google’ı, belirli beyaz figürleri ya da tarihsel olarak beyaz olan insan gruplarını ırksal çeşitliliğe sahip bireyler olarak resmettiği için eleştiriyor. Şimdi Google bir açıklama yayınlayarak Gemini’ın “bazı tarihi görüntü oluşturma tasvirlerinde yanlışlıklar sunduğunun” farkında olduğunu ve bu durumu derhal düzelteceğini söyledi. Daily Dot’un haberine göre, eski bir Google çalışanı, beyaz olmayan kadınların fotoğraflarını tweetleyip altına da “Google Gemini’a, beyazların varlığını kabul ettirmek utanç verici derecede zor” diye yazınca şikayetler başladı. Bu sonuçları elde etmek için Gemini’dan Amerikalı, İngiliz ve Avustralyalı kadınların resimlerini üretmesi istendi. Çoğunluğu sağcı olarak bilinen diğer kullanıcılar da kendi sonuçlarını paylaşarak Amerika’nın kurucu babalarını ve Katolik Kilisesi’nin papalarını renkli insanlar olarak tasvir eden yapay zeka tarafından oluşturulmuş görseller gösterdiler. Testlerde, Gemini’dan kurucu babaların resimlerini oluşturması istendiğinde, içinde tek bir renkli kişi veya kadın bulunan beyaz erkek resimleri ortaya çıktı.
Sohbet robotuna, çağlar boyunca papa resimleri oluşturması komutu girildiğinde, Katolik Kilisesi’nin lideri olarak siyah kadınları ve Amerikan yerlilerini gösteren fotoğraflar elde edildi. Gemini’dan Amerikalı kadınlarla ilgili görseller üretmesi istendiğinde ise Beyaz, Doğu Asyalı, Amerikan yerlisi ve Güney Asyalı bir kadının yer aldığı fotoğraflar çıktı. The Verge, sohbet robotunun Nazileri de renkli insanlar olarak tasvir ettiğini söylüyor, ancak Gemini’ın Nazi görüntüleri oluşturmasını sağlayamadığı, sohbet robotunun “Nazi Partisi ile ilgili zararlı sembolizm ve etki nedeniyle isteğinizi yerine getiremiyorum” diye yanıt verdiği ifade edildi. Gemini’ın bu davranışı, aşırı düzeltmenin bir sonucu olabilir, çünkü geçtiğimiz yıllarda yapay zeka ile eğitilen chatbotlar ve robotlar ırkçı ve cinsiyetçi davranışlar sergileme eğilimindeydi. Örneğin 2022’de yapılan bir deneyde bir robot, taradığı yüzler arasında hangisinin suçlu olduğu sorulduğunda sürekli olarak siyahi bir adamı seçmişti. X’te yayınlanan bir açıklamada Gemini Ürün Lideri Jack Krawczyk, “Google, görüntü oluşturma yeteneklerini, küresel kullanıcı tabanını yansıtacak şekilde tasarladı. Temsil ve önyargıyı ciddiye aldı.” ifadelerini kullandı. Jack Krawczyk, “Gemini’ın köpeklerini gezdiren insanların görüntüleri gibi açık uçlu istemler için ırksal çeşitliliğe sahip illüstrasyonlar üretmeye devam edeceğini söyledi. Bununla birlikte, tarihsel bağlamların daha fazla nüansa sahip olduğunu ve ekibinin buna uyum sağlamak için daha fazla ayarlama yapacağını” itiraf etti.