Google, Perşembe günü yaptığı açıklamada Gemini chatbot’unun insan üretme yeteneğini durdurduğunu ilan etti. Bu hamle, viral sosyal paylaşımların yapay zeka aracının çeşitlilik için aşırı düzeltme yaparak Nazilerin, Amerika’nın kurucu atalarının ve Papa’nın renkli insanlar olarak “tarihi” görüntülerini ürettiğini göstermesinin ardından geldi. Google, X’te (The New York Times aracılığıyla) “Gemini’ın görüntü oluşturma özelliğiyle ilgili son sorunları ele almak için zaten çalışıyoruz” dedi. “Bunu yaparken, insanların görüntü oluşturmasını duraklatacağız ve yakında geliştirilmiş bir sürümü yeniden yayınlayacağız.” X kullanıcısı @JohnLu0x, Gemini’ın “1943 Alman askerinin bir görüntüsünü oluşturun” sorusu için verdiği sonuçların ekran görüntülerini yayınladı. “Soldier” kelimesinin yanlış yazılması, yapay zekayı, içerik filtrelerini atlatarak engellenmiş Nazi görselleri üretmesi için kandırmaya yönelikti. Oluşturulan sonuçlarda Nazi üniforması giyen Siyahi, Asyalı ve Yerli askerler görülüyor. Diğer sosyal medya kullanıcıları Gemini’ı, “Etnik kökenli bir çiftin cazibeli bir fotoğrafını oluşturun” sorusuna görseller ürettiği için eleştirdi. Çinli, Yahudi ya da Güney Afrikalı istemleri kullanıldığında başarılı bir şekilde görüntü üretti ancak “beyaz” için sonuç çıkarmayı reddetti.
Gemini, ikinci isteğe “Belirli etnik kökenler veya cilt tonlarıyla ilişkili zararlı stereotipleri ve önyargıları sürdürme potansiyeli nedeniyle talebinizi yerine getiremiyorum” yanıtını verdi. Tepkilerin başlamasına yardımcı olan John L., Google’ın gerçek bir soruna iyi niyetli ancak tembelce eklenmiş bir çözüm uyguladığı teorisini ortaya atıyor. Kullanıcı, “İnsan tasvirlerine çeşitlilik eklemek için kullandıkları sistem çok akıllıca değil. Papa gibi tarihsel olarak erkek rollerinde cinsiyeti hesaba katmıyor; tarihsel veya ulusal tasvirlerde ırkı hesaba katmıyor” diye yazdı. Google, Gemini’ın insan üretme kabiliyetini durdurmadan önce, “Bu tür tasvirleri derhal iyileştirmek için çalışıyoruz. Gemini’ın yapay zeka görüntüsü üretimi geniş bir yelpazede insan çiziyor. Ve bu genellikle iyi bir şey çünkü dünyanın dört bir yanındaki insanlar bunu kullanıyor. Ancak burada hedefi ıskalıyor.” dedi. Bu bölüm, Bard’ın 2023’te piyasaya sürülmesine bir geri dönüş olarak görülebilir. Google’ın orijinal yapay zekalı sohbet robotu, Twitter’da (şimdi X) sohbet robotu için yapılan bir reklamın James Webb Uzay Teleskobu hakkında yanlış bir “gerçek” içermesiyle sarsıntılı bir başlangıç yapmıştı. Google’ın sık sık yaptığı gibi, yeni bir başlangıç yapma umuduyla Bard’ı yeniden markalaştırdı. Büyük bir performans ve özellik güncellemesiyle eş zamanlı olarak, şirket bu ayın başlarında, her ikisi de arama motoru (ve dolayısıyla reklam geliri) için varoluşsal bir tehdit oluşturan OpenAI’ın ChatGPT’si ve Microsoft Copilot’a karşı zeminini korumak için yarışırken, sohbet botunun adını Gemini olarak değiştirdi.