Google CEO’su Sundar Pichai, şirketin yapay zeka destekli Gemini görüntü oluşturma aracının tarihi görüntülerdeki çeşitliliği aşırı düzeltmeye başlamasının ardından yaşanan son sorunlara değindi. Semafor tarafından yayınlanan şirket içi bir çalışan notuna göre Pichai, yaşananları “kabul edilemez” olarak nitelendirdi ve şirketin bir düzeltme üzerinde “gece gündüz çalıştığını” söyledi. Pichai çalışanlara gönderdiği yazıda, “Hiçbir yapay zeka mükemmel değildir, özellikle de sektörün gelişiminin bu yeni aşamasında, ancak çıtanın bizim için yüksek olduğunu biliyoruz ve ne kadar sürerse sürsün buna devam edeceğiz” dedi. “Olanları gözden geçireceğiz ve büyük ölçekte düzelttiğimizden emin olacağız.” ifadelerini kullandı. Pichai, daha önce Bard olarak adlandırılan Gemini sohbet robotunun geleceği konusunda iyimserliğini koruyor ve ekibin şimdiden “çok çeşitli istemlerde önemli bir gelişme gördüğünü” belirtiyor. Gemini’ın görüntü oluşturma özelliği, bir düzeltme tam olarak yapılana kadar duraklatılmış olarak kalacak. Bu durum, Gemini kullanıcılarının, üreticinin Naziler ve Amerika’nın kurucu atalarının renkli insanlar olarak çizmesiyle, tarihsel olarak yanlış görüntüler ürettiğini fark etmesiyle başladı. Bu durum kısa sürede sosyal medyada büyük bir olay haline geldi ve “uyandı” kelimesi ortalıkta dolaşmaya başladı.
Google’ın bilgi ve enformasyondan sorumlu kıdemli başkan yardımcısı Prabhakar Raghavan, suçu uyanıklığa değil, bir dizi ayarlama hatasına bağladı. Temel olarak, model resimlerdeki farklı insan gruplarına izin verecek şekilde ince ayarlanmıştı, ancak “açıkça bir aralık göstermemesi gereken durumları hesaba katamadı.” Bu da renkli insanların Vikingler ve Kızılderili Katolik Papalar olarak görünmesi gibi tartışmalı görüntülere yol açtı. Raghavan ayrıca modelin zaman içinde daha temkinli davrandığını ve zaman zaman bazı soruları hassas olarak yorumlayarak yanıtlamayı reddettiğini söyledi. Bu durum, modelin beyaz insanların görüntülerini oluşturmayı reddettiği yönündeki raporları açıklıyor. Görünüşe göre şirket, hem küresel bir kitleyi memnun etmeye hem de modelin cinsel içerikli görüntüler veya gerçek insan tasvirleri oluşturmak gibi rakip ürünlerin bazı tuzaklarına düşmemesini sağlamaya çalışıyordu. Bu yapay zeka modellerini ayarlamak son derece hassas bir iştir ve yazılım kolayca saçma hatalar yapmaya yönlendirilebilir. Yaptıkları şey bu aslında. Bunu, yapay zekanın hala kat etmesi gereken uzun bir yol olduğunu bir kez daha hatırlatan bir gelişme olarak not etmek gerekir. Gemini’a gelince, şirket görüntü oluşturucunun yakın gelecekte geri döneceğine söz veriyor, ancak bunun bir daha asla gerçekleşmemesini sağlamak için “yapısal değişiklikler, güncellenmiş ürün yönergeleri, iyileştirilmiş başlatma süreçleri, sağlam değerlendirmeler, kırmızı ekip ve teknik öneriler” de dahil olmak üzere bir dizi düzeltme ve test yapılması gerekiyor.