Google‘ın yöneticileri yakın zamanda yapılan bir toplantıda ChatGPT’nin yükselişini ele aldılar, ancak yapay zekalı sohbet robotlarının önyargı ve gerçeklik gibi olağanüstü sorunlarının, aramanın yerini almaya hazır olmadıkları anlamına geldiğini söylediler.
ChatGPT’nin piyasaya sürülmesi, bazılarının yapay zekalı sohbet robotlarının yakında geleneksel arama motorlarının yerini alabileceği yönünde spekülasyonlar yapmasına yol açtı. Ancak Google’daki yöneticiler, chatbotların önyargıları, toksisiteleri ve basitçe bilgi uydurma eğilimleri gibi sorunlarla birlikte, teknolojinin kullanıcıların önüne koymak için hala çok olgunlaşmamış olduğunu söylüyorlar.
CNBC‘de yer alan bir habere göre, Alphabet CEO’su Sundar Pichai ve Google’ın yapay zeka başkanı Jeff Dean, yakın zamanda yapılan bir toplantıda ChatGPT’nin yükselişini ele aldı. Bir çalışan, Google’ın rakibi Microsoft ile derin bağları olan OpenAI şirketi tarafından geliştirilen botun piyasaya sürülmesinin arama devi için “kaçırılmış bir fırsat” olup olmadığını sordu. Pichai ve Dean’in, Google’ın yapay zeka dil modellerinin OpenAI’ınki kadar yetenekli olduğunu, ancak teknolojinin yarattığı “itibar riski” nedeniyle şirketin “küçük bir startup’tan daha muhafazakar” hareket etmesi gerektiğini söyleyerek yanıt verdikleri bildirildi.
Dean, “Bunları kesinlikle gerçek ürünlere ve bugüne kadar kullandığımız gibi örtülerin altından ziyade dil modelini daha belirgin bir şekilde öne çıkaran şeylere dahil etmek istiyoruz” dedi. “Ama bunu doğru yapmamız çok önemli.” Pichai, Google’ın 2023’te yapay zeka dil özellikleri için “çok şey” planladığını ve “bu, cesur ve sorumlu olmamız gereken bir alan, bu yüzden bunu dengelemeliyiz” dedi.
Google, OpenAI’ın ChatGPT’sine eşit kapasitede bir dizi büyük yapay zeka dil modeli (LLM) geliştirmiştir. Bunlar arasında BERT, MUM ve LaMDA bulunmaktadır ve bunların tümü Google’ın arama motorunu iyileştirmek için kullanılmıştır. Ancak bu tür iyileştirmeler incelikli ve kullanıcıların niyetlerini daha iyi anlamak için sorgularını ayrıştırmaya odaklanıyor. Google, MUM’un, örneğin bir arama kullanıcının kişisel bir krizden geçtiğini gösterdiğinde bunu anlamasına yardımcı olduğunu ve bu kişileri yardım hatlarına ve Samaritans gibi gruplardan gelen bilgilere yönlendirdiğini söylüyor. Google da kullanıcılara yapay zeka chatbot teknolojisini tattırmak için AI Test Kitchen gibi uygulamalar başlattı, ancak kullanıcılarla etkileşimleri çeşitli şekillerde kısıtladı.
OpenAI da daha önce LLM teknolojisini geliştirirken nispeten temkinliydi, ancak ChatGPT’nin piyasaya sürülmesiyle tutumunu değiştirdi ve erişimi halka açtı. Sonuç, şirket sistemin ücretsiz kullanımını sağlamak için büyük maliyetlere katlansa da OpenAI için faydalı bir tanıtım ve heyecan fırtınası oldu.
ChatGPT gibi LLM’ler dil üretmede dikkate değer bir esneklik sergilese de, iyi bilinen sorunları da vardır. Eğitim verilerinde bulunan, genellikle kadınları ve beyaz olmayan insanları aşağılayan sosyal önyargıları güçlendirirler. Kullanıcılar, ChatGPT’nin tehlikeli bilgiler vermesini engellemesi gereken güvenlik yönergelerini, sadece kötü bir yapay zeka olduğunu hayal etmesini isteyerek atlatabileceklerini keşfettiler. Belki de Google için en uygun olanı sorgulara yanıt olarak düzenli olarak yanlış ve yanıltıcı bilgiler sunarlar. Kullanıcılar ChatGPT’nin tarihi ve biyografik verileri uydurmaktan, kullanıcılara anne sütüne ezilmiş porselen eklemenin “bebeğin sindirim sistemini destekleyebileceğini” söylemek gibi yanlış ve tehlikeli iddiaları haklı çıkarmaya kadar çok çeşitli konularda “yalan söylediğini” tespit etti.
Google’ın tüm çalışanlarının katıldığı toplantıda Dean pek çok zorluğu kabul etti. Dean, “arama benzeri uygulamalar için gerçeğe uygunluk konularının sahiden önemli olduğunu, diğer uygulamalar için önyargı, toksisite ve güvenlik konularının da çok önemli olduğunu hayal edebilirsiniz” dedi. Yapay zeka sohbet robotlarının “bir şeyler uydurabileceğini ve bir şey hakkında gerçekten emin değillerse, size fillerin en büyük yumurtaları bırakan hayvanlar olduğunu ya da başka bir şey söyleyeceklerini” söyledi.
ChatGPT’nin piyasaya sürülmesi, sohbet robotlarının geleneksel arama motorlarının yerini alma potansiyeli hakkında yeni konuşmaları tetiklemiş olsa da, bu soru Google’da uzun süredir değerlendiriliyordu ve bazen tartışmalara neden oluyordu. Yapay zeka araştırmacıları Timnit Gebru ve Margaret Mitchell, LLM’lerle ilgili teknik ve etik zorlukları özetleyen bir makale yayınladıktan sonra Google’dan kovuldular. Ve geçen yıl Mayıs ayında, Google araştırmacılarından oluşan bir dörtlü, aramada yapay zeka konusunda aynı soruyu araştırdı ve çok sayıda potansiyel sorunu ayrıntılı olarak açıkladı. Araştırmacıların makalelerinde belirttikleri gibi, en büyük sorunlardan biri, LLM’lerin “dünyayı gerçek anlamda anlamamaları, halüsinasyon görmeye eğilimli olmaları ve en önemlisi, üzerinde eğitildikleri külliyattaki destekleyici belgelere atıfta bulunarak ifadelerini gerekçelendirememeleridir.”
Elbette bu sorunları hafifletmenin yolları var ve rakip teknoloji şirketleri, Google’ın önüne geçmek için yapay zeka destekli bir arama motoru piyasaya sürmenin buna değip değmeyeceğini hesaplayacaktır. Sonuçta, eğer sahnede yeniyseniz, “itibar kaybı” pek de sorun olmayacaktır.
OpenAI’ın kendi adına, beklentileri azaltmaya çalıştığı görülüyor. CEO Sam Altman’ın kısa süre önce tweetlediği gibi; “ChatGPT inanılmaz derecede sınırlı, ancak bazı şeylerde yanıltıcı bir büyüklük izlenimi oluşturacak kadar iyi. Şu anda önemli herhangi bir şey için ona güvenmek bir hata. Bu bir ilerleme önizlemesi. Sağlamlık ve doğruluk konusunda yapacak çok işimiz var.”