1. Ana Sayfa
  2. Yapay Zeka
  3. OpenAI, süper zeki yapay zekayı dizginlemek için bir ekip kuruyor

OpenAI, süper zeki yapay zekayı dizginlemek için bir ekip kuruyor

featured

Bu İçeriği Paylaş

ya da bağlantıyı kopyala

OpenAI, süper zeki yapay zekanın risklerini yönetmek için özel bir ekip kuruyor. Süper zeka, en yetenekli ve zeki insandan bile daha akıllı olan ve önceki nesil bazı modeller gibi tek bir alan yerine birden fazla uzmanlık alanında başarılı olan varsayımsal bir yapay zeka modelidir. OpenAI böyle bir modelin on yılın sonundan önce ortaya çıkabileceğine inanıyor. Kâr amacı gütmeyen kuruluş, “Süper zeka, insanlığın şimdiye kadar icat ettiği en etkili teknoloji olacak ve dünyanın en önemli sorunlarının çoğunu çözmemize yardımcı olabilir” dedi. “Ancak süper zekanın muazzam gücü aynı zamanda çok tehlikeli olabilir. İnsanlığın güçsüzleşmesine ve hatta insan neslinin tükenmesine yol açabilir.”

Yeni ekip OpenAI Baş Bilim İnsanı Ilya Sutskever ve araştırma laboratuvarının uyum sorumlusu Jan Leike tarafından yönetilecek. Buna ek olarak OpenAI, otomatik bir hizalama araştırmacısı geliştirmek amacıyla şu anda güvenli olan işlem gücünün yüzde 20’sini bu girişime ayıracağını söyledi. Böyle bir sistem teorik olarak OpenAI’a bir süper zekanın kullanımının güvenli ve insani değerlerle uyumlu olmasını sağlamada yardımcı olacaktır. OpenAI, “Bu inanılmaz derecede iddialı bir hedef ve başarılı olacağımız garanti olmasa da, odaklanmış, uyumlu bir çabanın bu sorunu çözebileceği konusunda iyimseriz” dedi. “Ön deneylerde umut vaat eden pek çok fikir var, ilerleme için giderek daha kullanışlı ölçütlere sahibiz ve bu sorunların çoğunu deneysel olarak incelemek için bugünün modellerini kullanabiliriz.” Araştırma laboratuvarı, gelecekte bir yol haritası paylaşacağını da sözlerine ekledi.

Çarşamba günkü duyuru, dünyanın dört bir yanındaki hükümetlerin yeni gelişen yapay zeka endüstrisini nasıl düzenleyeceklerini düşündükleri bir dönemde geldi. ABD’de OpenAI CEO’su Sam Altman geçtiğimiz aylarda en az 100 federal milletvekiliyle bir araya geldi. Sam Altman kamuoyu önünde, yapay zeka düzenlemesinin gerekli olduğunu ve OpenAI’ın politikacılarla çalışmak için istekli olduğunu söyledi. Ancak bu tür açıklamalara ve OpenAI’ın ‘Superalignment’ ekibi gibi çabalara şüpheyle yaklaşmalıyız. OpenAI gibi kuruluşlar, kamuoyunun dikkatini hiçbir zaman gerçekleşmeyecek varsayımsal risklere odaklayarak, düzenleme yükünü ”şimdi” ve ”burada” yerine ufka kaydırmaktadır. Yapay zeka ve işgücü arasındaki etkileşim, yanlış bilgilendirme ve telif hakkı politika yapıcılarının yarın değil bugün ele alması gereken çok daha acil sorunlar var.

OpenAI, süper zeki yapay zekayı dizginlemek için bir ekip kuruyor

Giriş Yap

gigahaber ayrıcalıklarından yararlanmak için hemen giriş yapın veya hesap oluşturun, üstelik tamamen ücretsiz!