1. Ana Sayfa
  2. Yapay Zeka
  3. Microsoft’un, WizardLM 2 modeli toksisite testi sürecindeki dikkatsizlik nedeniyle geri çekildi

Microsoft’un, WizardLM 2 modeli toksisite testi sürecindeki dikkatsizlik nedeniyle geri çekildi

featured
service
0
Paylaş

Bu İçeriği Paylaş

ya da bağlantıyı kopyala

Geçtiğimiz hafta Microsoft araştırmacıları güçlü bir açık kaynak dil modeli olan ‘WizardLM 2’yi tanıttı. Ancak, zorunlu “toksisite testi” sürecindeki bir dikkatsizlik nedeniyle model hızla internetten çekildi. Kısa süreliğine erişilebilir olmasına rağmen, birkaç kişi modeli Github ve Hugging Face platformlarında elde etmeyi ve yeniden dağıtmayı başardı. WizardLM 2’nin geliştiricileri, daha önce bu modeli Microsoft’un “yeni nesil son teknoloji ürünü büyük dil modeli” olarak lanse etmişti. WizardLM 2’nin benzersiz yönü ise eğitim yöntemidir. Model, insan tarafından üretilen verileri kullanmak yerine, diğer yapay zeka sistemleri tarafından üretilen “sentetik” verilerle eğitilmiştir. Projenin arkasındaki araştırmacılar, insan tarafından üretilen veriler, büyük dil modeli (LLM) eğitimi için daha az uygulanabilir hale geldikçe, bu yaklaşımın daha sağlam yapay zeka modellerine yol açacağından eminler.

Bunları okudun mu?
Apple-Logo-12121-7878
Apple; iPhone, iPad ve Mac’teki iki güvenlik açığını yamaladı
Red-Dead-Redemption-325678965423678
Rockstar, Red Dead Redemption portunu PS5’te 60 fps’de çalışacak şekilde güncelledi
Google-Chrome-1100182746
Google, spam ve reklamları azaltmak için Chrome’dan 32 kötü amaçlı uzantıyı kaldırdı
Windows-11-8768768678678
Microsoft, Windows 11’in yeni dosya gezgini özelliği üzerinde çalışıyor
Twitter-4719531
Twitter, 200 milyon hesaptan sızdırılan verilerin kendi sistemlerinden geldiğini yalanladı
app-security
Google, Samsung ve LG telefonlarının, sızdırılan sertifikalar nedeniyle güvenlik açığına sahip olduğunu buldu

Bu yenilikçi teknik, gelecekteki yapay zeka modellerinin geliştirilmesinde önemli bir değişime işaret ediyor. WizardLM 2’nin performansı, büyük dil modelleri için otomatik bir değerlendirme yöntemi olan ‘MT-Bench’ kullanılarak değerlendirilmiş ve sonuçlar GPT-4-Turbo ve Claude-3 gibi gelişmiş modellerle karşılaştırıldığında son derece iyi performans gösterdiğini ortaya koymuştur. LLM’leri değerlendirmek yapay zeka alanında kesin bir bilim olmasa da, bu bulgular zorlu bir model geliştirildiğini göstermektedir. WizardLM 2 modelinin piyasaya sürülmesi ve ardından geri çağrılması @WizardLMAI X hesabı üzerinden duyuruldu. @WizardLMAI 16 Nisan’da, “Modelin piyasaya çıkarılma sürecinde gerekli olan bir öğeyi (toksisite testini) yanlışlıkla atladık” şeklinde bir özür tweet’i attı. Takipçilerine bu testi hızla gerçekleştirdiklerini ve ilk fırsatta modeli yeniden piyasaya süreceklerini belirttiler. Bu olay, Microsoft’un yapay zeka modellerinin gerekli tüm güvenlik standartlarını karşılamasını sağlama konusundaki kararlılığını vurgulamaktadır.

Microsoft’un, WizardLM 2 modeli toksisite testi sürecindeki dikkatsizlik nedeniyle geri çekildi
+ - 0

Giriş Yap

58.000'den fazla üyemizin arasına siz de hemen katılın veya oturum açın.

Bu Haberi gAI Zetta'ya Sor!