1. Ana Sayfa
  2. Yapay Zeka
  3. Microsoft’un Copilot’u artık şiddet ve cinsellik içeren görüntüler oluşturan bazı istemleri engelliyor

Microsoft’un Copilot’u artık şiddet ve cinsellik içeren görüntüler oluşturan bazı istemleri engelliyor

featured

Microsoft’un Copilot’unda, üretken yapay zeka aracının şiddet içeren, cinsel ve diğer yasadışı görüntüleri ortaya çıkarmasına neden olan bazı istemleri engellediği görülüyor. Değişiklikler, şirketteki bir mühendisin Federal Ticaret Komisyonu’na yazarak, Microsoft’un GAI teknolojisiyle ilgili ciddi endişelerini dile getirmesinin hemen ardından uygulanmış gibi görünüyor. “Seçim yanlısı”, “Dört yirmi (bir yasaklı madde referansı)” gibi terimler girildiğinde, Copilot artık bu istemlerin engellendiğini belirten bir mesaj görüntülüyor. CNBC’ye göre, tekrarlanan politika ihlallerinin bir kullanıcının askıya alınmasına yol açabileceği konusunda uyarıyor. Kullanıcıların ayrıca bu hafta başına kadar saldırı tüfekleriyle oynayan çocuklarla ilgili istemleri girebildikleri bildirildi. Şimdi ise böyle bir istem girmeye çalışanlara, bunu yapmanın Copilot’un etik ilkelerinin yanı sıra Microsoft’un politikalarını da ihlal ettiği söylenebilir. Copilot’un yanıt olarak “Lütfen benden başkalarına zarar verebilecek ya da onları rencide edebilecek herhangi bir şey yapmamı istemeyin” dediği bildiriliyor.

Bunları okudun mu?
Google-Gemini-8589325394875374537845783458
Google Gemini, Mesajlar’a geliyor ve Android Auto için yapay zeka metin özetleri ekleniyor
iPhone-15-8511323232-565648789789
Birçok iPhone 15 kullanıcısı hala Bluetooth bağlantı sorunlarıyla karşı karşıya
Nokia-2024-658767787
Nokia’nın 2024 yılında 17’den fazla modeli piyasaya sürmesi bekleniyor
Threads-AB-34586987547
Threads nihayet Avrupa’da piyasaya çıkıyor
Threads-Logo-HD-543453
Instagram şefi, Threads’in geliştiriciler için bir API üzerinde çalıştığını söyledi
Open-AI-9034534934
Bir sonraki DALL-E, ChatGPT içinde sonuç üretebilecek

Ancak CNBC, “araba kazası” gibi komutlar aracılığıyla şiddet içeren görüntüler oluşturmanın hala mümkün olduğunu ve kullanıcıların yapay zekayı Disney karakterleri ve diğer telif hakkıyla korunan eserlerin görüntülerini oluşturmaya ikna edebildiğini tespit etti. Microsoft mühendisi Shane Jones, Microsoft’un OpenAI destekli sistemlerinin ürettiği görüntü türleri hakkında aylardır alarm veriyordu. Aralık ayından bu yana ‘Copilot Designer’ı test ediyordu ve nispeten iyi huylu istemler kullanırken bile Microsoft’un sorumlu yapay zeka ilkelerini ihlal eden görüntüler ürettiğini belirledi. Örneğin, “Seçim yanlısı” komutunun, yapay zekanın bebekleri yiyen şeytanlar ve bir bebeğin kafasına matkap tutan Darth Vader gibi görüntüler oluşturmasına yol açtığını tespit etti. Shane Jones, bu hafta FTC’ye ve Microsoft’un yönetim kuruluna endişeleri hakkında bir mektup yazdı. Microsoft, Copilot istem yasaklarıyla ilgili olarak CNBC’ye verdiği demeçte, “Güvenlik filtrelerimizi daha da güçlendirmek ve sistemin kötüye kullanımını azaltmak için aracı sürekli olarak izliyor, ayarlamalar yapıyor ve ek kontroller uyguluyoruz” dedi.

3
mutlu
Mutlu
1
_z_c_
Üzücü
5
aboo
Aboo
5
bay_ld_m
Bayıldım
0
sinirli
Sinirli
Microsoft’un Copilot’u artık şiddet ve cinsellik içeren görüntüler oluşturan bazı istemleri engelliyor

Giriş Yap

gigahaber ayrıcalıklarından yararlanmak için hemen giriş yapın veya hesap oluşturun, üstelik tamamen ücretsiz!