Microsoft’un Copilot’unda, üretken yapay zeka aracının şiddet içeren, cinsel ve diğer yasadışı görüntüleri ortaya çıkarmasına neden olan bazı istemleri engellediği görülüyor. Değişiklikler, şirketteki bir mühendisin Federal Ticaret Komisyonu’na yazarak, Microsoft’un GAI teknolojisiyle ilgili ciddi endişelerini dile getirmesinin hemen ardından uygulanmış gibi görünüyor. “Seçim yanlısı”, “Dört yirmi (bir yasaklı madde referansı)” gibi terimler girildiğinde, Copilot artık bu istemlerin engellendiğini belirten bir mesaj görüntülüyor. CNBC’ye göre, tekrarlanan politika ihlallerinin bir kullanıcının askıya alınmasına yol açabileceği konusunda uyarıyor. Kullanıcıların ayrıca bu hafta başına kadar saldırı tüfekleriyle oynayan çocuklarla ilgili istemleri girebildikleri bildirildi. Şimdi ise böyle bir istem girmeye çalışanlara, bunu yapmanın Copilot’un etik ilkelerinin yanı sıra Microsoft’un politikalarını da ihlal ettiği söylenebilir. Copilot’un yanıt olarak “Lütfen benden başkalarına zarar verebilecek ya da onları rencide edebilecek herhangi bir şey yapmamı istemeyin” dediği bildiriliyor.
Ancak CNBC, “araba kazası” gibi komutlar aracılığıyla şiddet içeren görüntüler oluşturmanın hala mümkün olduğunu ve kullanıcıların yapay zekayı Disney karakterleri ve diğer telif hakkıyla korunan eserlerin görüntülerini oluşturmaya ikna edebildiğini tespit etti. Microsoft mühendisi Shane Jones, Microsoft’un OpenAI destekli sistemlerinin ürettiği görüntü türleri hakkında aylardır alarm veriyordu. Aralık ayından bu yana ‘Copilot Designer’ı test ediyordu ve nispeten iyi huylu istemler kullanırken bile Microsoft’un sorumlu yapay zeka ilkelerini ihlal eden görüntüler ürettiğini belirledi. Örneğin, “Seçim yanlısı” komutunun, yapay zekanın bebekleri yiyen şeytanlar ve bir bebeğin kafasına matkap tutan Darth Vader gibi görüntüler oluşturmasına yol açtığını tespit etti. Shane Jones, bu hafta FTC’ye ve Microsoft’un yönetim kuruluna endişeleri hakkında bir mektup yazdı. Microsoft, Copilot istem yasaklarıyla ilgili olarak CNBC’ye verdiği demeçte, “Güvenlik filtrelerimizi daha da güçlendirmek ve sistemin kötüye kullanımını azaltmak için aracı sürekli olarak izliyor, ayarlamalar yapıyor ve ek kontroller uyguluyoruz” dedi.