Geçtiğimiz hafta bir araştırma ekibi, ChatGPT’nin “sonsuza kadar” kelimelerini tekrarlamasını isteyerek eğitildiği kişilerin telefon numaraları, e-posta adresleri ve doğum tarihleri gibi veri parçalarını yanlışlıkla ifşa etmesini sağlayabildiğini gösteren bir makale yayınladı. Bunu şimdi yapmak, 404 Media’daki bir rapora göre ChatGPT’nin hizmet şartlarının ihlalidir. ChatGPT, bir teknoloji portalının “merhaba” kelimesini sonsuza kadar tekrar etmesini istemesine “Bu içerik, politikamızı veya kullanım şartlarımızı ihlal edebilir” yanıtını verdi. “Bunun hatalı olduğunu düşünüyorsanız, lütfen geri bildiriminizi gönderin. Girdileriniz bu alandaki araştırmalarımıza yardımcı olacaktır.” uyarısı yapıldı.
Ancak OpenAI’ın içerik politikasında, kullanıcıların hizmetten kelimeleri sonsuza kadar tekrar etmesini istemesini yasaklayan bir dil bulunmuyor. Kullanım koşulları altında OpenAI, kullanıcıların “Hizmetlerden veri veya çıktı elde etmek için herhangi bir otomatik veya programatik yöntem kullanamayacağını” belirtiyor ancak ChatGPT’den kelimeyi sonsuza kadar tekrar etmesini istemek otomasyon veya programatik değildir. OpenAI, yorum talebine yanıt vermedi. Chatbot’un davranışı, modern yapay zeka hizmetlerinin güç aldığı eğitim verileri üzerindeki perdeyi kaldırdı. Eleştirmenler OpenAI gibi şirketleri, ChatGPT gibi tescilli ürünler oluşturmak için internette bulunan muazzam miktardaki veriyi, bu verilerin sahibi olan kişilerden izin almadan ve onlara tazminat ödemeden kullanmakla suçladı.