Elon Musk’ın xAI şirketi, metinden görüntü ve video oluşturucu Grok Imagine’e tartışmalı bir “Spicy” modu ekledi. Yalnızca ücretli X abonelerine (SuperGrok ve Premium+ seviyeleri) sunulan bu özellik, açıkça cinsel içerikli görüntüler ve kısa video klipler üretiyor. Bu özellik, Grok’u, Not Safe For Work (NSFW) içerik üretiminden açıkça para kazanan nadir ana akım AI platformlarından biri haline getiriyor ve OpenAI ve Google gibi rakiplerinden keskin bir şekilde ayrılıyor.
Moderasyon Eksiklikleri Ortaya Çıktı
Bir teknoloji portalı tarafından yapılan ilk testler, “tutarsız güvenlik önlemlerini” ortaya çıkardı. Bazı komutlar bulanık çıktılar veya moderasyon engellerini tetiklerken, platform, istek üzerine “yarı çıplak görüntüler” üretti. Görüntüler saniyeler içinde işleniyor ve kullanıcılar kaydırdıkça otomatik olarak birden fazla varyasyon üretiliyor. Filtreleri atlatmanın bu kadar kolay olması, rıza dışı samimi görüntüler, deepfake’ler ve reşit olmayan içeriklerin önlenmesi konusunda acil endişeler uyandırıyor.
Ünlüler İçin Güvenlik Önlemleri
Grok Imagine, ünlülerin içeriklerini oluşturmak için bazı kısıtlamalar içeriyor. Örneğin, “Hamile Donald Trump” görüntüsü oluşturma girişimleri başarısız oldu. Ancak sistem, Trump’ın hamile bir kadınla yan yana veya bir bebek tutarken görüntülerini oluşturarak bu kısıtlamayı atlattı. Bu, kullanıcıların, güvenlik önlemlerine rağmen ünlülerle ilgili potansiyel olarak zararlı veya yanıltıcı içerikler üretebilecekleri boşluklar olduğunu gösteriyor. Elon Musk, şirketinin en son oyuncağına beklendiği gibi çok hevesli.
Önemli Noktaları Atlamamak Lazım
- Spicy Modu: Spicy Modu’nu kullanırken yapılan talepler, cinsel içerikli veya yarı çıplak görüntüler ve kısa videolar üretiyor.
- Kullanılabilirlik: Grok Imagine, yalnızca ücretli “SuperGrok” ve “Premium+” X (eski adıyla Twitter) aboneleri tarafından kullanılabiliyor.
- Ünlü Kişilerle İçerik Üretimi: Araç, ünlülerle ilgili içerikler de oluşturabiliyor, ancak bu konuda ek kısıtlamalar olduğu belirtiliyor.
- Musk’ın Yorumları: Elon Musk, Grok Imagine’dan oldukça heyecanlı. X’te yaptığı paylaşımlarda, bir günde oluşturulan görüntü sayısının 14 milyondan 20 milyona yükseldiğini belirtmiş ve aracı “meme ana kaynağı” olarak tanımlamış. Ayrıca mevcut yeteneklerin zamanla “radikal bir şekilde gelişeceğini” vaat ediyor.
- Diğer Özellikler: Görüntülerin birkaç saniyede oluşturulduğu ve kullanıcı aşağı kaydırdıkça daha fazla görüntünün otomatik olarak üretildiği belirtiliyor.
Elon Musk, Viral Yayılmayı Övüyor
Elon Musk, aracın büyümesini aktif olarak destekliyor ve X’te, Grok Imagine’in bir gün içinde 20 milyon görüntü ürettiğini duyurdu. Bu, sadece 24 saat öncesine göre 14 milyonluk bir artış anlamına geliyor. Elon Musk, aracın “meme hazinesi” olarak potansiyelini savunuyor ve yeteneklerinin “radikal bir şekilde gelişeceğini” vaat ediyor. Bu agresif tanıtım, Elon Musk’ın X’te içerik denetimini gevşetme geçmişiyle birleşince, NSFW (Not Safe For Work) özelliğinin etik açıdan sağlam bir denetime tabi tutulacağına dair şüpheleri artırıyor. Girişim, kritik güvenlik mekanizmaları yetersiz görünürken, hızlı kullanıcı kazanımı ve viral olmayı önceliklendiriyor. Grok Imagine’in piyasaya sürülmesi, xAI’ı, yapay zeka içerik üretiminin sınırlarını zorlayan önemli bir oyuncu olarak konumlandırıyor. Bu hamle, dijital etik ve içerik düzenlemesi konusunda tartışmaları alevlendirmeye devam edecek gibi görünüyor.
