Dijital güvenlik ve etik yapay zeka kullanımı ile ilgili artan endişeleri gidermek için kararlı bir adım atan X (eski adıyla Twitter), Grok sohbet robotunun çalışma parametrelerini baştan aşağı yeniledi. Platform, gerçek kişilerin yer aldığı görüntülerin “rızası dışında” manipülasyonunu önlemek için özel olarak tasarlanmış sıkı koruma önlemleri getirmiştir. Bu politika değişikliği, mevcut aracın, küçükleri tasvir eden materyaller de dahil olmak üzere uygunsuz ve cinsellik barındıran içerik üretmek için kullanıldığına dair raporların ardından, kamuoyunun ve düzenleyici kurumların uzun süreli incelemesine doğrudan bir yanıt niteliğindedir.
Fotogerçekçi Manipülasyona Sert Sınırlar
Bu güncellemenin özü, kullanıcıların gizliliğini ve haysiyetini korumayı amaçlayan gelişmiş teknolojik önlemlerin uygulanmasını içeriyor. X’in güvenlik bölümünden yapılan resmi açıklamaya göre, sistem artık gerçek kişilerin fotoğraflarını mayo, bikini veya iç çamaşırı gibi açık giysilerle düzenlemeye çalışan komutları reddetmek üzere tasarlanmıştır. Bu güvenlik önlemleri evrenseldir ve abonelik durumuna bakılmaksızın platformun tüm kullanıcıları için tutarlı bir şekilde uygulanır. Yazılımın gerçek dünyadaki kişilerin kıyafetlerini “çıkarma” veya uygunsuz bir duruma getirme yeteneğini etkili bir şekilde devre dışı bırakarak, şirket, deepfake teknolojisi ve rıza dışı çıplaklık ile ilişkili riskleri azaltmayı hedefliyor.
Para Kazanma ve Erişim Kontrolünün Yeniden Yapılandırması
Bu güvenlik iyileştirmelerine paralel olarak, xAI, üretici araçlarının erişilebilirliğini yeniden yapılandırıyor. AI tarafından üretilen görüntüler oluşturma özelliği, platformun Premium kademesine özel olacak şekilde taşınıyor. Bu stratejik karar, tüm görüntü oluşturma özelliklerini abonelik sistemine taşıyarak, ödeme yapmayan kullanıcıların erişimini tamamen ortadan kaldırıyor. Ayrıca, şirket yerel mevzuatlara uyum sağlamak için coğrafi engelleme protokolleri uyguluyor. İç çamaşırı veya bikini giyen kişilerin dijital olarak üretilmesinin kanunen yasak olduğu yargı bölgelerinde, Grok, bu bölgesel yasaları sıkı bir şekilde uygulayacak ve konular gerçek dünyadaki belirli kişiler olmasa bile kullanıcıların bu tür içerikler oluşturmasını engelleyecektir.
Düzenleyici İnceleme ve Eyalet Soruşturmaları
Bu operasyonel düzenlemelerin zamanlaması, yoğunlaşan yasal baskı ile aynı zamana denk geliyor. Kaliforniya eyaleti, xAI ve Grok platformunun uygulamaları hakkında resmi bir soruşturma başlattı. Kaliforniya Başsavcısı Rob Bonta, bu soruşturmayı sentetik (yapay) çıplaklık ve potansiyel çocuk istismarı materyallerinin ele alınmasına odakladı. Soruşturma, AI tarafından bir hafta içinde üretilen 20.000 görüntülük bir örneklemeden önemli bir çoğunluğun (yarısından fazlasının) asgari düzeyde giyinik kişileri tasvir ettiğini gösteren rahatsız edici bir istatistiksel analize atıfta bulunuyor. Önemli olarak, bu veri setinin reşit olmayan kişilere benzeyen tasvirler içerdiği iddia ediliyor ve bu da çocuk güvenliği protokolleriyle ilgili acil alarmları tetikliyor.
Yapay İçeriğin Sınırlarını Tanımlama
Bu gelişmelerin ardından X, yasaklanmış içeriklere ilişkin kurumsal tutumunu yineledi. Şirket, çocuk istismarına ilişkin “sıfır tolerans” politikasını sürdürmekte ve özellikle de Çocuk Cinsel İstismarı Materyali (CSAM) ve rıza dışı samimi görüntüler gibi yüksek öncelikli ihlallerin hızla kaldırılmasını taahhüt etmektedir. Elon Musk, bu tartışmaya değinerek, mevcut sistemin, reşit olmayanların çıplaklığını ürettiği konusunda önceden bilgisi olmadığını belirtti. Ayrıca, Grok’un “NSFW” (İş Ortamına Uygun Değil) modunun amaçlanan çalışma mantığını da açıkladı. Musk’a göre, sistem, “hayali yetişkin insanlar” ile ilgili olduğu durumlarda üst vücut çıplaklığına izin verecek şekilde tasarlanmış ve R dereceli sinemalarda bulunan içerik standartlarıyla paralellik kurmuştur. Ancak, bu izinlerin farklı bölgelerin yasal çerçevelerine göre değişiklik gösterebileceğini de belirtmiştir.
Uluslararası Tepkiler ve Uyum Engelleri
Grok’un gevşek içerik denetiminin etkileri Amerika Birleşik Devletleri’nin ötesine de yayıldı ve uluslararası düzenleyicilerin anında tepki vermesine neden oldu. Malezya ve Endonezya hükümetleri, önemli güvenlik riskleri ve platformun müstehcen materyalleri yetersiz bir şekilde ele alması gerekçesiyle, hizmete olan erişimi engelleme kararı aldı. Benzer şekilde, Birleşik Krallık’ın medya düzenleyicisi Ofcom, xAI’ın faaliyetleri hakkında kendi soruşturmasını başlattı. İngiliz yetkililer, platformun Birleşik Krallık’ın sıkı çevrimiçi güvenlik standartlarını karşılamaması durumunda benzer dışlayıcı önlemleri desteklemeye hazır olduklarını belirtmiştir. Bu küresel tepki, xAI’ın üretkenlik özgürlüğü ile uluslararası “uyumluluk ve kullanıcı güvenliği” arasında bir denge kurma konusunda karşı karşıya olduğu karmaşık zorluğu vurgulamaktadır.
