Google, kendi platformu Google Play üzerinden dağıtılan yapay zeka uygulamaları oluşturan geliştiriciler için yeni kurallar getirdi. Teknoloji devi, bu uygulamaların cinsellik ve şiddet barındıran materyaller de dahil olmak üzere kısıtlanmış içeriklerin oluşturulmasını engellemesini zorunlu kılarak uygunsuz ve yasaklanmış içeriklerin dolaşımını engellemeyi amaçlıyor. Ayrıca bu uygulamalar, kullanıcıların, karşılaştıkları rahatsız edici içerikleri bildirmeleri için bir sistem sağlamak zorunda kalacaklar. Google ayrıca, geliştiricilerin kullanıcı güvenliği ve gizliliğini sağlamak için yapay zeka araçlarını ve modellerini “titizlikle test etmeleri” gerektiğini vurguladı. Google ayrıca pazarlama materyallerinde uygunsuz kullanım durumlarını teşvik eden uygulamalara karşı da harekete geçiyor. İnsanları soyabileceklerini veya rıza dışı çıplak görüntüler oluşturabileceklerini öne süren uygulamalar, bunu gerçekten yapıp yapamadıklarına bakılmaksızın, Google Play’den yasaklanabilir. Bu hamle, sosyal medya platformlarında kendi reklamlarını yapan yapay zeka güdümlü soyunma uygulamalarının artan sorununa bir yanıt niteliği taşıyor. Şirketin yeni yönergeleri, bu tür içeriklerin kötüye kullanımını ve dolaşımını önlemeyi amaçlıyor. Yapay zeka uygulamalarının kullanımı ABD’deki okullara kadar yayıldı ve öğrencilerin bu uygulamaları ‘deepfake’ çıplak resimler oluşturmak ve zorbalık etmek amacıyla kullandıkları bildirildi. Örneğin, bir okul müdürünün ırkçı bir yapay zeka ‘deepfake’i kullanması tutuklanmasına neden oldu.
Google, yeni politikalarının, potansiyel olarak zararlı veya yapay zeka tarafından üretilmiş uygunsuz içeriklere sahip uygulamaların Google Play’den çıkarılmasına yardımcı olacağına ve böylece hızla büyüyen bu sorunu ele alacağına inanıyor. Google, yapay zeka uygulamalarının geliştiricileri için birtakım sorumluluklar belirledi. Bunlar arasında, kısıtlanmış herhangi bir içeriğin oluşturulmasına izin vermemek, kullanıcılara saldırgan ve uygunsuz içerikleri işaretlemeleri için bir araç sağlamak yer alıyor. Geliştiricilerin, uygulamalarının Google Play’in kurallarından herhangi birini ihlal etme kabiliyetinin reklamını yapmaları da yasaklanmıştır. Ayrıca, uygulamalarını, yapay zeka özelliklerini zararlı ve saldırgan içerik oluşturmak için manipüle edebilecek yönlendirmelere karşı korumakla görevlendirildiler. Google, geliştiricilere yapay zeka uygulamalarını piyasaya sürmeden önce titizlikle test etmelerini şiddetle tavsiye ediyor. Teknoloji devi, her türlü geri bildirim için uygulamaların ilk sürümlerini kullanıcılarla paylaşmak üzere kapalı test özelliğini kullanmayı öneriyor. Bu testler yalnızca yapılmakla kalmamalı, aynı zamanda Google, gelecekte bunları gözden geçirmeyi talep edebileceğinden belgelenmelidir. Teknoloji devi ayrıca, geliştiricilere yapay zeka uygulamaları oluşturmada yardımcı olmak için tasarlanan “People + AI Guidebook” gibi ek kaynaklar da yayınlıyor.