eleneksel filigran, sahteciliği engellemek adına cüzdanınızdaki paradan, kimlik kartına kadar her şeyin üzerinde görülebilen bir logo veya desendir. Örneğin mezuniyet fotoğraflarınızın önizlemesinde bir filigran görmüş olabilirsiniz. Ancak yapay zeka söz konusu olduğunda, bu alandaki çoğu şeyin genellikle yaptığı gibi, bu durum biraz değişiyor. Yapay zeka bağlamında filigran, bir bilgisayarın bir metnin ya da görüntünün yapay zeka tarafından üretilip üretilmediğini tespit etmesini sağlayabilir. Ama başlangıçta neden görüntüleri filigranlayalım? Üretken sanat, derin sahteciliklerin ve diğer yanlış bilgilerin üretilmesi için önemli bir zemin oluşturur. Dolayısıyla, çıplak gözle görülememesine rağmen filigranlar yapay zeka tarafından üretilen içeriğin kötüye kullanımıyla mücadele edebilir ve hatta Google gibi teknoloji devleri tarafından geliştirilen makine öğrenimi programlarına entegre edilebilir. OpenAI’dan Meta ve Amazon’a kadar bu alandaki diğer büyük oyuncular da yanlış bilgiyle mücadele etmek için filigran teknolojisi geliştirme sözü verdi. Bu nedenle Maryland Üniversitesi’ndeki (UMD) bilgisayar bilimleri araştırmacıları, kötü niyetli kişilerin filigran eklemesinin veya kaldırmasının ne kadar kolay olduğunu incelemeyi ve anlamayı kendilerine görev edindiler. UMD’de profesör olan Soheil Feizi Wired’a verdiği demeçte, ekibinin bulgularının bu noktada güvenilir bir filigran uygulaması olmadığı yönündeki şüphelerini doğruladığını söyledi. Araştırmacılar test sırasında mevcut filigranlama yöntemlerinden kolayca kaçabildiler ve yapay zeka tarafından oluşturulmayan görüntülere sahte amblemler eklemenin daha da kolay olduğunu gördüler. Ancak filigranlardan kaçmanın ne kadar kolay olduğunu test etmenin ötesinde, bir UMD ekibi, fikri mülkiyetten tamamen ödün vermeden içerikten çıkarılması neredeyse imkansız olan bir filigran geliştirdi. Bu uygulama, ürünlerin çalındığını tespit etmeyi mümkün kılıyor.
alifornia Üniversitesi, Santa Barbara ve Carnegie Mellon Üniversitesi arasındaki benzer bir ortak araştırma çalışmasında görevliler, simüle edilmiş saldırılar yoluyla filigranların kolayca çıkarılabildiğini bulmuşlardır. Makale, bu saldırılar yoluyla filigranları ortadan kaldırmak için iki farklı yöntem olduğunu ortaya koyuyor: Yıkıcı ve yapıcı yaklaşımlar. Yıkıcı saldırılar söz konusu olduğunda, kötü aktörler filigranlara görüntünün bir parçasıymış gibi davranabilir. Parlaklık, kontrast ya da JPEG sıkıştırması kullanmak gibi ince ayarlar yapmak, hatta basitçe bir görüntüyü döndürmek bile filigranı kaldırabilir. Ancak buradaki sorun, bu yöntemlerin filigrandan kurtulurken aynı zamanda görüntü kalitesini de bozarak fark edilir derecede kötüleştirmesidir. Yapıcı bir saldırıda, filigran kaldırma biraz daha hassastır ve eski güzel Gauss bulanıklığı gibi teknikler kullanır. Yapay zeka tarafından üretilen içeriğin filigranlanmasının, bu araştırma çalışmalarında yer alanlara benzer simüle edilmiş testlerden başarıyla geçebilmesi için gelişmesi gerekse de, dijital filigranlamanın bilgisayar korsanlarına karşı rekabetçi bir yarış haline geldiği bir senaryo öngörmek kolaydır. Yeni bir standart geliştirilinceye kadar, Google’ın SynthID’si gibi yeni araçlar söz konusu olduğunda sadece en iyisini umabiliriz; bu, ana akıma ulaşana kadar geliştiriciler tarafından çalışılmaya devam edecek olan üretken sanat için bir tanımlama aracıdır. Ancak düşünce liderlerinin yenilikçiliği için zamanlama daha iyi olamazdı. Amerika Birleşik Devletleri’ndeki 2024 başkanlık seçimleri yakında merkez sahneye çıkmaya hazırlanırken, yapay zeka tarafından üretilen içerik, derin sahte reklamlar gibi şeylerle siyasi görüşü etkilemede büyük bir rol oynayabilir. Hatta Biden yönetimi, yapay zekanın özellikle yanlış bilgilendirme alanında yıkıcı amaçlar için nasıl kullanılabileceğine dair makul endişeler olduğunu belirterek konuya dikkat çekti.