Google araştırmacıları, yakın zamanda yayınlanan bir makalede, arama motoru devinin kendisinin bu teknolojiyi geniş kullanıcı tabanına güçlü bir şekilde tanıttığı ironisine dikkat çekerek, üretken yapay zekanın internet üzerindeki etkisi konusunda alarm verdiler. Henüz hakem incelemesinden geçmemiş olan ve 404 Media tarafından öne çıkarılan çalışma, üretken yapay zeka kullanıcılarının önemli bir kısmının teknolojiyi “özgünlük ve aldatma arasındaki çizgileri bulanıklaştırmak” için kullandığını ortaya koyuyor. Bu, internette görüntüler ve videolar gibi sahte veya üzerinde oynanmış ve yapay zeka tarafından oluşturulmuş içerik yayınlamayı da içeriyor. Araştırmacılar, üretken yapay zeka üzerine mevcut araştırmaları analiz etti ve kötüye kullanımını belgeleyen yaklaşık 200 haber makalesini inceledi. Bulgular, insan benzerliğini manipüle etmenin ve kanıtları tahrif etmenin gerçek dünya senaryolarında kullanılan en yaygın taktikler arasında olduğunu gösteriyor. Bu faaliyetler genellikle kamuoyunu etkilemeyi, dolandırıcılık veya sahtekarlık faaliyetlerini kolaylaştırmayı veya kâr elde etmeyi amaçlamaktadır. Üretken yapay zeka sistemlerinin giderek daha gelişmiş ve erişilebilir hale gelmesi ve minimum teknik uzmanlık gerektirmesi önemli bir endişe kaynağı. Araştırmacılara göre bu durum, insanların “sosyo-politik gerçeklik veya bilimsel fikir birliği konusundaki kolektif anlayışını” çarpıtıyor. Makalede dikkat çeken bir eksiklik, Google’ın üretken yapay zeka ile ilgili kendi yanlış adımlarından bahsedilmemesidir. Dünyanın en büyük şirketlerinden biri olan Google, bu teknolojiyi kullanırken zaman zaman önemli hatalar yapmıştır.
Çalışma, üretken yapay zekanın yaygın bir şekilde kötüye kullanılmasının, teknolojinin amaçlanan işlevini çok iyi bir şekilde yerine getirdiğini gösterdiğini öne sürüyor. İnsanlar büyük miktarlarda sahte içerik üretmek için üretken yapay zekayı kullanıyor ve interneti yapay zeka tarafından üretilen yanlış bilgilerle etkili bir şekilde dolduruyor. Bu durum, sahte görseller ve bilgiler de dahil olmak üzere bu sahte içeriğe yalnızca izin vermekle kalmayıp bazen kaynağı olan Google tarafından daha da kötüleştirilmektedir. Bu tür içeriklerin çoğalması, insanların gerçek ve sahte bilgileri ayırt etme becerilerini zorluyor. Araştırmacılar, düşük kaliteli, spam benzeri ve kötü niyetli sentetik içeriğin kitlesel üretiminin, halkın dijital bilgiye yönelik şüpheciliğini artırdığı konusunda uyarıyor. Ayrıca kullanıcılara çevrimiçi ortamda karşılaştıkları şeylerin gerçekliğini doğrulama ihtiyacıyla aşırı yük bindiriyor. Daha da rahatsız edici olanı, araştırmacılar, yüksek profilli kişilerin olumsuz kanıtları yapay zeka tarafından üretildiği gerekçesiyle reddedebildiği ve kanıt yükünü maliyetli ve verimsiz yollarla değiştirebildiği örneklere dikkat çekiyor. Bu taktik hesap verebilirliği zayıflatıyor ve doğrulama sürecini zorlaştırıyor. Google gibi şirketler yapay zekayı ürünlerine entegre etmeye devam ettikçe, bu sorunların yaygınlığının artması bekleniyor. Araştırma, çevrimiçi bilgilerin bütünlüğünü korumada üretken yapay zekanın ortaya çıkardığı zorlukları ele almak için ihtiyatlı olma ve sağlam önlemler alma ihtiyacının altını çiziyor.
