Bloomberg’e göre, araçlarıyla ses klonlama hizmetleri sunan bir yapay zeka girişimi olan ElevenLabs, seçimleri bozma girişiminde kullanılan Joe Biden’ın ses deepfake’ini oluşturan kullanıcıyı yasakladı. ABD Başkanı’nı taklit eden ses, geçen hafta New Hampshire’daki bazı seçmenlere gönderilen ve eyaletlerindeki ön seçimlerde oy kullanmamalarını söyleyen bir robocall’da kullanıldı. Başlangıçta Biden’ın sesini kopyalamak için hangi teknolojinin kullanıldığı net değildi, ancak güvenlik şirketi Pindrop tarafından yapılan kapsamlı bir analiz, faillerin ElevanLabs’ın araçlarını kullandığını gösterdi. Güvenlik firması, arka plandaki gürültüyü kaldırdı ve robocall’un sesini temizledikten sonra deepfake üretmek için kullanılan 120’den fazla ses sentezleme teknolojisinden alınan örneklerle karşılaştırdı. Pindrop CEO’su Vijay Balasubramaniyan Wired’a verdiği demeçte “ElevenLabs’a ait olduğu yüzde 99’un çok üzerinde bir oranla ortaya çıktı” dedi. Bloomberg, şirketin Pindrop’un bulgularından haberdar edildiğini ve araştırma çalışmalarının sürdüğünü, sahte sesi oluşturan hesabı tespit ettiğini ve askıya aldığını söylüyor.
ElevenLabs haber kuruluşuna konuyla ilgili yorum yapamayacağını, ancak “kendini ses yapay zekası araçlarının kötüye kullanımını önlemeye adadığını ve kötüye kullanım olaylarını son derece ciddiye aldığını” söyledi. ‘Deepfaked Biden Robocall’, başka birinin benzerliğini ve sesini taklit edebilen teknolojilerin ABD’de yaklaşan başkanlık seçimlerinde oyları manipüle etmek için nasıl kullanılabileceğini gösteriyor. Carnegie Mellon Üniversitesi profesörlerinden Kathleen Carley The Hill’e verdiği demeçte, “Bu durum, seçmenlerin bastırılması ya da seçim çalışanlarına yönelik saldırılarla ilgili olarak yapılabilecekler açısından buzdağının sadece görünen kısmı. Bu, önümüzdeki birkaç ay boyunca beklememiz gereken her türlü şeyin neredeyse bir habercisiydi.” dedi. ElevenLabs, beta sürümünü piyasaya sürmesinden sadece birkaç gün sonra, ünlülerin okuduğu ya da şüpheli bir şey söylemiş gibi ses çıkaran klipler oluşturmak için kullanılmaya başlandı. Girişim, müşterilerinin teknolojisini “kamusal tartışmalara katkıda bulunan sanatsal ve siyasi konuşmalar” için sesleri klonlamak üzere kullanmalarına izin veriyor. Güvenlik sayfası, kullanıcıları “dolandırıcılık, ayrımcılık, nefret söylemi gibi kötü niyetli amaçlarla ya da yasaları ihlal etmeden herhangi bir çevrimiçi istismar için ses klonlayamayacakları” konusunda uyarıyor. Ancak, kötü niyetli kişilerin seçmenleri etkilemek ve dünya çapında seçimleri manipüle etmek için araçlarını kullanmasını önlemek için daha fazla koruma önlemi alması gerektiği açık.