1990 yapımı fantastik drama filmi Truly, Madly, Deeply’nin baş karakteri Nina (Juliet Stevenson), erkek arkadaşı Jamie’nin (Alan Rickman) ölümünün yasını tutmaktadır. Onun derin üzüntüsünü hisseden Jamie, kaybını atlatmasına yardımcı olmak için hayalet olarak geri döner. Eğer filmi izlediyseniz, Jamie’nin yeniden ortaya çıkışının onu Jamie’yle ilgili anılarını sorgulamaya ve belki de onun hatırladığı kadar mükemmel olmadığını kabul etmeye zorladığını bilirsiniz. 2023 yılında, yapay zeka tabanlı yeni bir “yas teknolojisi” dalgası, hepimize sevdiklerimizle ölümlerinden sonra farklı şekillerde vakit geçirme şansı sunuyor. Ancak (Nina’yı iyiliksever bir şekilde yanlış yönlendiren) Jamie’nin aksine, yapay zekânın hayatta bıraktıklarımızın bir versiyonunu sunmasına izin vermemiz isteniyor. Ne yanlış gidebilir ki? ChatGPT ve Midjourney gibi üretken araçlar yapay zeka sohbetine hakim olurken, keder ve yas gibi konularla ilgili daha büyük etik soruları genel olarak görmezden geliyoruz. Papa’nın puffa giymesi havalı bir şey ama öldükten sonra sevdiklerinizi düşünmek? O kadar da değil. Ölüler için yapay zeka avatarları üretmenin hala bir çıkış yolu olduğunu düşünüyorsanız, yanılıyorsunuz. En azından bir şirket şimdiden dijital ölümsüzlük sunuyor ve ürkütücü olduğu kadar maliyetli de.
Örneğin Re;memory, Deepbrain AI tarafından sunulan bir hizmet, ana işi yapay zeka haber sunucularının yanı sıra “sanal asistan” tipi interaktif ekranları da içeren bir şirket. Koreli firma, sohbet robotları ile yapay zeka videolarını bir araya getirme konusundaki deneyimini nihai ve ürkütücü bir sonuca ulaştırdı. Sadece 10.000 dolar ve bir stüdyoda geçireceğiniz birkaç saat karşılığında, ailenizin tesis dışında ziyaret edebileceği (ek bir ücret karşılığında) bir avatar oluşturabilirsiniz. Deepbrain’in merkezi Kore’de bulunuyor ve Kore yas gelenekleri arasında, ölen kişinin ebedi istirahatgahına yapılan yıllık bir ziyaret olan “Jesa” da yer alıyor. Şu anda, şirketin kendi itirafına göre bile, hizmet kişiliklerini çok fazla derinlikle kopyaladığını iddia etmiyor. Eğitim seti avatarın yalnızca bir “ruh haline” sahip olmasını sağlıyor. Deepbrain İş Geliştirme ve Strateji Lideri Michael Jung şunları söyledi: “Eğer çok eğlenceli bir Michael olmak istiyorsam, 300 satır boyunca çok hiper ya da eğlenceli sesler okumam gerekiyor. O zaman metni (avatara) her girdiğimde çok heyecan verici bir Michael’a sahip olacağım” dedi. Re;memory şu anda öznenin gerçek bir kopyasını oluşturmaya çalışmıyor. Ara sıra ziyaret edebileceğiniz ve temel etkileşimlerde bulunabileceğiniz bir şey ancak sanal bir otel resepsiyonundan biraz daha fazla karakter olmasını umuyor.
Re;memory, sorularınıza yanıt verebilen bir video avatar olma avantajına sahipken, ses tabanlı ‘HereAfter AI’ bir dizi soruyla kişiliğinizi biraz daha yakalamaya çalışıyor. Sonuç, arkadaşlarınızın ve ailenizin etkileşime girebileceği, sözlü yanıtlar ve hatta geçmişten hikayeler ve anekdotlar alabileceği sesli bir sohbet robotu. Tüm hesaplara göre, önceden eğitilmiş sohbet robotları sahiplerinin sesleriyle ikna edici yanıtlar veriyor, ta ki robotun “Üzgünüm, bunu anlamadım. Başka bir şekilde sormayı deneyebilir ya da başka bir konuya geçebilirsiniz.” cevabını verene kadar. Bu teknolojilerin gerçekçi bir avatar oluşturup oluşturmaması birincil mesele değil. Yapay zeka öyle bir hızla ilerliyor ki kesinlikle gelişecek. Daha zor sorular, siz öldükten sonra bu avatarın kime ait olacağı etrafında dönüyor. Ya da anılarınız ve verileriniz güvende mi? Ve tüm bunların geride bıraktıklarımız üzerinde nasıl bir etkisi olabilir? Hertie School of Governance’da Etik ve Teknoloji Profesörü olan Joanna Bryson, mevcut yas teknolojisi dalgasını Facebook’un gençler arasında daha popüler olduğu zamanlara benzetiyor. O zamanlar, vefat eden arkadaşlarını anmak için yaygın bir yerdi ve bunun duygusal etkisi çarpıcıydı. “Bu o kadar yeni ve anında bir iletişim biçimiydi ki, çocuklar onların öldüğüne inanamıyordu. Ve ölmüş arkadaşlarının bunu okuduğuna ciddi ciddi inanıyorlardı. Ve ‘Biliyorum, bunu görüyorsun’ diyorlar.” Yapay zeka avatarlarının getirdiği ekstra boyut, bu üretimlerin yas tutan beyinlerimiz üzerinde oluşturabileceği etkiye ilişkin endişeleri daha da artırıyor. “Zamanınızı hatırlamakla geçiriyor olmanız hayatınıza ne katıyor… belki bir süreliğine bunu işlemek için zaman ayırmak iyi olabilir. Ancak bu sağlıksız bir takıntıya dönüşebilir.”
Bryson, aynı teknolojinin başlangıçta amaçlanmadığı şekillerde kullanılmaya başlanabileceğini de düşünüyor. “Ya ergenlik çağında bir gençseniz ve tüm zamanınızı en iyi arkadaşınızla telefonda geçiriyorsanız. Sonra en iyi arkadaşınızla Justin Bieber’ın bir sentezini (yapay zeka) tercih ettiğinizi fark edersiniz. Ve gerçek en iyi arkadaşınızla konuşmayı bırakıyorsunuz” dedi. Tabii ki bu senaryo mevcut yeteneklerin ötesinde. En azından yaşayan en iyi arkadaşımızın bir yapay zeka versiyonunu oluşturmak için o kadar çok veriye ihtiyacımız olacak ki, bu süreçte onların da katılımına ya da onayına ihtiyacımız olacak. Ancak bu durum daha uzun süre geçerli olmayabilir. Son zamanlarda ünlü sanatçıların tarzında sahte yapay zeka şarkıları zaten mümkün ve üretken bir yapay zekayı beslemek için yeterince kamuya açık girdi olması için ünlü olmanıza gerek kalmaması çok uzun sürmeyecek. Örneğin Microsoft’un VALL-E’si, sadece üç saniyelik kaynak materyalle bir sesi klonlama konusunda şimdiden iyi bir iş çıkarabiliyor. Eğer ölmüş bir akrabanızın eşyalarını karıştırma talihsizliğini yaşadıysanız, genellikle onlar hakkında hiç bilmediğiniz şeyler öğrenirsiniz. Belki de bu, bir kitaptaki altı çizili yazılarından belli bir şiir türüne olan düşkünlükleridir. Ya da belki de daha kötü bir şeydir, örneğin banka hesap özetlerinde felç edici bir borç görülmüştür. Hepimizin bizi karmaşık, eksiksiz insanlar yapan detayları vardır. Çoğu zaman kasıtlı olarak kamusal kişiliğimizden saklı tutulan ayrıntılar. Bu durum, zamanın eskitemediği bir başka etik muammayı ortaya çıkarıyor.
İnternet, ebeveynlerin ve sevdiklerinin, ölen yakınlarının e-posta ya da mesajlaşma hesaplarına erişerek onları hatırlamak istedikleri hikayelerle dolup taşıyor. İyi ya da kötü, yakın ailemize cinsel kimliğimizi, politik görüşümüzü ya da eşimizin bir ilişkisi olduğunu, özel dijital mesajlarımızın ortaya çıkarabileceği her şeyi söylemek konusunda kendimizi rahat hissetmeyebiliriz. Ve eğer dikkatli olmazsak, bu veriler eğitim için istemeden yapay zekaya verdiğimiz veriler olabilir, fakat ölümünden sonra bu sırrı ortaya çıkarması için. Yapay zekada yeniden oluşturulan kişinin rızası olsa bile, başka birinin sizin dijital versiyonunuzu ele geçirip kötüye kullanamayacağına dair hiçbir güvence yoktur. Ve şu anda bu, genel olarak birinin kredi kartı bilgilerinizi çalması ile aynı suç kapsamına giriyor. Ta ki bununla kamuya açık bir şey yapana kadar, bu noktada tanıtım hakkı gibi diğer yasalar geçerli olabilir ancak genellikle bu korumalar yalnızca yaşayanlar içindir. Bryson, veri koruması için mantıklı cevabın zaten aşina olduğumuz bir şey olabileceğini öne sürüyor. Telefonlarımızın kilidini açmak için kullandığımız yerel olarak depolanan biyometrik veriler gibi. “Apple hiçbir zaman kimseye güvenmedi. Yani gerçekten gizlilik odaklılar. Bu yüzden, kendilerinin de istediği için bir şeyler üretecek türden bir kuruluş olduğunu düşünme eğilimindeyim.” (Bryson’ın da belirttiği gibi, bu şekilde asıl sorun, eviniz yanarsa “büyükannenizi” sonsuza dek kaybetme riskinizdir).
Veriler nerede ve nasıl saklanırsa saklansın her zaman risk altında olacaktır. Bu, modern yaşamın bir tehlikesi. Ve gizlilikle ilgili tüm bu endişeler yarınki bir sorun gibi gelebilir (tıpkı çevrimiçi dolandırıcılık konusunda ancak başımıza geldikten sonra endişelenme eğiliminde olduğumuz gibi). Yapay zekanın ve gelecekteki dijital avatarlarımızın ortaya çıkardığı maliyet, doğruluk ve genel ürkütücülük korkutucu olabilir, ancak aynı zamanda ezici bir kaçınılmazlıktır. Fakat bu, geleceğimizin Max Headroom’un en mahrem sırlarımızı dinleyecek herhangi bir hacker’a anlattığı bir okyanus olmaya mahkum olduğu anlamına gelmiyor. Bryson, “Bu yakın zamanda bir sorun olacak, muhtemelen zaten bir sorun var,” dedi. “Ancak iyi ve yüksek kaliteli bir versiyonun şeffaf olacağını ve bunu kontrol edebileceğinizi umuyorum. Eminim Bing ve Google, sohbet programlarının fikirlerini nereden aldıklarını doğrulayabilmek için şu anda bu konu üzerinde çalışıyorlardır.” Ancak o zamana kadar bunu zor yoldan öğrenme riskiyle karşı karşıyayız. Bryson, bazı olumlu çıkarımlar olduğunu ve bunların yaşayanlar için mevcut olduğunu belirtmek istiyor. “Eğer ölüm hakkında çok fazla düşünürseniz, bu konuda doğru düşünmüyorsunuz demektir,” diyor. Bu teknoloji bizi ölümlülüğümüzle yeni ve meraklı bir şekilde yüzleşmeye zorluyor. Bu da sadece yaşayanların dünyasında sahip olduğumuz ilişkiler hakkında düşünmemize yardımcı olabilir. Birinin yapay zeka versiyonu her zaman kötü bir kopyası olacaktır, bu yüzden Bryson’ın önerdiği gibi, neden yapabiliyorken gerçek kişiyi daha iyi tanımayalım. “Keşke insanlar bir chatbot ile konuşmalarını prova etseler ve sonra gerçek bir insanla konuşup aradaki farkların ne olduğunu öğrenseler.” dedi.
