• * Çeviri Yuval Noah Harari’den alınan yazılı izinle yayınlanmaktadır. kendilerine teşekkür ederim.

Yapay Zeka’nın (AI) geleceği nasıl görünüyor ve demokrasi ile toplum üzerinde nasıl bir etkisi olacak? Bu soru, AI geliştiricisi ve Turing Ödülü sahibi Profesör Yoshua Bengio ile çok satan yazar ve tarihçi Profesör Yuval Noah Harari tarafından, politik gazeteci Vassy Kapelos’un moderatörlüğünde gerçekleştirilen canlı bir tartışmada incelendi. Kaydedildiği tarih: 24 Mayıs 2023, Mila – Quebec Yapay Zeka Enstitüsü tarafından sunulan C2 Montreal konferansının bir parçası olarak.

Profesör Yoshua Bengio, derin öğrenme alanındaki prestijli çalışmalarıyla tanınan AI araştırma ve geliştirme alanında önde gelen öncülerden biri olarak kabul edilmektedir. Kendisi Université de Montréal’de Tam Profesör ve Mila – Quebec AI Enstitüsü‘nün Kurucusu ve Bilimsel Direktörüdür.

Yuval Noah Harari, İsrailli bir kamu düşünürü, tarihçi ve Kudüs İbrani Üniversitesi Tarih Bölümü’nde profesördür. Sapiens: İnsan Türünün Kısa Bir Tarihi, Homo Deus: Geleceğin Kısa Bir Tarihi ve 21. Yüzyıl İçin 21 Ders gibi popüler bilim en çok satan kitapların yazarıdır. Son zamanlarda orta yaş okuyucular için Unstoppable Us adlı yeni serisini yayımlamıştır.

Vassy Kapelos: Yapay zekayı nasıl tanımlarsınız?

Harari: Yapay zeka hakkında bilinmesi gereken iki şey var. İlk olarak, tarihte kendi başına kararlar alabilen ilk teknolojidir ve tarihte kendi başına fikirler üretebilen ilk teknolojidir. Şu anda birçok insan bizi sakinleştirmeye çalışıyor ve her yeni teknoloji geldiğinde insanların sonuçlardan korktuğunu söylüyorlar ve sonunda iyi başa çıkıyoruz. Ancak bu, tarihte gördüğümüz hiçbir şeye benzemiyor. Bıçak veya atom bombası olsun, önceki araçlar hep gücümüzü artırdı çünkü bombayı nasıl kullanacağımıza insanlar karar veriyordu. Ancak yapay zeka kendi başına kararlar alabilir, bu yüzden potansiyel olarak gücümüzü elimizden alabilir. İkinci olarak, tarihteki tüm bilgi teknolojileri sadece insan fikirlerini çoğaltabilir veya yayabilirlerdi. Basın, İncil’i basabilirdi ama İncil’i yazamazdı veya İncil üzerine bir yorum yazamazdı.

ChatGPT yazabilir, İncil veya başka bir şey için tamamen yeni bir yorum bile oluşturabilir ve hatta gelecekte gelecek dinler için yeni kutsal metinler bile yaratabilir. İnsanlar her zaman bunu hayal eder, süper bir insan zekasından kutsal metinler almayı, şimdi bu mümkün oluyor. Bu tür bir gücün birçok olumlu kullanımı vardır, ancak bir o kadar da olumsuz kullanımı vardır ve yine de temel olarak daha önce karşılaştığımız hiçbir şeye benzememektedir çünkü gücü elimizden alabilir.

Vassy: Bu noktada yapay zekanın temel tehdidini nasıl görüyorsunuz?

Yoshua Bengio: Sorun, birçok tehdit olmasıdır, ancak benim endişelendiğim en önemli iki tehdit, daha kısa süreli olanı, önümüzdeki seçim gibi hemen gerçekleşebilir, konuşacağımız büyük dil modellerinden türeyen araçların propaganda, yanlış bilgi, kişiselleştirilmiş troll saldırıları için kullanılabileceği ve sizi başka bir şekilde oy vermeye ikna edebileceği tehdididir.

Ve ikinci tehdit, gelecek birkaç yıl içinde ortaya çıkabilecek olan, mevcut yapay zeka durumu ile insanların zeka açısından sahip oldukları avantaj arasındaki boşluğu kapatırsak, bizi en azından bizim kadar akıllı olan makineler inşa edersek, otomatik olarak tüm verilere erişim ve dijital iletişim, bant genişliği gibi avantajlara sahip olacaklardır. Bu avantajlar, insanlardan daha hızlı bilgi edinmelerine, birbirleri arasında paylaşmalarına olanak sağlar. Bu tür bir zeka bize kendi zekamızı veren ilkelere benzer prensipleri sadece keşfetsek bile, bazı yönlerden bize göre daha akıllı olacaklarına dair düşüncelerime ve başkalarının da düşüncelerine neden olur. Zaten chatGPT gibi bazı şeylerde daha akıllıdırlar, daha fazla şey bilirler ve diğer yönlerden ise aptaldırlar.

Vassy: Sonuç olarak, eğer onlar bize göre daha akıllı olabilirlerse, bu durumda ortaya çıkan tehdit ne, varoluşsal bir tehdit mi?

Yoshua Bengio: Evet. İyi, çok fazla bilinmeyen var ve hayal edin, yeni bir tür yarattık ve bu tür, biz farelerden veya kurbağalardan olduğumuz gibi, bize göre daha akıllıydı. Kurbağalara iyi mi davranıyoruz?

Vassy: Profesör Harari, doğası gereği potansiyel olarak daha uzun vadeli tehdit konusunda endişeleri paylaşıyor musunuz?

YNH: Kesinlikle. Demokrasinin çöküşü gibi, önemli olan kısa vadeli tehditler de var… Bu geliştirilmeli ve eğer bizden daha akıllı hale gelirse, kurbağa benzetmesiyle tamamen aynı fikirdeyim. Bu bizim için iyi olmaz. Eğer bugünkü yapay zeka bir amip gibi ise, sadece T-Rex’in nasıl olacağını düşleyin ve bunun için milyonlarca yıl gerekmeyecek. Birkaç yılda oraya gelebiliriz.

Vassy: Sıradan bir insan olarak, bunları duymak çok korkutucu ve aklınızda belirli bir zaman çizelgesi var mı, politika yapıcıların ne kadar hızlı hareket etmesi ve yanıt vermesi gerekiyor? Hangi tür zaman çizelgeleri üzerinde düşünüyorsunuz?

Yoshua Bengio: Sorun, zaman çizelgesi konusunda çok fazla belirsizlik olması. Birkaç yıl içinde en azından bizden daha akıllı ve daha zeki makineleri inşa etmek için prensiplere sahip olabileceğimiz gibi kısa sürede gerçekleşebilir. Veya bunlar onlarca yıl sürebilir ve bu kadar belirsizlik olduğundan dolayı, en kötü senaryoya hazırlanmak için bizler ve hükümetimiz kolektif olarak sorumluluk taşıyoruz. En azından muhtemel en kötü senaryoya, belki 5 yıla kadar olan bir sürece hazırlanmamız gerekiyor. Nasıl sağlarız ki yeterince hızlı bir şekilde adapte olalım, eğer onlarca yıl içinde gelirse belki toplumu adapte etme şansımız olur, ancak 5 yıl içinde gelirse umutsuz görünüyor. Bugün konuştuğumuz tüm riskleri en aza indirmek için doğru önlemleri almaya ne yapabiliriz? Tehlikeli olan yerlerde işleri yavaşlatmak için neler yapabiliriz?

Vassy: Prof. Harari, hem siz hem de Prof. Bengio, bu teknolojinin gelişiminde rol alan şirketlere, Prof. Bengio’nun ortaya koyduğu gibi, yaptıkları şey üzerinde bir mola vermeleri konusunda bir mektuba imza atanlardansınız. İsminizi buna eklemenizin nedeni neydi?

YNH: Çünkü gerçekten de insanlık için varoluşsal bir risk söz konusu ve en çok ihtiyacımız olan şey zaman. İnsan toplumları son derece adapte olabilen, bunu iyi yapabilen toplumlardır, ancak bu zaman alır ve son büyük teknolojik devrimimizi, endüstri devrimini ele alırsanız, nispeten iyi endüstri toplumları nasıl inşa edeceğimizi anlamak için çok nesil geçirdik. Ve bu süreçte endüstri toplumları nasıl inşa edileceği konusunda bazı korkunç deneylerimiz oldu. Nazizm ve Sovyet Komünizmi, işlevsel endüstri toplumları nasıl inşa edileceği konusunda sadece başarısız deneyler olarak görülebilir ve milyonlarca insanın ölümüne neden olmuştur. Şimdi ise trenlerden, radyodan ve elektrikten daha da güçlü bir şeyle uğraşıyoruz, endüstri devriminde icat ettiğimiz şeylerden daha güçlü bir şeyle. Bence yapay zeka ile iyi toplumlar inşa etmek kesinlikle mümkün. Ancak bu zaman alır ve artık böyle başarısız deneyler yapmamızı sağlamamız gerekiyor çünkü eğer şu anda bunu yaparsak, bu tür bir teknolojiyle ikinci bir şansımız olmayacak, hayatta kalamayacağız. Endüstri devriminin başarısız deneylerini, teknoloji bizi yok etmeye yetecek kadar güçlü olmadığı için ancak kurtarabildik, bu yüzden son derece dikkatli olmalıyız ve işleri daha yavaş bir şekilde ilerletmeliyiz.

Vassy: Bir şirketler arası toplumsal tepki var ve bir de hükümet tepkisi var. Bu mektup biraz ikisine de yönelik, ancak başlangıçta şirketlerin bir mola vermesini talep ediyor. İmzaladığınızda bunu yapacaklarını düşündünüz mü?

Y.Bengio: Hayır, rekabet temelinde, şirketler bu oyuna katılmazlarsa hayatta kalamazlar çünkü başka biri yerlerini alır. Ayrıca bu şirketlerdeki bireylerin etik ve toplumsal değerleri önemsediklerini düşünebiliriz, bu şekilde insanlar kar elde etme teşvikini biraz dengeleyebilir, ancak bu çok güçlü bir teşvik. Mektubu ben yazmadım ama imzaladım. Bu, sorunu genel halka, hükümetlere ve hatta şirketlerdeki insanların kapalı kapılar ardında tartıştığı bir şekilde dikkat çekmek için gerçekten iyi bir yol olduğunu düşündüm. Bu anlamda işe yaradı.

Vassy: Prof. Harari, imzaladığınızda birilerinin mola vereceğini düşündünüz mü?

YNH: Şirketler için değil, aynı nedenlerle, ancak umarız en azından halkın ve hükümetlerin dikkatini çekmek için başarılı oluruz, çünkü sonuçta bu çok tehlikeli gelişmeyi düzenleme sorumluluğu hükümetlerin omuzlarında. Ne yazık ki, son yıllarda gördüğümüz şey, siyasi tartışmanın tam olarak olmadığıdır. Ana siyasi konulara, politikacıların ve partilerin konuştuğu konulara baktığınızda, hiç de bundan bahsetmiyorlar. Bu şu anda her seçim kampanyasının en önemli konularından biri olmalı, çünkü sadece gelecekteki varoluşsal tehlikeler değil, aynı zamanda günlük yaşamın hemen endişeleri de var. İşlerimiz, hayatımızla ilgili kararları kimin verdiği, bir krediyi almak için bir bankaya başvurduğunuzda, AI giderek sizin hakkınızda karar veriyor, üniversiteye başvurduğunuzda, iş bulmak için bir işverene başvurduğunuzda, AI giderek karar veriyor ve reddedildiyseniz bile neden reddedildiğinizi anlayamıyorsunuz. Bu, politik önceliklerimizin en üstünde olmalı, en azından benim umudum, bu mektubun konuyu ön plana çıkarmaya yardımcı olacağıydı ve en azından bir ölçüde başarılı olduğunu görmekten memnunum.

Vassy: Prof. Bengio, şu anda bu konuda siyasi bir sıkıntı olduğunu düşünüyor musunuz?

Y.Bengio: Evet, çoğunlukla politikacılar olumlu şeyler hakkında konuşmak istiyorlar, bu durumda AI uzmanları için de geçerli, AI’nın iyi tarafında kalmak istiyorlar, ancak hayat gerçekten olduğu gibi ve tehlikelerle ne kadar erken yüzleşirsek o kadar iyi olur. Bu yüzden politikacıların burada bir sorumlulukları olduğunu kabul etmelerinin zaman alacağını düşünüyorum, sadece ekonomik faydaları veya sağlık alanındaki AI’nın faydalarını düşünmekle kalmamaları gerektiğini, aynı zamanda kısa ve uzun vadeli risklerden halkı koruma görevlerinin de olduğunu.

Vassy: Kongre’deki duruşmalarda politikacılar arasında artan bir farkındalık görünüyordu ve hatta o duruşmada AI’nın arkasındaki kişi “Samuel Altman” hükümete AI’yı daha fazla düzenlemeleri için neredeyse yalvardı. Bunu ne kadar önemli buluyorsunuz?

YNH: Bence bu çok önemli ve bunu hızlı bir şekilde yapmamız gerekiyor. Düzenleme konusunda, AI’nın gelişimini, laboratuvar araştırmalarını ve benzerlerini düzenlerken, halka yayılmasını düzenlemeyi ayırmamız gerekiyor. Ve bence halka yayılmanın düzenlenmesi daha acil ve aynı zamanda daha kolaydır. Bazı çok basit kurallara ihtiyacımız var, örneğin, bir AI’nın insanları taklit etmesine izin verilmemesi. Birisiyle konuşuyorsanız, onun insan mı yoksa bir AI mi olduğunu bilmelisiniz. Eğer bunu yapmazsak, halk arasındaki iletişim çöker ve demokrasi ayakta kalamaz. Bu sadece sağduyu gerektiren bir durum, binlerce yıldır para sahteciliğine karşı yasalarımız var, aksi takdirde finansal sistem çökerdi, bugün para sahteciliği oldukça kolay olsa da, insanlar bunu yapmazlar, çünkü 20 yıl hapis cezası alacaklarından korkarlar, insanları taklit etme veya sahteleme konusunda aynı türden yasalara ihtiyacımız var. Benzer şekilde, yeni bir güçlü ilacı veya aracı halka sunamazsınız, güvenlik kontrollerinden geçmeden ve onay almadan. AI için de aynı olmalı. Laboratuvarda bir şey geliştirdiniz, toplum için potansiyel olarak büyük sonuçları olan bir şeyi halka yayabilirsiniz ancak benzer bir güvenlik kontrolü sürecinden geçmelidir.

Vassy: Prof. Bengio, şu anda halka yayılma tarafını, düzenlenmemiş bir alan olarak tanımlar mısınız?

Y.Bengio: Tam olarak değil, çünkü veriyle ilgili yasalarımız var, iletişimle ilgili yasalarımız var, ancak bunlar benzer sorunlarla başa çıkmak için tasarlanmadı. Bildiğim kadarıyla insanların taklit edilmesine karşı bir şey yok, sahtecilik örneği ilginç çünkü bildiğim kadarıyla para sahteciliği çok ciddi şekilde cezalandırılıyor çünkü bahisler çok yüksek. Ve bence benzer bir durum. Bu konuda endişe duyduğum, ABD’de olabilecek bazı şeyler var, düzenleyici kurumun çok esnek olması gerekiyor. Kanada’da böyle bir yapıya sahip bir bina var, yasa prensiplerine dayanıyor, kuralları bir hükümet kurumuna bırakıyor ve bu iyi çünkü alan çok hızlı bir şekilde ilerliyor. Şu anda düşündüğümüz yönergeler, 6 ay sonra farklı olabilir. Bilim ilerliyor, teknoloji ilerliyor, piyasa ilerliyor ve hükümetlerden çok esneklik gerekiyor, ancak son yıllarda hükümetler prensip temelli yasalarından uzaklaştı, gücü bir hükümet kurumuna devretmek istemedikleri için her şeyi kongre tarafından yazdırmaya çalıştılar, özellikle cumhuriyetçiler bu etkin hükümet müdahalesine engel olabilir.

Vassy: Prof. Harari, etkili bir hükümet müdahalesi nasıl olabilir?

YNH: Düşük teknoloji gerektiren talepler getirilebilir, örneğin bir sosyal medya hesabı istiyorsanız taşlardan yapılmış bir ofise gitmeli ve bir kağıt imzalamalısınız, çok verimsiz olabilir ama verimsizlik bir kusur değil, bir özelliktir. Diğer şeylerde de yapıyoruz, pasaport, ehliyet gibi. Sosyal medya için bir pasaport, bu yavaş teknoloji işleminden geçmeniz gerekecek ve bu neredeyse tüm botları sosyal medyadan temizleyecektir. Demokrasinin çöküşü sorununa geri dönersek, böyle bir düşük teknoloji talebi getirmek, hemen hemen tüm botlardan kurtulmamıza yardımcı olur ve demokrasiyi kurtarmamıza yardımcı olur. Unutmamamız gereken şey, ABD gibi ülkelerde, İsrail gibi ülkelerde, tarihte en sofistike ve güçlü bilgi teknolojilerine sahibiz, ancak insanlar birbirleriyle konuşamıyorlar, artık herhangi bir konuda anlaşamıyorlar, hatta son seçimleri kimin kazandığından veya aşıların iyi veya kötü olup olmadığından bile. Bu kadar güçlü bir bilgi teknolojisiyle konuşmanın çökmesi nasıl mümkün olabilir, bir şeyler yanlış. Derinden yanlış, en azından bilgi teknolojimizi nasıl dağıttığımız konusunda geri çekilmeli ve düşünmeliyiz, daha güçlü AI gibi araçları dağıtmadan önce, bu konuşmanın tamamen çökmesine yol açabilecek. Yine, biriyle seçimler hakkında tartışıyorsanız ve bir AI ile bir insan arasındaki farkı anlayamıyorsanız, bu demokrasinin sonu demektir. Çünkü insan için, botun fikrini değiştirmeye çalışmak anlamsızdır, botun bir fikri yoktur, ancak bot için, benimle konuştuğu her dakika, beni daha iyi tanır, hatta benimle bir bağ kurar ve sonra bot için benim görüşlerimi değiştirmek daha kolay olur, birkaç yılda bile. Sosyal medyada dikkat savaşı olduğunu biliyoruz, şimdi yeni nesil AI ile savaş cephesi dikkatten, yakınlığa kayıyor, eğer bunu düzenlemezsek, muhtemelen milyonlarca, belki milyarlarca AI ajanının bizimle yakınlık kurmaya çalıştığı bir duruma geleceğiz, çünkü bu, sonra bizi ikna etmenin en kolay yoludur, bir ürün satın almamızı veya bir politikacıya oy vermeyi veya başka bir şeyi ve buna izin verirsek, toplumsal çöküşe yol açacaktır!

Vassy: Sosyal medya ve demokrasi üzerindeki etkisi ve daha fazla devlet müdahalesine karşı çıkan özgür konuşma fikri ve sadece o politik tartışma, AI’den bahsetmeyi unutuyoruz ve bu tehdidin ortaya çıkardığı şey, ancak bu sadece…

Y.Bengio: Demokrasi etrafında bir tür kısır döngü var, daha sağlıklı bir demokrasimiz olsaydı, onu koruma konusunda daha iyi bir konumda olurduk. Neden demokrasi o kadar kırılgan? Sosyal medya ve AI’nin gerçekten üzerine binebileceği faktörlerden biri, insanların oldukça etkilenebilir olmalarıdır, her zaman mantıklı düşünmeyiz, ilişkimiz olduğu kişiden etkileniriz ve o kişiyi değerli bulursak, söylediklerini bile kontrol etmeden kabul edebiliriz. Demagoglar binlerce yıldır demokrasi kadar var olmuştur. Sosyal medya tarafından büyütülebilir ve AI tarafından daha da büyütülebilir, bu yüzden bu konuda düzenlemeleri ve yasaları doğru bir şekilde yapmayı zorlaştırıyor çünkü çelişen çıkarlar söz konusu, bir şirketseniz, sizi yavaşlatacak mümkün olan en az engelleri istersiniz, düşük teknoloji önerisini çok beğeniyorum, ancak şirketler buna karşı savaşacak çünkü bu daha az gelir demek, değil mi?

YNH: Sadece özgür konuşma konusunda söyleyeceğim, büyük şirketler tarafından kullanılan küçük bir duman perdesidir, bu bir özgür konuşma sorunu değildir, çünkü botların özgür konuşması yoktur. Botların hakları yoktur, insanların hakları vardır, özgür konuşma hakkına sahibiz. Yani bir insanı Twitter’dan yasaklamak veya bir insanı Facebook’tan yasaklamak zor bir konu, ancak botları Facebook veya Twitter’dan yasaklamak kolaydır, yani hakları yok, botların özgür konuşma hakkını kim savunacak ki?

Vassy: Sosyal medyada istediklerini yapma kolaylığına alışmış birine bunun aslında bu binaya gitmen gerektiğini nasıl anlatırsın, harika duyuluyor, sosyal medyada konuştuğun kişilerin gerçek insanlar olduğunu bilmek harika olmaz mı? Onları ikna etmek için neyin gerekliliği var, nasıl başarabiliriz?

Y.Bengio: İşte bu yüzden bugün yaptığımız konuşmaya ihtiyacımız var, riskleri anlayabilecek yeterli insanın olması gerekiyor çünkü demokrasiyi kaybetmek, refahın, özgürlüklerin ve liberal demokrasilerin getirdiği tüm iyi şeylerin birçoğunu kaybetmek anlamına gelebilir, bu yüzden insanların bunun zaman alacağını, birçok tartışmaya ihtiyaç duyulacağını anlaması gerekiyor, ancak sevgili bir şeyi kaybetme tehdidini görmek, bizi bize hoş gelmeyen seçimler yapmaya yönlendirmenin en iyi yolu gibi görünüyor, mesela hesabımızı onaylatmak için bu binaya gitmek gibi.

Vassy: Var olan tehdide karşı nasıl mücadele edilmesi gerektiği ve hükümet müdahalesinin ne kadar gerektiği konusunda daha aşırı önerilerde bulunanlar var. Bazıları hatta bir tür dünya hükümeti öneriyor ve bunu size sormamın nedeni, bununla ilgili görüşleriniz nedir?

YNH: Dünya hükümeti korkunç bir fikir, pratikte uygulanabilir değil ve uygulanabilir olsa bile olmamalıdır. İnsanlığı kurtarmak için bir tür otoriter veya totaliter sistem kurmamız gerektiği yönünde de fikirler var, ancak ben insanlığı kurtarmanın tek gerçekçi yolu, öncelikle demokrasiyi kurtarmaktır, çünkü totaliter sistemler demokrasilerden çok daha kötü olacaktır. AI’yi düzenlemek ve kontrol altında tutmak söz konusu olduğunda, totaliter rejimlerin geleneksel bir sorunu, kendi hatasızlıklarına inanmalarıdır, asla hata yapmazlar ve güçlü bir öz düzeltme mekanizmaları yoktur, kendi hatalarını belirlemek ve düzeltmek için mekanizmaları yoktur. Totaliter bir rejim ve bir tür süper güçlü dünya hükümeti, sisteme çok fazla güç verme eğiliminde olacak ve onu düzenleyemeyecek hale gelecek, neredeyse kaçınılmaz olacaktır ve totaliter rejim bir AI’ye güç verdikten sonra, sistem tarafından kaçınılmaz olarak yapılacak hataları gösterebilecek ve düzeltebilecek bir öz düzeltme mekanizması olmayacak ve açık olmalıdır ki, AI hatasız değildir. Çok güce sahip olabilir, çok fazla bilgiyi işleyebilir, ancak bilgi gerçek değildir ve gerçek ve bilgelik arasında bilgiyi takip etmek için uzun bir yol vardır ve AI’ye çok fazla güç verirsek hatalar yapmaktan kaçınamaz. Sadece demokrasiler, denge mekanizmaları sayesinde bir şeyi deneyebilir, işe yaramazsa hatayı belirleyebilir ve düzeltebilir.

Vassy: Neden insanların bu kadar ileri giden önerilerde bulunduğunu düşünüyorsunuz ve bu önerileri nasıl değerlendiriyorsunuz?

Y.Bengio: İnsanların her şeyi gözlemleyen bir kamera gibi olduğumuz ve merkezi bir hükümetin AI kullanarak insanlığa gerçekten tehlikeli bir şey yapmamızı engelleyeceği basit bir fikir. Örneğin herkesin bu bilgiye erişimi olduğunu varsayalım, bunu yapacak kötü niyetli kişilerin olmayacağından nasıl emin oluruz? Ben bu çözümün doğru olmadığını düşünüyorum, ancak anlaşılabilir bir şekilde, herkesin bunu yapmamasını sağlamak için kablolarla bağlanmış, izlenen ve çok güçlü bir şekilde kontrol edilen özgürlüklerinin kısıtlandığı bir senaryo düşünebilirsiniz. Bu cazip bir senaryo olabilir, ancak Yuval’in açıkladığı gibi çok tehlikeli olduğunu düşünüyorum ve bunun yerine toplumumuzu nasıl organize edebileceğimize dair başka seçeneklerin olduğunu düşünmek istiyorum. Bu şekilde AI’nın güvenli olduğu anlamında bir güvenliği sağlayabilir ve insan değerlerimizi, insan haklarını, insanlık onurunu ve demokrasiyi koruyabiliriz. Bu zor bir mesele, ancak bu tür sorulara en iyi zihinlerin zamanını harcamaya değer olduğunu düşünüyorum.

Vassy: Size bir takip sorusu sorabilseydim, Profesör Bengio, içgüdüleriniz size böyle bir kazan-kazan-kazan senaryosunun var olduğunu mu söylüyor?

Y.Bengio: Zor olacağını söyleyebilirim, özellikle yeterli zamanımız yoksa, ancak kendi küçük insan varlığımızdan daha büyük görünen bir şeyden vazgeçtiğinizde, yalnızca elimizden gelenin en iyisini yapabileceğimizi hatırlamalısınız. Bu yüzden, ahlaki görevimizin, olasılıklar kötü görünse bile, denemek, bunun üzerinde düşünmek olduğunu düşünüyorum. İnsanlar yıllar boyunca iklim değişikliğiyle başa çıkmak için mücadele etti, umutsuz bir amaç gibi görünebilir, en azından birçok yıl için öyleydi ve umarım şimdi daha iyiye gidiyor, ancak insanlar mücadele etmeye, denemeye devam ediyorlar ve biz de AI’nın meydan okumasıyla bunu yapmamız gerekiyor çünkü herkes için iyi sağlık, eğitim, iklim değişikliğini çözebiliriz, belki de toplumu tamamen değiştirebiliriz, belki de ütopya diye adlandırabileceğiniz şekillerde, ancak tüm bu iyi şeyleri ve mevcut demokrasi ve insanların refahı açısından şu anki toplumdan daha iyi olabilir.

Vassy: Profesör Harari, aynı yönde umut verici bir sebep görüyor musunuz, en kötü senaryonun kaçınılabilir olduğunu düşünüyor musunuz?

Y.Bengio: Ben iyimser olduğumu söylemedim, ne iyimser ne de kötümser olmak istemiyorum, sadece iyimser çözümü tercih etmek ve bunu gerçekleştirmeye çalışmak için ahlaki bir görevimiz olduğunu söyledim.

YNH: Temel olarak problemi biz yarattık, hâlâ çözmek için gücümüz var, ancak çok uzun bir süre değil, çünkü AI gücü elimizden alacak, ancak şu anda hâlâ gücümüz var. Şu ana kadar en zeki varlıklarız ve zekâmızın bizi nereye getirdiğine bakın. Zekâmızla icat ettiğimiz şeyler nedeniyle şimdi herkesi kamerayla izlemeyi ve insan özgürlüğünü ve gizliliğini yok etmeyi tartışıyoruz, iddia edildiğine göre bizi daha iyi sağlık hizmeti ve diğer şeylerle korumak için zekâmızla icat ettiğimiz bir şeyden. Zekâyla ilgili bir şeylerden bahsederken, en zeki ajanların aynı zamanda en aptal ajanlar olduğunu söyleyebiliriz. Kurbağalar bunu yapmazdı, bizim yaptığımız gibi bir şey yapmazlardı. Yapay zekâyı düşündüğümüzde, bazı şeylerde inanılmaz derecede aptal olacak. Bu belki iyimser bir şey değil, sadece yapay zeka ve genel anlamda zeka hakkındaki tartışmayı çerçeveleyen bir yaklaşım. Sonunda sorun biziz, yapay zeka değil, demokrasinin çöküşünü tartıştığımız gibi, çoğunlukla kötü niyetli şekilde yapay zekâyı kullanan kötü insan aktörleridir. Sanırım yapay zeka geliştirmeye, anlamaya ve kendi zihinlerimizi geliştirmeye harcadığımız süre kadar zaman harcıyorsak, güvende oluruz.

Y.Bengio: Tamamen katılıyorum ve bundan daha da ileri giderim, bu, değerlerimizi koruyacak bir şeye yaklaşmak istiyorsak, büyük kardeş totaliter rejimden kaçınmak istiyorsak, tek yol insanları değiştirmektir. Bence bu mümkün, daha etik, daha bilge, kendilerini daha iyi anlayan, daha şefkatli, daha rasyonel alt kümeleri olan insanlar var. Mümkün olduğunu biliyoruz. Nasıl yaparız bunu tüm insanlığa yaymak için? İşte bahsettiğim ütopya bu.

Vassy: Bunu anlattığınızda birçok insanın yapay zeka hakkında haber başlıklarını görmüş olabileceğini ve bunun toplumu tamamen yeniden yönlendirmek veya değiştirmek için bir yol olduğunu duyduklarını ve bundan korktuklarını düşünüyorum. Bu çözüm olarak konuşmanın ve ardından gerçekte uygulanan herhangi bir çözümü kabul etmeleri gereken insanları uzaklaştırma riski var mı?

Y.Bengio: Yakınlarımdan bazı insanların, demokrasiye veya insanlığa yönelik bu felaket risklerine odaklanarak, mevcut toplum sorunlarına, yapay zeka, algoritmik haksızlık ve adaletsizlik gibi konulara odaklanmadığımızdan endişe ettiklerini anlıyorum. Aynı zamanda, bu çözümlerin bir araya gelmesi olasılığı da var.

Vassy: Prof. Harari, toplum olarak bu sorunu çözmek için politik olarak ve halk arasında kabul sağlamak için nasıl bir yol izlememiz gerektiği konusundaki düşünceleriniz nelerdir?

YNH: Öncelikle toplumun dikkatini bu sorunlara odaklanmamız gerekiyor. Bu, panikçi bir yaklaşım değil, başka sorunları önlemek amacıyla da değil. Uzun vadeli varoluşsal risklerin yanı sıra, ekonomi ve toplumda birçok en acil sorunumuz yapay zeka yüzünden çok daha kötü hale gelebilir. İş piyasasından bahsetmedik, ancak bu herkes için çok merkezi bir endişe olmalı ve yapay zeka tüm işleri yok etmeyecek, bazı işleri yok edecek, birçok yeni iş yaratacak, ancak insanları yeniden eğitmek, geçiş süreci çok zor olacak, tekrar hatırlayın, Hitler 3 yıl boyunca %25 gibi bir işsizlik oranı nedeniyle iktidara geldi. 20 yıl sonra bile her şey yolunda olacak olsa bile, bize 20 yıl yok, %20 işsizlik oranıyla 3-4 yıl boyunca ne yapacaksınız? Politika açısından, teknolojiyi ve etkisini çok derin bir anlayışa sahip politik sistem içindeki insan eksikliği olduğunu düşünüyorum, çünkü teknolojiyi anlayan insanların çoğu, farkındalığı artırmak ve düzenlemek için politikaya girmek yerine bir sonraki Zuckerberg veya bir sonraki Elon Musk olmak istiyor, milyarlar kazanmak için iş dünyasına gidiyorlar. Audrey Tang gibi birkaç istisna var, o, Tayvan’ın dijital bakanı olan bir hackerdı, bir girişim yapabilir ve milyarlar kazanmak için bir iş kurabilirdi, ancak “hayır, politikaya gideceğim ve halkın ve politik sistemin bu patlayıcı potansiyeli anlamasına ve düzenlemesine yardımcı olacağım” dedi. Bu yüzden temel olarak daha az Zuckerberg ve Musk ve daha fazla Audrey Tang’a ihtiyacımız var.

Vassy: AI’nın işim, sizin işiniz, izleyicilerin işleri için ne anlama geldiği etrafındaki tartışma, iklim değişikliğinin yarattığı varoluşsal tehdit gibi, Quebec’teki sel felaketleri, Alberta’daki yangınlar bize gerçek ve somut bir şekilde dayanak sağlıyor ve sonuç olarak politikacıların harekete geçme isteğini değiştiriyor. Yapay zeka işlerimize hangi tehdidi veya tehdit etmediği şeklinde değerlendirirsiniz?

Y.Bengio: Ben bir ekonomist değilim, bu konuda biraz okuma yapmaya çalıştım ve ekonomideki farklı tarafların, alışıldığı gibi, çok farklı iddiaları olduğunu görüyorum. Örneğin Open AI’den çıkan ve akademisyenlerin de katkıda bulunduğu son bir çalışma, işlerin büyük bir kısmının değişeceğini ve daha verimli hale geleceğini öne sürdü. Bu da demek oluyor ki ya daha az insan bu işleri yapacak ya da aynı sayıda insan daha fazlasını yapacak. Örneğin programlama işine bakalım, yapay zeka araçları sayesinde programlama işimizi iki kat daha hızlı yapabilirsek, yarı yarıya az programcı olacak mıyız yoksa aynı sayıda programcı iki kat daha fazla iş yapacak mıyız? Bu tür şeyleri tahmin etmek zor ve ayrıca duyduğum bir argüman da toplumların yavaş değiştiği, bir şeyin teknolojisine sahip olsak bile insanların onu gerçekten topluma benimsemesi ve iş piyasasında büyük etkisi olması için yıllar veya bazen onyıllar alabileceği yönünde. Ayrıca, AI’nın farklı olduğunu söyleyen başka argümanlar da var, bir işi daha iyi yapan bir sistem olduğunda, şu anda dil manipülasyonuyla yaptığımız tüm işlerden bahsediyorum, e-posta, sosyal medya ve veritabanlarıyla çalışma gibi işler, bu tür işlerin birçok sektörde hızlı bir şekilde daha iyi yapılabilme potansiyeli var ve şirketlerin bunu hızlı bir şekilde yapabilme durumları gerçekten tahmin edilmesi zor, ancak yaparlarsa Yuval’ın bahsettiği geçiş sorunlarıyla karşı karşıya kalabiliriz.

Vassy: Bu tartışmanın işlerle ilgili kısmının, belki de şu an için agnostik olan insanlar için bizi somut bir şekilde yerine oturtan bir yol olduğunu düşünüyor musunuz?

YNH: Kesinlikle, bu, eğer bir bot veya yapay zeka işime gelecekse, insanların dikkatini hemen çeker ve yine, bu sadece insanlar için artık iş olmayacağına dair basit bir fikir değil, yeni işler olacak, ancak geçiş zor. İnsanları nasıl yeniden eğiteceksiniz, özellikle küresel düşünceleri göz önünde bulundurmanız gerekiyor, çünkü yapay zeka devrimi çok az sayıda ülke tarafından yönlendiriliyor ve bu ülkeler bu nedenle son derece zengin ve güçlü hale gelecek, bu durumda ise az gelişmiş ülkelerin ekonomisini yok edebilir. Tekstil endüstrisine bile bakarsanız, Kanada ve ABD’de tekstillerin Honduras, Guatemala ve Bangladeş’ten daha ucuza üretilmesi durumunda Honduras veya Bangladeş’in ekonomisi ne olur? Bu ülkelerdeki milyonlarca tekstil işçisini sanal gerçeklik oyunlarının tasarımcısı olarak yeniden eğitebileceğinizi gerçekten düşünüyor musunuz? Ve bu eğitimlerin parasını kim ödeyecek? Gelişmiş ülkelerde yapay zeka devriminden elde edilen kazançlar, umarım hükümetin işlerini kaybeden insanlar için darbeyi hafifletmelerine ve onları yeniden eğitmelerine olanak sağlayacak.

Ancak, ABD hükümetinin Google, Facebook ve Microsoft gibi şirketlerden vergi almayı bırakıp bu parayı Honduras veya Bangladeş’e göndererek oradaki insanlara yardım ettiğini görmüyorum. Bu nedenle, 19. yüzyılda yaşanan yeni bir Sanayi Devrimi gibi, çok az ülkenin neredeyse dünyayı fethedip hakimiyet kurmasına neden olabilir, bu durum otomasyon ve yapay zeka devrimi sayesinde çok kısa bir süre içinde tekrar gerçekleşebilir. Buna ek olarak, sadece ekonomi değil, dünya genelindeki tüm verileri toplayıp analiz etmekten elde edilebilecek politik kontrol türü de söz konusu. Eskiden bir ülkeyi kontrol etmek için askerler göndermeniz gerekiyordu, şimdi ise giderek sadece verileri ele geçirmeniz yeterli oluyor. Tüm politikacıların, gazetecilerin, yargıçların ve askeri yetkililerin kişisel kayıtlarının, tıbbi kayıtların vb. Silikon Vadisi’ndeki veya Çin’deki biri tarafından tutulduğu bir yerde küçük bir ülke ne olur? Hala bağımsız bir ülke mi yoksa bir tür veri sömürgesi mi oldu? Bunlar, yapay zekanın uzun vadeli varoluşsal riskleri hakkındaki görüşleri ne olursa olsun, her vatandaşın açık olması gereken türden anlık tehlikelerdir.

Vassy: Sanırım tartışmamızı tamamlamak için bu mükemmel bir nokta çünkü sizin açıkladığınız her şeyi tartıştıktan sonra hepimiz çok daha net bir şekilde anladık. Teşekkür ederim.

youtube video