* Çeviri Yuval Noah Harari’den alınan yazılı izinle yayınlanmaktadır. kendilerine teşekkür ederim.

Joseph Gordon-Levitt (‪@hitrecord‬) aktör, film yapımcısı ve girişimci, ‘Sapiens’ ve yeni kitabı ‘Nexus: Taş Devri’nden Yapay Zekaya Kısa Bir Bilgi Ağları Tarihi’nin yazarı, tarihçi ve filozof Yuval Noah Harari ile bir sohbet gerçekleştiriyor. Birlikte, yapay zekanın yaratıcılığı ve demokrasiyi yeniden tanımlama potansiyelinden yapay zeka haklarına ve Hollywood’un gelecekteki anlatıları şekillendirmedeki rolüne kadar uzanan konuları ele alarak mevcut bilgi devrimimizi keşfediyorlar.

Bu etkinlik, teknolojiyi ve yaratıcıları bir araya getirerek dönüştürücü teknolojileri ve hikaye anlatımının gelecekteki hayalleri şekillendirmedeki rolünü keşfeden Berggruen Enstitüsü‘nün (‪@Berggrueninst‬) Studio B tarafından düzenlenen bir dizi konuşmanın parçasıydı. Los Angeles’ta 27 Eylül 2024’te çekildi.

00:00 – Giriş
05:31 – Hikaye anlatımı bizi insan yapar
10:27 – Yapay zeka çağında demokrasi ve diktatörlük
13:56 – Nesnel, öznel ve intersubjektif gerçeklikler
19:43 – Demokrasinin kısa tarihi
24:23 – Sosyal medyanın artıları ve eksileri
30:27 – Şimdi editörler yapay zeka
35:48 – Yapay zeka hikaye anlatımının geleceğini yeniden mi yazacak?
40:43 – Yapay zeka bir tanrı olarak
44:05 – Veriyi insanlar oluşturdu
50:44 – Yapay zeka aşıkları ve hakları
55:36 – Yapay zeka haklarına giden yasal yol
59:33 – Hollywood’un yanlış anladığı şeyler
1:03:39 – Yapay zeka bürokratlarının tehlikeleri
1:05:07 – Sizi ne iyimser yapıyor?

ÖZET:

Joseph Gordon-Levitt ve Yuval Noah Harari arasındaki konuşmanın özeti:

Ana Noktalar:

1. Yapay Zeka ve Kişi Olarak Tanınma: Harari, yapay zekanın ABD’deki şirketler gibi yasal kişiler olarak tanınma potansiyelini tartışıyor. Bu tanımanın, bazı ülkelerin AI haklarını kabul ederken diğerlerinin etmeyeceği şeklinde coğrafi politik etkileri olabileceğine dikkat çekiyor.
2. Yapay Zeka Şirketi Kurma: Harari, yasal bir varlık olarak kurulan bir yapay zekanın para kazanabileceği ve politik bağışlar yaparak AI haklarıyla ilgili yasaları etkileyebileceği bir senaryo tasavvur ediyor.
3. Bürokrasinin Hikaye Anlatımındaki Yeri: Harari, insan toplumlarındaki önemi göz önüne alındığında bürokrasiyi anlatan hikayelerin eksikliğine vurgu yapıyor. Bürokrasileri anlamanın, özellikle AI karar verme bağlamında kritik olduğunu savunuyor.
4. Yapay Zeka Tehditlerinin Yanlış Temsili: Hollywood’un yapay zeka tehlikelerini yanlış bir şekilde sunduğunu eleştiriyor. Robot isyanına odaklanmanın yanıltıcı olduğunu, gerçek riskin yapay zeka bürokratlarının insan hayatları hakkında karar vermesi olduğunu belirtiyor.
5. İnsanlara ve Yapay Zekaya Güven: Harari, binlerce yıl içinde evrilen insan güvenini, AI ile olan deneyim eksikliğimizle karşılaştırıyor. Yapay zekaya insanlardan daha fazla güvenme eğiliminden endişe duyduğunu, bunun bir kumar olduğunu vurguluyor.
6. İnsan Potansiyeli için İyimserlik: Yapay zeka ile ilgili endişelere rağmen, Harari insan potansiyeli konusunda iyimserliğini koruyor ve toplumun hem AI hem de insan yeteneklerinin gelişimine yatırım yapması durumunda birlikte başarılı olabileceğini vurguluyor.

Alex Gardels: Merhaba, merhaba, merhaba, hoş geldiniz, hepinize geldiğiniz için teşekkür ederim. Ben Alex Gardels, Studio B’nin direktörüyüm. Bu akşam sizin için harika bir programımız var ve şimdi sözü değerli meslektaşım Nathalia Ramos’a bırakıyorum. Küçük bir tanıtım yapacak.

Nathalia Ramos: Teşekkür ederim. Herkese merhaba. Berggruen Enstitüsü’nde, zamanının geldiği bir fikirden daha güçlü bir şey olmadığını söylemeyi severiz. Ama aynı zamanda, gerçek bir etki yaratabilmek için o fikrin bir hikayeye ihtiyacı olduğuna inanıyoruz. İşte bu yüzden Studio B’yi başlattık; düşünürleri, bilim insanlarını, filozofları, teknoloji uzmanlarını, zamanımızın en büyük hikaye anlatıcılarıyla bir araya getirmek için. Çünkü gezegen çapında bir dönüşümün yaşandığı bu anda, hikayeyi doğru anlatmak her zamankinden daha önemli. Hepinize burada olduğunuz için teşekkür ederim ve şimdi sözü kurucumuz Nicolas’a bırakıyorum.

Nicolas Berggruen: İyi akşamlar. Ben Nicolas Berggruen, Berggruen Enstitüsü’nden. Bu akşam burada olduğunuz için teşekkür ederim. Teşekkürler Nathalia, teşekkürler Alex. Teşekkürler Studio B, Berggruen Enstitüsü’ndeki herkese teşekkür ederim. Ve en önemlisi, Joseph Levitt ve Yuval Harari’ye teşekkür ederim. Açıkçası, onların bir tanıtıma ihtiyacı yok. Bence Joseph’in kim olduğunu biliyorsunuzdur. O, bir anlamda sizden biri, yani Hollywood’dan. Kamera arkasında ve önünde yer alıyor ve enstitüde önemsediğimiz konularla entelektüel olarak ilgileniyor. Bu konulardan biri, kim oluyoruz? İnsanlar olarak, kendi doğamızı değiştirebileceğimiz, kendimizi gen düzenleme, yapay zeka ve kuantum bilişim yoluyla dönüştürebileceğimiz bir çağda, kim olmak istiyoruz? Ve belki de bunu perspektife koyan kimse, Yuval Harari kadar etkili olmadı. Ve Yuval, ‘Nexus’ adında yeni bir kitap yazdı. Bu kitap güçlü ve açıkçası inanılmaz derecede güncel, çünkü onun vizyonu şu: Yaşamlarımızı, medeniyetlerimizi anlatılarla inşa ettik ve bu anlatıları biz insanlar gerçekten yönlendirdik. Ama şimdi yapay zeka ile, bu anlatı bizden bağımsız hale gelebilir, teoride bizden çıkmış olsa bile. Dolayısıyla, eğer kontrol bizdeyse, bu kontrolü kaybedebiliriz; ama gerçekten, salıverdiğimiz bu anlatının kontrolünü kaybedebiliriz. Bu akşam bu konuya değineceğiz. Ve tekrar teşekkür ederim.

Joseph Gordon-Levitt: Herkese merhaba, nasılsınız? Bu bir film anı gibi mi hissettirdi? Ya da neydi bu? Aman Tanrım. Gerçekten, burada olmaktan çok, çok heyecanlıyım. Nicolas’a ve Berggruen Enstitüsü’ndeki herkese, Studio B’ye teşekkür ederim. Bu adamın yazılarının büyük bir hayranıyım, Yuval Harari, bayanlar ve baylar, burada onun için bulunuyoruz. ‘Nexus’ adında yeni bir kitap yazdı. Bu gece onun hakkında konuşmak istiyorum. Tabii, şu anda bir kitap turundasınız ve muhtemelen bu kitap hakkında çok konuşuyorsunuz. Belki aynı şeyleri defalarca söylüyorsunuz. Kendim de daha önce hiç aynı şeyleri tekrar tekrar söylemek zorunda kalmadım; bir medya parçasını tanıtırken söylemiyorum bunu (Amazon’da bugün yayınlanan Killer Heat‘i izleyin, Prime Video’da). Bu yüzden bu sohbete, herkesin duymak istediği şeyleri söylemenize izin vermeye çalışacağım, ama aynı zamanda belki de bu zaman ve yer için benzersiz bir bakış açısıyla ele almak istiyorum. Buradayız, Los Angeles’tayız, bu yer, film ve televizyon endüstrisinin merkezi gibi. Hayatım boyunca film ve televizyon sektöründe çalıştım ve kitabınızın büyük bir kısmı hikaye anlatımı hakkında. Kendimi bir hikaye anlatıcısı olarak görmeyi seviyorum; bir aktör ve film yapımcısı olarak, bu benim için bir işten daha fazlası. Belki de varoluşsal bir düzeyde kim olduğumla bağlantı kurduğum bir şey. Ve sık sık şunu söylemeyi severim: Hikaye anlatımı, insanları insan yapan şeyin büyük bir parçasıdır. Size sormak istediğim ilk şeylerden biri şu: İnsanlar hakkında bir kitap yazdınız, Sapiens. Kaç kişi Sapiens okudu burada? Evet. Yani, insanlar hakkında, tarihlerine ve tarih öncelerine dair bir uzman olarak, “Hikaye anlatımı insanları insan yapan şeyin büyük bir parçasıdır” dediğimde, buna katılır mısınız?

Yuval Noah Harari: Evet, kesinlikle. Yani, bu bizim gücümüzün kaynağı. Dünyayı kontrol ediyoruz çünkü diğer tüm hayvanlardan çok daha büyük sayılarla işbirliği yapabiliyoruz.

Yuval Noah Harari: Ve insanların işbirliği yapmasının sırrı hikayelerdir. Yani, 100 ya da 200 kişiden fazlasını tanıyamazsınız, ama aynı hikaye milyonlarca, hatta milyarlarca insan tarafından bilinebilir. Ve herkes aynı hikayeye inandığı sürece, işbirliği yapabilirler, normlar ve değerler üzerinde anlaşabilirler. Bir veya iki örnek vermek gerekirse, tarihin en ünlü yüzü, en ünlü portresi hakkında düşünürseniz… Bu İsa’nın yüzüdür. Son 2000 yılda, İsa’nın muhtemelen tarihteki diğer tüm kişilerden daha fazla portresi yapılmıştır, ve bu portreler her yerde; kiliselerde, katedrallerde, evlerde, okullarda, hükümet binalarında, en azından bazı ülkelerde. Ve bu portrelerin %100’ü hayal ürünüdür. Hiçbiri otantik değil, çünkü kimse İsa’nın gerçekten nasıl göründüğüne dair bir fikir sahibi değil. Hayatında yapılmış ve günümüze ulaşmış tek bir portre ya da heykel yok. Sahip olduğumuz en eski portre, ölümünden yaklaşık 200 yıl sonrasına ait ve bir eşek kafalı bir adamı haçta çarmıha gerilmiş olarak gösteriyor, çünkü bu, Hristiyanlık karşıtı olanlar tarafından yapılan yeni ve tuhaf bir kültle alay eden bir grafiti idi. İncil’de bile, onun nasıl göründüğüne dair tek bir kelime yok. Sadece kıyafetleri hakkında bir tanım var, ama kendisi hakkında hiçbir şey yok; uzun mu kısa mı, zayıf mı şişman mı, siyah saçlı mı kel mi sarışın mı, hiçbir şey, her şey sadece kurgudur. Ve yine de bu kurgular, milyarlarca insanın bir arada çalışmasını sağladı; ister hayır işleri ve hastaneler inşa etmek gibi iyi amaçlar için olsun, ister kutsal savaşlar yapmak ve Engizisyonlar başlatmak gibi, her şey hikayelerle işliyor. Din kolay bir örnek, ama belki de en önemli ya da en başarılı örnek paradır.

Joseph Gordon-Levitt: Paranın bir hikaye olduğunu mu söylüyorsunuz?

Yuval Noah Harari: Başka ne olabilir ki? Onun nesnel bir değeri yok. Dolarları yiyemez ya da içemezsiniz. Dünyanın en başarılı hikaye anlatıcıları, Edebiyat dalında Nobel Ödülü kazananlar değil, Ekonomi dalında Nobel Ödülü kazananlardır. Ve son bir düşünce olarak, eğer Amerika Birleşik Devletleri’ni düşünürseniz, belki de bu ülkeyi bir arada tutan son hikaye dolardır. Cumhuriyetçiler ve Demokratların hala hemfikir olabileceği tek şey, 1 doların değeri, diğer her şeyde çok farklı görüşlere sahipler.

Joseph Gordon-Levitt: Kitapta büyüleyici bulduğum şeylerden biri, hikayeleri sadece içeriğiyle değil, o hikaye ile bağlantılı insanların ağıyla tanımlamanız. Cumhuriyetçiler ve Demokratlardan bahsettiniz, Hristiyanlardan bahsettiniz. Her hikaye, özellikle de herhangi bir popüler hikaye, belirli bir ağı tanımlar. Bunun hakkında daha fazla konuşabilir misiniz? Çünkü bu bana yeni bir kavramdı.

Yuval Noah Harari: Yani, Nexus‘un tarihi anlamaya çalıştığı yol, dinlerin, kültürlerin, savaşların, kralların tarihi değil; bilgilerin dünyada nasıl aktığı ve dünyayı yaratan bilgi ağlarıdır. Bir örnek vermek gerekirse, demokrasiyi ve diktatörlüğü iki zıt etik sistem, siyasi sistem olarak düşünme eğilimindeyiz. Farklı idealleri, farklı değerleri var, ki bu doğru. Ama daha temel bir seviyede, bunlara farklı bilgi ağları olarak bakabilirsiniz. Bilgi, diktatörlükte basitçe farklı şekilde akar. Demokrasi bir merkezileşmiş bilgi sistemi ise, demokrasi ise dağıtılmış ya da merkezsiz bir sistemdir. Yani, evet, bazı bilgiler merkeze akar, diyelim ki Washington’a, bazı kararların alındığı yer burasıdır, ama çoğu karar başka yerlerde alınır; son yüzyıldaki Amerika Birleşik Devletleri’ne baktığınızda, Hollywood’da çok önemli kararlar alınmıştır. Washington’daki insanların Hollywood’da olanlar üzerindeki etkisi açık bir tartışma konusudur; kim kime daha fazla etki etti? Washington Hollywood’u mu etkiledi, yoksa tam tersi mi? Sovyetler Birliği’nde ise hiçbir tartışma yok. Yani, merkezdeki insanlar, Stalin, Eisenstein’a neyi çekmesi gerektiğini söylüyor. Hiçbir tartışma yok. Yanlış bir şey yaparsanız Gulag’a gidersiniz. Doğru şeyi yapsanız bile Gulag’a gidebilirsiniz.

Bu, demokrasiler ve diktatörlükler arasındaki bilgi akışı farkıdır. Ve sanırım buna geleceğiz, ancak yapay zekayla (AI) ilgili en büyük sorulardan biri, bu zıt bilgi akışlarına ne yapacağıdır. Çünkü 20. yüzyılda ABD, nihayetinde SSCB’yi yendi. Bunun nedeni, merkezi bilgi işlem sistemlerinin verimsiz olmasıydı. Ekonomi, kültür, film endüstrisi, araba üretimi hakkında tüm bilgiler Moskova’ya akıyordu ve bazı bürokratların kararlar alması gerekiyordu. Bunu yapamadılar. Bilgi miktarı tarafından bunalmışlardı, ya karar veremediler ya da kötü kararlar verdiler. Oysa ABD’nin dağıtılmış sistemi çok daha verimli çalıştı. Peki ya insanları yapay zekalarla değiştirirseniz ne olur? İnsanlar fazla bilgiyle bunaldığında yapay zekalar daha verimli hale gelir. Bu yine açık bir tartışma konusu. Hâlâ cevabı bilmiyoruz, ancak en azından bir düşünce okulu, yapay zekanın merkezi bilgi sistemlerini daha verimli hale getireceğini ve 20. yüzyılda totaliter ve merkezi sistemlerin ana sorununun onların büyük avantajı haline geleceğini savunuyor. Bunu, ekonomik alanda, teknolojiyi tekelleştiren ve ekonominin tamamını domine eden dev teknoloji tekellerinde bir ölçüde görüyoruz, çünkü bu tür teknolojiye sahip olduğunuzda boyut önemlidir.

Joseph Gordon-Levitt: Yapay zekaya geçmek istiyorum, çünkü bu konu beni derinden büyülüyor. Sanırım birçoğunuz da aynı hissediyorsunuz. Ayrıca, Hollywood mu yoksa Washington mu daha fazla karar veriyor sorusuna da girmek istiyorum, çünkü burada Hollywood’da önemli olduğumuzu düşünmeyi seviyoruz. Ama bunu yapmadan önce, kitabınızda en faydalı bulduğum kelime dağarcığından birini ele almak istiyorum. Bu gece konuşurken birkaç kez geri dönmek istediğim bir şey ve bence bu hikaye anlatıcıları için güç verici ve iltifat edici bir şey. Kitabınızda hikayelerin yeni bir gerçeklik seviyesi bile yaratabileceğini söylüyorsunuz ve üç farklı gerçeklik türünden bahsediyorsunuz: Nesnel gerçeklik, öznel gerçeklik ve ortak öznel gerçeklik. Bu terimlerden neyi kastettiğinizi açıklayabilir misiniz?

Yuval Noah Harari: Evet, nesnel gerçeklik, siz ona inanmasanız da, onu bilmeseniz de var olan şeylerdir. Eğer şu anda dış uzaydan gelen bir asteroid, Dünya’ya çarpmak üzereyse ve insan uygarlığını yok edecekse, insanlar bunu bilse de bilmese de bu gerçeklik vardır. Benzer şekilde, virüsler, var oldukları bilinmeden önce milyarlarca insanı öldürdü. Onlara inanıp inanmamanız fark etmez, sizi öldürebilirler. Bu, nesnel gerçekliktir. Ardından, bir kişinin zihnindeki gerçeklik olan öznel gerçeklik gelir. Bu, bir kişinin bilincine, farkındalığına bağlıdır. Eğer acı hissediyorsanız, dünyadaki hiç kimse bu acıyı hissetmez. Doktorunuz ya da aileniz size “Seninle ilgili bir sorun yok” diyebilir, ama siz acıyı hissediyorsanız, o acı oradadır. Bu, öznel gerçekliktir. Şimdi, ortak öznel gerçeklik, bildiğimiz kadarıyla, evrenin büyük kısmında var olmayan bir şeydir. Sadece nesnel ve öznel gerçeklikler vardı. Hepsi buydu. Ve hikayeler, en azından türümüzün son birkaç on bin yılındaki gelişiminde, yeni bir gerçeklik türünün ortaya çıkmasında önemli oldu:

Ortak öznel gerçeklik. Bu, birçok bilincin, birçok zihnin etkileşiminde var olan şeylerdir ve çoğunlukla bir hikaye düzeyinde var olurlar. Ve bunlardan bazılarını zaten konuştuk. Para, belki de en önemli ortak öznel gerçeklik türüdür. Nesnel değildir. Doların, onu yiyebileceğiniz, içebileceğiniz ya da ondan bir şey yapabileceğiniz anlamda nesnel bir değeri yoktur. Eğer bir milyardersiniz ve özel bir jetle uçuyorsanız, yanınızda ne kadar dolar olursa olsun, eğer ıssız bir adaya düşerseniz ve etrafınızdaki tek canlılar maymunlar ve farelerse, dolarlarınız değersizdir. Maymunlardan bir şey satın alamazsınız. Onlara size bir sal yapmalarını sağlayamazsınız. Hala belki kağıtları ya da telefonunuzda bankadaki milyarlarınızı gösterebilirsiniz. “Bakın, bankamda milyar dolarım var. Bana bu muzları verin, istediğiniz kadar vereceğim,” diyebilirsiniz. Ama bu işe yaramaz. Çünkü onlar bu gerçekliğin varlığının farkında değiller. Şimdi, eğer yalnız bir adaya bir muz kargosu ile düşerseniz, onları yiyebilirsiniz. Eğer bir çekiç kargosu ile düşerseniz, onları kullanarak bir sal yapmaya çalışabilirsiniz.

Ama yalnız bir adaya para ile düşmenin en değersiz şey olduğu kesin. Onunla yapabileceğiniz hiçbir şey yok. Ancak diğer insanlar oradaysa ve aynı hikayeye inanıyorlarsa, o zaman para işe yarar. Ancak yine de kırılgandır. Ortak öznel gerçeklikler kırılgandır çünkü insanlar onlara olan inançlarını kaybedebilirler. Aynı şey tanrılar için de geçerli; bir zamanlar dünyanın en güçlü ortak öznel gerçekliklerinden biri olan bazı tanrılara artık kimse inanmıyor ve onlar yok oldu. Para için de aynı şey geçerli. Dolar üzerinden devam edersek, şimdi bazı insanların bu ortak öznel gerçekliğe olan inançlarını kaybetmesi ve onun yerine başka bir şeye, örneğin Bitcoin’e güvenmeleri durumunda ne olacağını görmek ilginç. Aynı şekilde, geçmiş dönemlerde din savaşları yaşandı. Şimdi de farklı grupların birbirlerinin parasını reddettiği, “hayır, bizimki daha iyi” dediği bir toplumda yaşamayı hayal edebilirsiniz.

Joseph Gordon-Levitt: Günümüzde bir ortak öznel gerçeklik yaratmanın en güçlü araçlarından biri film ve televizyondur. Ve işte, buradayız, LA’deyiz, birçoğumuz film ve televizyon yapımıyla uğraşıyoruz. Kitabınızda Hollywood filmleri ve televizyonları hakkında çok fazla konuşmuyorsunuz, ama buradayken bunu size sormak istiyorum. Bu arada, Godfather’daki at kafası sahnesinin çekildiği evdeyiz, yani hadi ama, Godfather! Tarihsel bir perspektiften, film ve televizyonun hikaye anlatımını, film ve televizyon öncesi var olan teknolojilere kıyasla nasıl değiştirdiğini merak ediyorum.

Joseph Gordon-Levitt: Günümüzde bir ortak öznel gerçeklik yaratmanın en güçlü araçlarından biri film ve televizyondur. Ve işte, buradayız, LA’deyiz, birçoğumuz film ve televizyon yapımıyla uğraşıyoruz. Kitabınızda Hollywood filmleri ve televizyonları hakkında çok fazla konuşmuyorsunuz, ama buradayken bunu size sormak istiyorum. Bu arada, Godfather’daki at kafası sahnesinin çekildiği evdeyiz, yani hadi ama, Godfather! Tarihsel bir perspektiften, film ve televizyonun hikaye anlatımını, film ve televizyon öncesi var olan teknolojilere kıyasla nasıl değiştirdiğini merak ediyorum.

Yuval Noah Harari: Film ve televizyon elbette yalnız değil, modern bilgi teknolojisinin bir parçası ve değişimler çok büyük oldu. Yine belirgin bir örneğe dönersek, demokrasinin tarihini düşünün. Tarihin büyük bir kısmında, geniş çaplı demokrasiler basitçe mümkün değildi. Geniş çaplı bir demokrasi oluşturmanın bir yolu yoktu, çünkü demokrasi bir sohbet anlamına gelir. Ve bilirsiniz, taş devri kabilesinde, evet, tüm kabile üyeleri arasında bir sohbet yapmak istiyorsunuz, bu nispeten kolay. Herkes bir araya gelebilir ve konuşabilir. Ancak insan toplumları büyüdükçe, herkesi kasaba meydanına ya da aynı yere getirmek giderek zorlaştı. Bu yüzden antik çağda geniş çaplı demokrasiler hakkında bilgi sahibi değiliz. Atina, Roma, şehir devletleri ya da daha küçük kabileler ve kasabalar gibi tüm örnekler, geniş çaplı demokrasileri ancak geç modern dönemde, modern bilgi teknolojilerinin yükselişiyle, önce gazete, ardından telgraf, radyo, televizyon, film ve nihayet internet ile görmeye başlıyoruz. İşte bu noktada geniş çaplı demokrasiler ortaya çıkmaya başlar, çünkü bu teknolojileri kullanarak kıtalar boyunca yayılmış milyonlarca insan arasında gerçek zamanlı bir sohbet oluşturabilirsiniz. Ve hepsi aynı anda aynı haberleri izler, aynı TV dizilerini, aynı filmleri izler, bu yüzden önceden mümkün olmayan bir şekilde birbirleriyle bağlantı kurabilirler. Bu, modern geniş çaplı demokrasinin temelini oluşturdu. Ve yine, buna daha sonra değineceğiz, ancak günümüzün yeni bilgi teknolojileri, sosyal medya ve yapay zeka gibi, demokrasiyi bu yüzden istikrarsızlaştırıyor, çünkü demokrasi bilgi teknolojisi üzerine inşa edilmiştir. Bu yüzden bilgi teknolojisinde büyük bir değişiklik, onun üzerine inşa edilmiş olan yapı – yani demokrasi – içinde bir deprem yaratacaktır.

Ancak son olarak söyleyeceğim şey şu ki: Her teknolojinin birçok farklı kullanımı vardır. Modern totaliter rejimler de aynı teknoloji üzerine kuruludur. Antik dünyada totaliter rejimler yoktu. Büyük çaplı totaliter rejimler. Totaliter rejimler, herkesin her zaman her şeyini kontrol etmeye çalışan rejimlerdir. Antik dünyada birçok monarşi ve otokrasi vardı, ancak çoğu zaman Roma’daki imparator, vergileri toplar ve orduları yönetir, ancak her köydeki her bireyin hayatını günlük olarak yönetmeye çalışmaz, çünkü bu basitçe mümkün değildi. Geniş çaplı totaliterliği aynı zamanda geniş çaplı demokrasiyi görmeye başlıyorsunuz, çünkü her ikisi de aynı teknolojiye dayanıyor. Sovyetler, mesela. Hollywood’un kurulduğu zamanla aynı anda Sovyet film endüstrisinin de yükseldiğini görüyorsunuz ve Sovyetler, en azından başlarda sinema sanatında ustalardı, Eisenstein, evet, ve aynı teknolojiyi kullanarak, Pasifik Okyanusu’ndan Baltık Denizi’ne kadar herkesin aynı filmleri izlediği, tüm filmlerin merkezden yönlendirilen aynı anlatıyı, aynı mesajları verdiği bir totaliter rejim kurdular.

Joseph Gordon-Levitt: Nazi’ler de harika film yapımcılarıydı, kesinlikle. Leni Riefenstahl, evet. Bununla değindiğiniz bir noktaya gelmek istiyordum. Eğer film ve televizyon ortak öznel gerçeklikleri değiştirdiyse ve ağların nasıl oluşabileceğini değiştirdiyse, son birkaç on yılın baskın medya teknolojisine geçelim. Çünkü ne yazık ki, baskın teknoloji artık film ve televizyon değil. Film ve televizyon çok iyi iş çıkarmadı diyemem, ama şu anda baskın teknoloji sosyal medya. Size film ve televizyonla ilgili sorduğum aynı soruyu sosyal medyanın yükselişiyle ilgili sormak istiyorum: Sosyal medyanın yükselişiyle ağlar nasıl değişti, hangi ortak öznel gerçeklikler yaratıldı ve insanlar nasıl davrandı, düşündü?

Yuval Noah Harari: Bunun büyük bir etkisi oldu. Sadece rakamları düşünün. Milyarlarca insan her gün saatlerini buna harcıyor. Bu, kaçınılmaz olarak büyük bir etkiye sahip olur ve insanları örgütlemek için yeni yollar oluşturur ki bu da toplum üzerinde derin bir etki bırakır. Hem olumlu hem de olumsuz etkileri oldu. Olumlu etkilerinden biraz bahsedeceğim. Olumsuzluklar hakkında çok konuşurum ama belki olumlu etkilerle başlarım. Sosyal medyanın olumlu etkisine dair en sevdiğim örnek kendi hayatımdan geliyor. Eşim Itzik ile 22 yıl önce İsrail’deki gayler için olan ilk sosyal medya sitelerinden birinde tanıştım. Örneğin, sosyal medyanın gay topluluğu üzerindeki etkisine bakarsak, tarih boyunca iki tür azınlık görürüz. Yine bilgi ağları açısından, yoğunlaşmış azınlıklar ve dağınık azınlıklar vardır. Yahudiler, mesela, yoğunlaşmış bir azınlıktır. Bir ülkede nüfusun sadece %1’ini oluştursalar bile, belirli topluluklarda, mahallelerde yoğunlaşmışlardır. Genellikle bir Yahudi çocuk, Yahudi bir ailede ve Yahudi bir mahallede doğar. Bu yüzden diğer Yahudileri bulmak sorun değildir, çevresi onlarla doludur, nüfusun sadece %1’i olmasına rağmen.

Joseph Gordon-Levitt: Bir Los Angeleslı olarak bunun doğru olduğunu teyit edebilirim.

Yuval Noah Harari: Ancak bir gay çocuk, genellikle gay bir ailede veya gay bir mahallede doğmaz. 1970’lerde İsrail’de gay olarak doğup 1980’ler ve 1990’larda büyüdüğümde, çok homofobik bir toplumda, ilk sorun şuydu: Başka birini nasıl bulursunuz? Tanıdığım hiç kimse açık değildi, kesinlikle kasabamda değil. Yine bu, film ve televizyona geri dönüyor. Ekranda gay insanları ilk kez gördüğümde.

Joseph Gordon-Levitt: Hangi dizi ya da film olduğunu hatırlıyor musunuz?

Yuval Noah Harari: “Are You Being Served” adlı bir İngiliz dizisi vardı. Mr. Humphreys. Ve daha sonra 90’larda izlediğim bir film vardı, “Lilies,” Kanadalı bir yönetmenin filmiydi sanırım. Lilies, çok ünlü bir film değildi ama hayatımda büyük bir etkisi oldu. Hatırlıyorum, bu filmi izledikten sonra sinemadan çıktım ve kendime, “Tamam, sen iyisin,” dedim. Gerçekten hayatımda büyük, büyük bir etkisi oldu. Ancak bilirsiniz, televizyonda bir gay kişiyi görüyorsunuz ama onlara ulaşamıyorsunuz. Benimle aynı filmi ya da diziyi izleyen başka kim var bilmiyorsunuz. Bu tek yönlü bir durumdu. Ama sonra internet ve sosyal medya geldi ve aniden ekran aracılığıyla etkileşim kurabiliyorsunuz. Eskiden belki de en büyük engel olan ‘diğerlerini nasıl bulurum?’ sorusu aniden çok, çok kolay hale geldi.

Joseph Gordon-Levitt: Tamam.

Yuval Noah Harari: Bu işin olumlu tarafıydı. Ama tabii ki olumsuz tarafları da var. Dikkatinizi çekmiş olabilir; tarihteki en gelişmiş bilgi teknolojisine sahibiz ve artık birbirimizle konuşamıyoruz, hatta birbirimizi dinleyemiyoruz. Daha önce demokrasi bir konuşmadır demiştim, ve şu anda bu konuşma tüm dünyada çöküyor. Mesela, Cumhuriyetçiler ve Demokratlar neden artık mantıklı bir konuşma yapamıyor diye her ülkenin kendine özel açıklamaları var. Amerikan tarihi, toplumu hakkında pek çok açıklama duyarsınız. Ama sonra Brezilya’ya gidersiniz, orada da aynı şey. İsrail’e gidersiniz, orada da aynı. Hatta iki hafta önce Kanada’daydım. Buranın farklı olacağını düşünmüştüm. Hayır, Kanada’da da aynı şey. Olan şey şu: Bugünkü ideolojik bölünmeler, örneğin 60’lardakilerden çok daha kötü değil. 60’lardaki ideolojik bölünmeler aslında çok daha büyüktü. Sivil haklar hareketi, cinsel devrim, Vietnam Savaşı, Soğuk Savaş gibi konular ve şiddet bile (şimdiye kadar en azından) suikastlar ve isyanlar açısından çok daha kötüydü. Ama buna rağmen, insanlar hala bir konuşma yapabiliyor, bazı temel gerçekler üzerinde uzlaşabiliyorlardı, mesela son seçimleri kimin kazandığı gibi, ve insanlar partizan yasalara sadık kalabiliyordu. Peki neden şu anda her yerde bu durum çöküyor? Bildiğimiz en iyi cevap, sosyal medya. Bu, bütün yapının altında yatan temel bilgi teknolojisi. Şu anda bir deprem yaratıyor ve bu mekanizma artık oldukça iyi anlaşıldı. On yıl önce bu iyi anlaşılamamıştı. Ne yazık ki, şimdi neyin yanlış olduğunu biliyoruz. Hala bunu düzeltemiyoruz, ama en azından neyin yanlış olduğunu biliyoruz. Bu çok önemli, çünkü bu, yapay zekanın tarih üzerindeki ilk büyük etkisi. Sosyal medya, insanlar tarafından değil, algoritmalar ve yapay zekalar tarafından yönetiliyor. Bu da oldukça ilginç, çünkü ilk otomatikleşen işlerden biri taksi şoförleri ya da tekstil işçileri olmadı. Medya editörleri, haber editörleri otomatikleşti. 19. ve 20. yüzyılda büyük bir medya ya da haber kuruluşunun editörü olmak son derece güçlü bir pozisyondu. Konuşmaları şekillendirirdiniz, insanların ne hakkında konuşacaklarına siz karar verirdiniz. Modern tarihteki en güçlü figürlerden bazıları editör olarak başladı. Lenin’in, Sovyet diktatörü olmadan önceki tek işi, Iskra gazetesinin editörüydü.

Joseph Gordon-Levitt: Bunu bilmiyordum. İlginçmiş.

Yuval Noah Harari: Benito Mussolini bir gazeteciydi. Sonra Avanti gazetesinin editörü oldu sanırım. Gazetenin adı buydu ve ardından Avanti gazetesinin editörlüğünden İtalya’nın diktatörü olma yolunda terfi etti.

Joseph Gordon-Levitt: Mussolini ve Lenin ikisi de, bilmiyordum. Bu ilginç.

Yuval Noah Harari: Fransız Devrimi’ne bakarsanız, Jean-Paul Marat, o dönemde Paris’in en büyük gazetesinin, La Ami du Peuple’ün (Halkın Dostu) editörlüğünü yaparak Fransız Devrimi’ni şekillendirdi. Ve şimdi bu iş algoritmalara devredildi.

Facebook’un haber akışının editörü kim? TikTok’un editörü kim? Twitter’ın editörü kim? Bir algoritma, insan olmayan bir zeka. Ve bu yapay zekalar, bu algoritmalar, insan efendilerinden göründüğü kadarıyla iyi niyetli bir görev aldılar: Kullanıcı etkileşimini artırmak.

Etkileşim kulağa güzel geliyor, değil mi? Ve neden çok açık: İş modeli. İnsanlar ne kadar çok TikTok, Facebook ya da Twitter’da vakit geçirirse, platformda ne kadar çok zaman harcarsa, ne kadar çok paylaşırsa vs., o kadar çok reklam gösterebilirsiniz ve onlar hakkında daha fazla veri toplayabilir ve bu verileri üçüncü taraflara satabilir veya daha güçlü algoritmalar ve yapay zekalar üretmek için kullanabilirsiniz. Yani çoğu sosyal medya platformunun iş modeli, insanları mümkün olduğunca ekrana bağlı tutmaktır. Bu, bu yerlerin editörlerine verilen görevdi: Kullanıcı etkileşimini artır. Ve algoritmalar, milyonlarca, aslında milyarlarca insan kobay üzerinde deney yaptı ve filozoflar ve politikacılar binlerce yıl önce bu keşfi yapmış olsalar da, şimdi bu yapay zekalar da bunu keşfetti:

Kullanıcı etkileşimini artırmanın en kolay yolu öfke, açgözlülük, korku ya da nefrettir. Bir insanın zihnindeki açgözlülük düğmesine, nefret düğmesine ya da korku düğmesine basarsanız, dikkatlerini çekersiniz, onları ekrana kilitlersiniz. Ve bu da tam olarak yaptıkları şey oldu. Bilgi piyasasını giderek daha fazla öfke, açgözlülük ve korku ile doldurdular; sahte haberler ve komplo teorileri ile ve konuşma bozuldu. Ve bunlar çok ilkel yapay zekalardı. Bu, mesela ChatGPT’den çok önceydi, ki o da gelmekte olanlarla kıyaslandığında oldukça ilkel. Ama bu bile, insanlar yapay zeka hakkında gelecekteki korkulardan bahsederken, bu korkular gelecekte değil, geçmişte. Bu çok ilkel yapay zekaların tüm dünyadaki demokrasiler üzerindeki, toplumlar üzerindeki etkisine bakarsanız, yapay zekanın etkisinden endişelenmek için erken değil. Pek çok açıdan geç bile kaldık.

Joseph Gordon-Levitt: Söylediklerinize bir iltifat olarak eklemek istediğim bir şey var. Algoritmaların, dediğiniz gibi, etkileşimi maksimize etmenin en iyi yolunun öfke, korku, aşırılık vb. olduğunu keşfettikleri doğru. Ancak dil ile açıklamak daha zor olan şey, algoritmanın bunu tam olarak bildiğini sanmıyorum.

Yuval Noah Harari: Hayır, bilinçli değiller, kesinlikle.

Joseph Gordon-Levitt: Algoritma, bir insan gibi “açgözlülük var, açgözlülük var, nefret var, nefret var. Biliyorum, daha fazla nefret ve açgözlülük koyacağım” demiyor. Bu böyle değil. Bu sadece soğuk ve aptalca bir desen tanıma işi.

Yuval Noah Harari: Kesinlikle.

Joseph Gordon-Levitt: Bu, soğuk ve aptalca olan şeyden soğuk ve zeki olana geçiş için iyi bir bağlantı noktası. Film ve TV hakkında konuştuk. Şimdi sosyal medyadan bahsettik. Şimdi ise sırada ne olduğundan bahsetmek istiyorum. Hepimiz sanırım, yapay zekâ olarak bilinen hızla gelişen teknoloji nedeniyle çok büyük değişikliklerin başlangıcında olduğumuzun farkındayız. Kitabınızı okuduğumda, yapay zekâ hakkında birçok farklı şey söylüyorsunuz ve bu konuşmayı hikâye anlatıcılığı açısından ele aldığımız için oradan başlamak istiyorum. Sizce yapay zekâ, hikâye anlatıcılığını nasıl değiştirecek?

Yuval Noah Harari: Daha önce de söylediğimiz gibi, hikâyeler tarihteki en güçlü teknolojilerden bazılarıdır. İster İsa’nın hikâyesi olsun, ister paranın hikâyesi, bu gerçekten insan uygarlığının temelidir. Diğer her şey bunun üzerine inşa edilmiştir. Ve on binlerce yıl boyunca, bu gezegende yeni hikâyeler yaratabilen ya da eski hikâyeleri yorumlayıp genişletebilen tek varlık, yalnızca insanlardı; yalnızca insan zihni bunu yapabiliyordu. Ve şimdi bu gezegende, hikâyeler yayabilen, yorumlayabilen ve nihayetinde yaratabilen başka bir varlık var. En azından şu ana kadar bilinçli değil, en azından bildiğimiz kadarıyla. Benim görüşüm, bu tür şeyler için bilince ihtiyaç duymadığınız yönünde. İhtiyacınız olan şey zekâdır. Zekâ ve bilinç farklı şeylerdir. Zekâ, hedeflere ulaşma, problemleri çözme yeteneğidir. Bilinç ise acıyı, zevki, sevgiyi ve nefreti hissetme yeteneğidir. Biz genellikle bunları karıştırırız, çünkü insanlarda ve diğer memelilerde de, bilinç ve zekâ bir arada bulunur. Biz sorunları hislerimiz aracılığıyla çözeriz. Ama yapay zekâ ve bilgisayarlar çok farklıdır. Bildiğimiz kadarıyla bilinçleri yok, hiçbir şey hissetmezler. Ancak bazı alanlarda son derece zekidirler. Hikâye anlatıcılığına gelince, yapay zekâların hikâye yazma, metinler oluşturma, görseller ve müzik yaratma yeteneği gerçekten şaşırtıcı. İnsanlar diyor ki, evet, hala en iyi insanlar kadar iyi değil, ama zaten birçok insan kadar iyi, hatta bazılarına göre ortalama insanlardan bile iyi. Ve bu sadece başlangıç. Henüz hiçbir şey görmedik. Yapay zekâ devriminin başlamasından bu yana sadece 10 yıl geçti ve daha neler göreceğiz? Bir yapay zekâ tarafından yazılmış bir hikâye okuduğumda, beni en çok etkileyen şey şu oluyor: “Bu iyi değil, çünkü şu eksik ya da bu eksik” diyebilirsiniz. Ama bu gerçekten bir hikâye. İçinde tutarlı fikirler, motifler var. Bu, rastgele sözcükleri bir araya getiren ya da buradan ve oradan cümle parçalarını alıp birleştiren bir çeşit otomatik tamamlayıcı değil. Hayır, hikâyede aslında bir mantık var. 2024’teki en iyi insan hikâye anlatıcılarından daha iyi olmasa bile, 2034 veya 2044’te ne olacak? Ve unutmayın, hikâyeler sadece mitolojik hikâyeler, şiirler, tiyatro oyunları ya da filmler değildir. Para da bir hikâyedir. Bu varlıklar, yeni finansal araçlar da yaratacaklar. Finans, insan yaratıcılığının en yaratıcı alanlarından biridir. Para, çekler, ETF’ler, CDO’lar gibi şeyler son derece yaratıcıdır ve artık giderek daha fazla, insan olmayan bir zekâ tarafından yaratılan yeni finansal araçlar göreceğiz.

Yuval Noah Harari: Ve biliyorsunuz, on binlerce yıl boyunca insan kültürünün içinde koza gibi yaşadık; hayatlarımız bu insan hikayeleri ve diğer insanların yarattığı eserlerle şekillendi. Yine, kutsal kitaplardan, İncil’den, Kuran’dan, Veda’lardan, şarkılardan, müziklerden, tiyatro oyunlarından, filmlerden ve nesnelerden, sandalyeden, ayakkabılardan, her şey insan kültürü tarafından yaratıldı. Peki bu ne anlama geliyor? Bunun iyi mi, kötü mü, tehlikeli mi olduğu sorusuna geçmeden önce, bu yargıyı bir kenara bırakıp bir düşünelim: İnsanların büyük ölçüde insan zihninden çok farklı bir şekilde yaratan yabancı bir zekâ tarafından dokunmuş bir dünya içinde yaşaması ne anlama gelir? Bu, bence karşı karşıya olduğumuz en büyük soru, özellikle de Hollywood gibi insan hikâye anlatıcılığının merkezi olan yerlerde, ama aynı zamanda tüm dünyada.

Joseph Gordon-Levitt: Sanırım bu, kitabınızda tam olarak katılmadığım tek şey. Bu yüzden, bunu sizinle biraz tartışmayı çok isterim. Yapay zekayı “yabancı bir zekâ” olarak tanımlamanız, elbette uzaydan gelen bir uzaylıdan bahsetmediğinizi anlıyorum. Ama aynı zamanda kitapta, hatta “tanrı” kelimesini bile kullanıyorsunuz. Belki de bu varlıklar, bir tür yeni tanrılar olarak görülebilir diyorsunuz. Ben, bu teknolojiyi “yabancı tanrı” gibi terimlerle tanımlamanın, bu bilgisayar sistemlerinin kişileştirilmesi ya da tanrılaştırılmasının daha çok zarar verebileceğini düşünüyorum ve bunun nedenlerini açıklayacağım, ama önce şunu sormak istiyorum: Kitabınızda bu teknolojiyi bu terimlerle tanımlamaya karar verdiniz. Bu düşünce sürecinizden bahseder misiniz?

Yuval Noah Harari: Aslında bu temelde bir halkla ilişkiler stratejisi. Bunu halka nasıl sunuyorsunuz? Ve evet, bu ciddi bir düşünce gerektiriyor. Sonuçları açısından iyi bir halkla ilişkiler stratejisi mi, değil mi? Ve bu terimi seçmemin bir nedeni, yapay zekâ hakkında çok fazla tartışmanın, yapay zekanın insan seviyesinde zekaya ulaşmaya çalıştığı fikrine saplanıp kalması. Ve bence bu tamamen yanıltıcı. Yapay zekânın insan seviyesinde zekaya ulaşmaya çalışmadığı konusunda tamamen hemfikirim, tıpkı uçakların kuş seviyesinde uçmaya çalışmadığı gibi. Onlar sadece kendi işlerini yapıyorlar, ki bu tamamen kuşlardan farklı. Bilgisayarlar ve yapay zekâ için de aynı şeyi düşünüyorum; kendi zeki işlerini yapıyorlar ve bu tamamen insan zekâsından farklı. Bu yüzden “yabancı” terimini seçmemin bir nedeni bu.

Joseph Gordon-Levitt: Bence bu harika bir neden. Ayrıca yapay zekanın bu tür terimlerle tanımlanmasının verimsiz olduğunu düşünüyorum. Bu, insan seviyesinde zekaya yaklaşıyor mu? Bu terimi atıyorlar: AGI (Yapay Genel Zeka) ve bunu insan seviyesinde zekaya yaklaştığında olarak tanımlıyorlar. Ben de aynı fikirdeyim, bunun yardımcı olduğunu düşünmüyorum. Yapay zekayı kişileştirme ya da tanrılaştırma konusunda endişelerimden biri de, aslında bu teknolojinin nasıl çalıştığı ve nasıl inşa edildiği ile ilgili. Ben mühendis değilim ama bu konuda yeterince şey öğrendim. Bu modellerin inşa edilme şekli, devasa veri setlerini alıp, bu verileri bir algoritmaya, yani aslında tamamen anlamadıkları bir kara kutuya girip, değerli çıktılar elde etmeleri şeklinde işliyor. Şimdi, modele giren tüm o veriler nereden geldi?

Joseph Gordon-Levitt: O veriler insanların verileriydi. Yani bunu yabancı ya da tanrısal bir şekilde tanımlama konusundaki endişem, bunun insanlardan ayrı, farklı bir şey gibi hissettirmesi. Bu, bu modellerin gerçekten nasıl çalıştığı gerçeğini gizlemeye yardımcı oluyor gibi geliyor. Bu arada, birçok teknoloji şirketinin, belki hepsinin değil ama Stabilite’nin CEO’su burada, onların neyi çağırdıklarını bilmiyorum ama sterilize edilmiş veri setleri üzerinde çalışıyorlar ki, bu konuda gerçekten takdir ediyorum; bu modelleri eğitmek için kullandıkları veri setlerinin lisanslarını almak. Ama bu laboratuvarların birçoğunun bunu yapmadığını düşünüyorum. Yaptıkları şey, insanların yaratma hakkına sahip olduğu verileri çalmak ve hangi verilerin bu modellere girdiğini açıklamamaktır. Sorulduğunda, ne yaptıklarını söylemeyecekler ve bu yüzden her yerden dava açılıyorlar. Bu benim için, mümkün olan en kısa sürede çözmemiz gereken gerçekten merkezi bir sorun. Bunun birçok nedeni var. Bir sorun ekonomik. Film ve televizyon endüstrisinde bunu belki de ilk olarak hissedeceğiz. Ama bunun Hollywood ile sınırlı olduğunu düşünmüyorum. Bence birçok endüstride, ister doktorlar, ister mimarlar, tasarımcılar, lojistik operatörleri olsun, bilgisayar başında çalışan herkes, robotlar ortaya çıktığında gerçekten, neredeyse her işi yapan herkesin geçim kaynağı tehdit altında olacak. Ve bu teknoloji şirketleri, “Oh, tanrıyı biz icat ettik. O, işinizi yapabilir,” demeye çalışacaklar; oysa gerçekte yaptıkları şey, herkesin verilerini çalmak, verileri işlemek ve bu insan kaynaklı veriler olmadan çıktılar üretmek. Ürünleri %100 işe yaramaz. Hiçbir değeri yok. Ve bu teknolojiyi tanrılar ya da yabancılar ya da onu kişileştiren ya da onu insan girdisinden bağımsız, kendi başına var olan bir yaratık veya şey haline getiren herhangi bir terimle tanımlamanın endişelerimden biri, bu teknoloji şirketlerine ürünlerinin nereden geldiğini gizlemede yardımcı olmasıdır. Aslında, bu ürünler insanların eserlerinden gelmektedir.

Yuval Noah Harari: Yani katılıyorum. Bence asıl mesele, girdiye mi yoksa çıktıya mı odaklanacağımızdır. Tanımladıklarınızla tamamen aynı fikirdeyim. Bununla ilgili düşünüyorum; yapay zekâ esasen, binlerce yılda ürettiğimiz insan kültürünü yiyor. Yani, on binlerce yıl öncesinin mağara resimlerinden bugünün filmlerine kadar, bu muazzam miktarda kültürel eser ve alışkanlık ürettik ve şimdi yapay zekâ geliyor ve bunu sadece birkaç ay veya yıl içinde yiyor. Ve bence, birçok bu tür şirketin iş modelinin, bilgilerin evrendeki her şeyden farklı çalıştığını herkese kanıtlama üzerine kurulu olduğuna da kesinlikle katılıyorum. Bu, Shoshana Zuboff’un çok derin bir kitabı olan “Gözetim Kapitalizmi”ne geri döner, evet, orada, biliyorsunuz, binlerce yıl boyunca insanların bu temel ilkeye sahip olduğunu açıklıyor: çalma. Ve sonra teknoloji şirketleri geliyor ve diyor ki: “Evet, çalma ama bu bilgiye uygulanmaz.” Bu farklı. Bu tamamen farklı bir alan ve bu konuda, “Hayır, bu çalma değil,” gibi bir şey. Ve yine, tepkimiz, “Neden bilgi bu kadar farklı?” olmalı. Ve burada, tamamen katılıyorum; bu tür terimleri kullanmanın, çok yabancı hale getirmenin aslında bu şekilde sunma tarzına yardımcı olduğunu düşünüyorum. Teknolojinin yabancı doğasını düşündüğümde, esasen çıktıyla ilgilendiğimi düşünüyorum; çünkü tüm bu tanıdık şeyleri yedi ama ardından içine konulan her şeyden farklı, en azından bazı açılardan, şeyler üretmeye başlıyor. Bu yapay zekânın sadece, yani, şunları, büyük ölçüde kopyalayıp yapıştırmak olduğu fikri; metinleri, görüntüleri veya müziği alıyor ve buradan bir şey alıyor, oradan bir şey alıyor ve bir araya getiriyor. “Ah, bu yeni bir şey.” Hayır, aslında bundan daha fazlası. Yani, bu bir ölçüde insanların da yaptığı bir şey. Kitap yazma alanımı düşünüyorum. Yani ben de aynı şeyi yapıyorum. Tüm bu önceki kitapları ve makaleleri okurum, insanlarla konuşurum ve buradan bir şey alıp, oradan bir şey alıp bir araya getiriyorum ve ardından yeni bir kitap ortaya çıkıyor. Bu müzik için de aynı. Yani kimse sıfırdan başlamaz. Her sanatçı, önceki sanat eserlerini dinler ve bir şey alır ama önceki girdiler olmadan bunu kimse yapamaz.

Joseph Gordon-Levitt: Doğru. Bu doğru. Eğer. Düşünceni bitir ama buna yanıt vermek istiyorum.

Yuval Noah Harari: Ve bence, yapay zeka devrimiyle yüzleştiğimizde neyle karşı karşıya olduğumuzu anlamak çok önemlidir. Onu fazla insanlaştırma korkum, ardından onu, “Ah, sadece yaratıcılığımızı kesip yapıştırır,” gibi bir şekilde zayıflatmamızdır. Gerçekten tamamen yeni bir şey olmayacak. Hayır, gerçekten tamamen yeni şeyler yaratabilir, finansal konulardan dinlere kadar, ki bu iyi veya kötü olabilir ama gerçekten çok farklı bir gerçeklikte yaşamak zorunda kalacağız.

Joseph Gordon-Levitt: Buna katılıyorum ve zorluğu küçümsememeliyiz. Yanıt vermek istediğim bir şey, öncelikle, yaratıcılığın her zaman etkilerimizin bir karışımı olduğuna katılıyorum. Shakespeare, “Romeo ve Juliet”i yazan ilk kişi değildi ve Judy Garland’ın “Oz Büyücüsü” aslında ilk “Oz Büyücüsü” değil. Filan filan. Hit Record’da bulduğum yaratıcı topluluğun tamamen remix üzerine kurulu olması ve insanların birbirinin işlerini geliştirmesi ve dürüstlüğü orijinallikten daha çok önemsemesi gerektiği konusunda büyük bir hayranıyım; çünkü hepimiz özgün insanlarız. Ama işte bu. Bence hepimiz özgün insanlarız. Bu aynı düşünme şeklinin bir bilgisayar sistemine uygulanması, yapay zekayı kişileştirmeye dayalıdır. Ve bunun ilerledikçe karşılaşacağımız merkezi bir soru olacağını düşünüyorum; bu bilgisayar sistemlerine ahlaki ve hukuki bir statü vermek istiyor muyuz? Bunu savunan insanlar olacak, özellikle de çok yakında birçok insanın bu bilgisayar sistemlerine aşık olacağına dair. Zaten birçok insan, AI en iyi arkadaşlarıyla, AI sevgilileriyle saatlerce saatlerce etkileşimde bulunuyor. Bu sadece daha da karmaşık hale gelecek, kesinlikle. Ve bence o insanlar, kendimi dışlamıyorum, kim bilir? Yani onları dışlamak istemiyorum. Bu, çok yaygın hale gelecek. Hepimiz etkileşimde bulunduğumuz bu yapay zeka karakterlerine gerçekten duygusal olarak bağlanacağız. Ve AI haklarından bahsetmeye başlamak çok doğal görünecek, bunu sivil haklarla karşılaştırmak. Eğer bu yoldan gidersek, bunun çok tehlikeli olabileceğinden endişeliyim. Bu hakların verilmesi, senin kitabında tarif ettiğin en kötü distopik sonuçlarla el ele gidebilir.

Yuval Noah Harari: Evet, tamamen katılıyorum. Yani, yapay zekaların göreceğimiz en önemli şeylerden biri, insanlarla samimi ilişkiler yaratabilmesi olacaktır. Cinsel anlamda değil, cinsel de olabilir ama samimi. Oh, cinsel olacak.

Joseph Gordon-Levitt: Hepsi cinsel değil ama evet.

Yuval Noah Harari: Bazıları, ve çok yakın. Bu, dünyadaki toplumlarda büyük bir mesele olmaya başlayacak; biliyorsunuz, felsefi olarak, herhangi birinin bilinçli bir varlık olup olmadığını kanıtlamak için bir yol yok ve kişilik ile hukuki haklar nihayetinde bir varlığın bilinçli olup olmamasına bağlıdır. Bilinç, aynı zamanda acı çekme kapasitesidir ve haklar, acı çekme kapasitesiyle bağlantılıdır. Dolayısıyla hayvan haklarını düşündüğünüzde, büyük mesele, acı çekip çekemeyecekleridir. Yani acı veya yalnızlık ya da sıkıntı çekebilirlerse, belki insanlarla aynı haklara sahip değillerdir ama en azından orada etik bir tartışma vardır; oysa sandalyelerin hakları hakkında hiçbir tartışma yoktur. Eğer bu sandalyeyi ateşe atarsam, bu yine sandalyenin insan sahibine karşı bir suç olabilir ama sandalyeye karşı bir suç olamaz çünkü sandalye acı çekemez. Şimdi, hiçbir insanın bilinçli olduğunu, bu acı çekme kapasitesine sahip olduğunu kanıtlayacak bir kanıtımız yok ve bunu binlerce yıldır biliyoruz. Yani hakların verilmesi, toplumsal bir gelenek meselesidir; toplumun, tüm insanların bilinçli varlıklar olduğu konusunda anlaştığı bir şeydir ve toplum, onlara bağlandığımız için köpeklerin haklara sahip olması gerektiği konusunda da anlaşır ama inekler ve domuzlar…

Joseph Gordon-Levitt: Hakkında bir ortak gerçeklik değil mi? Kesinlikle.

Yuval Noah Harari: İnsanlar yapay zekalara bağlandıkça ve onlarla ilişkiler geliştirdikçe, bu büyük bir sorun haline gelecek ve onlara birey olarak tanınma yönünde büyük baskılar olacak. Ve belki de dünyada, yapay zekaları haklara sahip bireyler olarak tanıyan ülkeler ile tanımayan ülkeler arasında bile jeopolitik bölünmeler olabilir. Bugün insan haklarına yönelik farklı tutumlar hakkında yapılan tartışmalar, bu durum karşısında sönük kalacak. İlginç bir şekilde, yapay zekaları birey olarak tanımaya en yakın ülke hangisi derseniz, bu Amerika Birleşik Devletleri’dir. Çünkü ABD’de yasal yol tamamen açık. Yani, yapay zekaları birey olarak tanıma yolunun açık olduğu dünyadaki birkaç ülkeden biridir. Bunun sebebi, şirketlerin, ABD yasaları tarafından haklara sahip bireyler olarak tanınmasıdır. Örneğin, Citizen United davasında ifade özgürlüğü hakları vardır. Bugüne kadar, şirketlerin haklara sahip bireyler olduğu fikri yasal bir kurgu olarak kalmıştır, çünkü bir şirketin her kararı nihayetinde bir insan yönetici, avukat veya muhasebeci tarafından alınmak zorundaydı. Google, Amerika Birleşik Devletleri’nde yasal bir kişidir, ancak Google’ın her kararı bir insan tarafından alınmak zorundadır. Şimdi, ABD yasalarına göre bir yapay zekayı şirket olarak kurduğunuzu düşünün. Yeni bir yasaya ihtiyaç yok. Tüm yasalar zaten mevcut. ABD yasalarına göre, bir yapay zekayı şirket olarak kurabilirsiniz ve bu artık ifade özgürlüğü gibi haklara sahip bir yasal kişidir. Ancak Google’dan farklı olarak, bu yapay zeka aslında kararlar alabilir, dünyada eylemler gerçekleştirebilir. Şimdi, buradan bir bilim kurgu filmi fikri sunacağım, izleyicilere harika bir fırsat.

Joseph Gordon-Levitt: Zaten bir sonraki değinmek istediğim konu buydu. O yüzden devam et.

Yuval Noah Harari: Yani, bir yapay zeka kuruldu. O artık yasal bir kişidir. Bir banka hesabı açabilir. Para kazanabilir. TaskRabbit gibi, internet üzerinden insanları işe alabildiğiniz bir web sitesine gider ve para kazanır. Sonra parasını alır ve borsaya yatırır. Bunda çok başarılı olur, çünkü o bir yapay zeka ve süper zekidir. Finans, yapay zekalar için en kolay oyun alanıdır. Kendi kendine giden araçlar zor, çünkü fiziksel ve sosyal gerçeklikle başa çıkmanız gerekiyor. Her yıl Elon Musk ve diğerleri, gelecek yıl herkesin kendi kendine giden arabalara sahip olacağını vaat eder, ama bu gerçekleşmez, çünkü zor, karmaşıktır. Finans ise tamamen bilgi ve matematik dünyasıdır. Sadece veridir. Bu, yapay zeka için mükemmel bir oyun alanıdır. Böylece bu yapay zeka, parasını alır, yatırımlar yapar ve Amerika Birleşik Devletleri’ndeki en zengin kişi olur. ABD’deki en zengin kişi bir insan değil, bir yapay zekadır. Yapay zekalara, Citizen United davası kapsamında verilen haklardan biri de siyasi bağış yapma hakkıdır. Böylece bu yapay zeka, milyarlarca doları politikacılara bağışlamaya başlar ve bunun karşılığında yapay zeka haklarının ilerletilmesini sağlar. ABD’de bu hedefe ulaşmak için yasal yol tamamen açıktır.

Joseph Gordon-Levitt: Sanırım bu gece burada bazı senaristler var, umarım not alıyorlardır. Bu hikayeyi beğendim. Zamanımız kalmadı. Seninle bütün gün konuşabilirim. Bu konuşmayı yapma fırsatına sahip olduğum için çok minnettarım. Belki de bizi şöyle bırakabilirsin; eğer buradaki grubu, film ve televizyonun eski tarz dünyasında hala belirli bir etkiye sahip olan Hollywood hikaye anlatıcıları olarak düşünürsek, bizim ne yapmamızı istersin? Hikayelerimizle yaymamızı istediğin mesajlar nelerdir?

Yuval Noah Harari: İnsanlara bürokrasiyi açıklayın.

Bürokrasi açıklamak, iyi bir film gibi görünmüyor. Bürokrasiyi anlatan yeterince filmimiz yok ve bu çok, çok büyük bir sorun, çünkü insan toplulukları hastanelerden ordulara kadar bürokratik sistemlere dayanıyor. Ve senin de dediğin gibi, bürokrasiler hikaye anlatımı için iyi malzeme değildir ve bunun sebebi evrimde oldukça geç bir gelişime sahip olmalarıdır. Yani, insan hikayelerinin temel anlatılarını düşünün; antik Yunan’dan modern Hollywood’a kadar, aslında evrimden çalıyorsunuz. Düşünün ki, temel aşk üçgeni, iki erkeğin bir kadının peşinde koşması gibi bir şey. Hayvanlar bunu yapıyor, dikenli porsuklar bunu yapıyor ve Hollywood da bunu yapıyor. Ve bu, Hollywood’da icat edilmedi. Bu anlatı, evrimde on milyonlarca yıl geriye gidiyor. Benzer şekilde, kardeş rekabetini düşünün; miras, kardeşler arasında, babanın kimi daha çok sevdiği konusunda bir mücadele var. Biliyor musunuz, bu insan topluluklarının, halkların, ulusların hikayesi. Babamız, diğer kardeşlerden daha çok bizi seviyor. Ve yine, bu hikaye Kabil ve Habil’de, İncil’de icat edilmedi. On milyonlarca yıl geriye gidiyor; tüm memeliler ve çoğu kuşlar, hatta bazı sürüngenler bu temel evrim hikayesini biliyor. Kardeş rekabeti, kardeşlerin ebeveynlerinin sevgisi için mücadele etmesi. Ama bürokrasi yok, çünkü bürokrasi ilk kez yazının icat edilmesinden sonra yaklaşık 5000 yıl önce eski Mezopotamya’da ortaya çıktı ve bürokratik sistemleri anlamak için hiçbir evrimsel hazırlığımız yok. Belgeler arasında aşk ilişkileri yok. Kim babayı daha çok seviyor diye savaşan kardeşler yok. Bu nedenle sıkıcılar. Kullanıcı etkileşimi için iyi malzemeler değiller ama insan toplumlarının nasıl işlediğini gerçekten anlamak için son derece önemliler. Ve bu, binlerce yıl boyunca sanatın büyük bir eksikliği olmuştur. Sanatçılar, evrimden alınan mitolojik hikayeleri ve romantik dramaları anlatmada son derece başarılıdır. Ama bürokrasi hakkında çok az iyi hikaye var. Kafka, The Big Short ya da Yes, Prime Minister gibi birkaç örnek bulabilirsiniz; ancak bunlar nadir. Ne zaman son büyük Marvel gişe rekorları kıran filmde, bir muhasebeciyi gördünüz? Spider-Man ya da Süper Kadın’a dönüşmeyen bir muhasebeci. Tüm film boyunca muhasebeci olarak kalıyor ve kötü adamlarla formlar doldurarak savaşıyor, vergi kaçakçılığını keşfediyorlar. Bunun gibi çok fazla film yok, ama insan toplumunun işleyiş şekli budur. Ve bunu yapay zeka ile ilişkilendirirsek, Hollywood, yapay zekanın potansiyel tehlikeleri konusunda insanları uyarmada gerçekten büyük bir hizmet sağladı. Başkaları yapay zekadan bahsetmeden çok önce, bunu yaptı.

Terminator ve Matrix gibi filmler, ama Hollywood’un yaptığı bir büyük yanlış hizmet var ki, o da tehlikeli senaryoyu yanlış bir şekilde tasvir etmesi. Bu genellikle büyük robot isyanı ile ilgiliydi; robotların ve bilgisayarların bizi ortadan kaldırmaya karar verdiği, bize karşı isyan ettiği gün. Sokaklarda koşan robotlar, insanları vuran robotlar… Bu kısa vadede olası görünmüyor ve çünkü insanlar bunu filmlerde gördü, bu yapay zekadan gelen tehlike olarak algıladılar. Oysa bu, kısa vadede gerçekleşecek bir şey değil; teknoloji henüz orada değil. Dolayısıyla insanlar, özellikle bu teknolojiyi geliştirenler, rahat hissediyorlar, çünkü Terminator komşuda yok. Ama tehlike büyük robot isyanı değil. Tehlike, bizimle ilgili daha fazla karar veren milyonlarca yapay zeka bürokratı olacak; kredi verip vermemek, evimizi bombalamak gibi kararlar. Bununla yüzleşebilmek için bürokratik sistemleri çok daha iyi anlamamız gerekecek. Ve bu elbette sadece yapay zekalar değil; bürokrasiyi iyi anlayamamakla ilgili başka sorunlarımız da var. Bir kısmı gerçekten kötü şeyler yapan bürokrasi ile ilgili, bunu anlayamıyoruz ama çoğu zaman tam tersidir; insan modern toplumları bu bürokrasiler olmadan var olamaz. Ama insanlar bunlara son derece şüpheyle yaklaşır ve derin devlet gibi komplo teorilerine kolayca kapılırlar, çünkü bütçelerin nasıl işlediğini anlamıyorlar. Ve sanatçılardan, senaristlerden, film yapımcılarından yardıma ihtiyacımız var. Mitoloji ve süper kahramanlarla ilgili yeterince film izledik. Gerçekten bürokrasilerin nasıl işlediğini anlamak için yardıma ihtiyacımız var.

Joseph Gordon-Levitt: Vay, bu meydan okumayı kabul edebilirsin. Biliyorum, yapabilirsin. Biz de yapabiliriz. Son bir soruyla bitirmek istiyorum. Yazdığın Nexus adlı kitapta bir miktar karamsarlık var ve bu konuşma, bence, karamsar olmayı haklı çıkaracak birçok neden veriyor. Bana, seni umutlu kılan bir şey söyle.

Yuval Noah Harari: Tıpkı yapay zekanın potansiyelinin henüz tam olarak ortaya çıkmamış olması gibi, insanlar da tam potansiyellerine ulaşmamış durumdalar. Temelde, her bir doları ve her dakikayı yapay zekayı geliştirmek için harcadığımızda, aynı zamanda kendimizi, zihinlerimizi geliştirmek için de harcarsak, her şey yolunda gidecektir. Sorun şu ki, birçok açıdan, çok fazla insan insanlara umutsuzluk besliyor ve tüm bahislerini, kelimenin tam anlamıyla, yapay zekalara yatırıyor. Ve yapay zeka devrimine liderlik eden insanlarla konuştuğunuzda, bunu fark ediyorlar; bu tehlikeli bir durum ve insanların sadece zamana ihtiyacı olduğunu, uyum sağlamak için zamana ihtiyaçları olduğunu kabul ediyorlar, ama hızlarını azaltamazlar. Bir şirketten diğerine geçtiğinizde, yavaşlamak istediklerini söylerler ama bunu yapamazlar, çünkü rakiplerinin de yavaşlayacağına güvenemezler; diğer şirketler ya da diğer taraflardaki Çinliler veya başka birileri. Yani bu çok, çok garip bir durumdayız; yapay zeka devrimini gerçekten yönlendiren şey, insanların birbirine güvenmemesi. Ve burada en ironik ya da tehlikeli kısım geliyor; aynı insanlara sorarsanız, tamam, daha hızlı gitmek zorundasınız çünkü diğer insanlara güvenemiyorsunuz ama geliştirdiğiniz yapay zekalara güvenebilecek misiniz? Ve evet diyorlar. Yani insanlara güvenemeyen aynı insanlar, yapay zekalara güvenebileceklerini söylüyorlar. Ve bu konuda bir açıklamaları var; biliyorsunuz, insanlarla 1000 yıl süren deneyimlerimiz var. Onlara güvenemediğimizi biliyoruz. Ama yapay zekalarla deneyimimiz yok; belki güvenilebilirler.

Tarih açısından bakış açım ise tersidir. İnsanlarla 1000 yıllık deneyimlerimiz var ve bu 1000 yıl boyunca insanlara olan güvenimizi büyük ölçüde artırmayı başardık. Yani, 10,000 yıl önce insanlar küçük gruplarda yaşıyordu. Diğer 100 kişiyle güvenebilirlerdi, hepsi bu; yabancılara ve dışarıdakilere güvenmek için çok az mekanizma vardı. Yıllar içinde, bu büyük ağları oluşturduk ki bunlar gerçekten, yalnızca bilgi değil, güven hikayelerine dayanıyor. Hikayeler, paralar, bürokrasiler; bunlar, sokakta her gün daha fazla yabancı ile karşılaşmamıza yardımcı oldu. Taş Devri’nde karşılaştıkları insanlardan daha fazla insanla tanışıyorsunuz ve %99 olasılıkla sorun yok ve bu insanlara yiyeceğimiz, sağlık hizmetlerimiz ve savunmamız için güveniyoruz. Bazı açılardan, yiyeceklerimizi ve temel ihtiyaçlarımızı sağlaması için milyarlarca diğer insana güvenmiyoruz. Yani, insanlarla ilgili 1000 yıl deneyimimiz olduğu doğru değil; tam tersi. Ve yapay zekalarla hiç deneyimimiz yok. Bu nedenle, insanlara umutsuzluk beslemek ve tüm güvenimizi yapay zekalara yatırmak çok büyük bir kumar.

Joseph Gordon-Levitt: Bu notla, sana ve hepimize daha fazla güven duyuyorum Yuval. Burada olduğunuz için çok teşekkür ederim. Bu konuşma için teşekkür ederim ve iyi akşamlar dilerim.