Dünyanın sonuna doğmuşum
Ya da ölmüşüm de haberim yok
maNga
Birkaç yıldır içinde “yapay zekâ” geçen haberleri zihnimizin ön belleğinden çıkarıp bir araya getirdiğimizde mitolojik bir manzarayla karşılaşıyoruz. Yapay zekâ işlerimizi elimizden alacak. Üstelik sıra bu kez beyaz yakalılarda, kravatlılarda. Makine, sanayi devrimlerinde hep kol emeğine göz koymuştu. Bu defa avukatın, muhasebecinin, yazılımcının, hatta yazarın kapısı çalınıyor. Artık daha fazla iş otomatikleşecek. Fabrikalar ışıksız çalışacak. Ofisler insansız dönecek. Uzmanlar uyarıyor: Binlerce meslek tarihe karışacak.
Ve her haberin, uzman demecinin tahayyülümüze nakşettiği nihai son: Makine, insansı suretlerde bilinç kazanır, yetkiyi ve sorumluluğu üstlenir, dünyaya el koyar. Tarih belirsiz, özne insan değil, gidişat belli ama. İçinde “yapay zekâ” geçen bütün anlatılar “mit” denen kavramın temel özelliklerine sahip. İnsanoğlu ejderhalardan bahsederken de baş edemeyeceğini düşündüğü güçleri anlamlandırmak için başvururdu bu hikâyelere. Şimdi de arayüzü “bilim ve teknoloji” ile farklılaşmış tezgâhlarda benzerleri dokunuyor.
Mitlerin en trajik finalleri, insana artık yer kalmamış bir dünya tasvir edenler kuşkusuz. Mary Shelley, Frankenstein’dan sonra “Son İnsan”da gezegeni vebayla boşaltmış, H. G. Wells zaman makinesini insansız bir kumsala park etmiş, Soğuk Savaş dönemi teknoloji yarışında anlatılar ıssız dünya manzaralarıyla resmedilmişti. Arthur C. Clarke 1953’te yazdığı Tanrı’nın Dokuz Milyar Adı öyküsünde ilginç bir pencereden bakmış meseleye.
Tibet’te bir manastır üç yüz yıldır tek bir işle meşguldür. Tanrı’nın muhtemel bütün adlarını, kendi geliştirdikleri özel bir alfabeyle tek tek yazmak. Hesaplarına göre adların sayısı yaklaşık dokuz milyardır ve evrenin yaratılış amacı listenin tamamlanmasıdır. Son ad yazıldığında hikâye bitecek, kâinat dükkânı kapanacaktır. El yazısıyla aşağı yukarı on beş bin yıllık iştir bu. Ama teknoloji geliştikçe keşişlerin de aklına inançları için makinelerden yardım alma fikri düşer. Çağa ayak uydurmak gerekir, değil mi? Alışveriş sepetlerine Amerikalı bir şirketten, kendi usullerine göre yapılandırdıkları bilgisayar ve yazıcı eklerler. İki mühendis, Tibet’in dağlarına teslim eder makineleri ve iş bitene kadar çalıştığından emin olmak için başlarında dururlar. Makineler tıkır tıkır çalışmaktadır ancak mühendisler işin içeriğini öğrendikçe ve dokuz milyar adın tamamının yazılmış olacağı gün yaklaştıkça tedirgin olmaya başlar. Gerekli ayarlamaları yaptıktan sonra işin biteceği akşam ortaık kararmadan yola koyulurlar. Hava karardıktan sonra içlerinden biri saatine bakar, “Makine işi bitirmiş olmalı,” der. Başlarını kaldırırlar. Yukarıda yıldızlar, yazarın ifadesiyle “hiç telaşsız, teker teker sönmektedir.”
Bilimkurgu eserlerinde görmeye alışık olmadığımız tarzda finaliyle beni çok etkiledi bu öykü. Zira dev patlamalar, tuhaf yaratıklar, kaçışan kalabalıklar yok. Alışılagelmiş kıyamet estetiğinden çok farklı bir tablo. Mesaisini tamamlayan evren hiç öyle gürültü patırtı çıkarmadan sakince ışıklarını söndürür. Yazar şunu dedirtir ona: “Yaygarayı koparan sizsiniz, ben işimde gücümdeyim.” Sinemaya uyarlansa etki uyandırmak için ekstra birçok efekt ya da başka türlü sahnelemek gerekebilirdi. Edebiyatın farkı burada, böylesine sakin bir hayalden görkemli bir final doğmuş.
Öykünün bir başka katmanı daha var. Daha önce bahsettiğimiz işlerin teknolojiye devri hususunu hatırlayalım. Tibetli keşişler ibadetlerini makineye devrettiklerinde on beş bin yıllık iş yüz güne iniyor ancak “bildiğimiz dünyanın sonu” geliyor. İnanca göre Tanrı’nın kullarından istediği bir eylem var, ancak onlar bunu sadece çıktıya indirgeyip kendi kendilerini dünya serüvenlerinde işlevsiz hâle getiriyorlar. Oysa o ibadet belki de insanın yeryüzü yolculuğunda Tanrı’yı unutmaması için verilen bir zikir ödeviydi, bitirilmesi gereken bir proje değil. Bu zaviyeden bakınca dünyanın sonunu getiren teknoloji değil, insanın kendi varlık işlevini tahrif etmesidir.
Hollywood’da ise vaziyet mâlum, gişe için bazı formüller uygulamak gerekli. Başrol evren ya da dünya değil, insan. İnsan derken, Amerikalı, beyaz tenli, çoğunlukla sarışın ya da kumral. Kınamıyorum, her hikâyeci kendisini anlatır. Biz de Cüneyt Arkın’la denedik dünyayı kurtarmayı zira. Uzaylılar Beyaz Saray’ı havaya uçurur; bir savaş pilotuyla bir bilgi-işlem personeli işbirliği yapıp tehlikeyi son anda bertaraf eder. Asteroit Amerika kıtasına yönelir; Teksaslı petrol sondajcıları uzaya çıkarılır, göktaşı delinir, bomba yerleştirilir, gezegenimiz paçayı kurtarır. Makineler gelecekten bir suikastçı yollar; bir garson onun beslenmesinde bir tuhaflık olduğunu anlayıp insanlığı uyandırmaya çalışır. Dekorasyon değişir ama janrın katharsis formülü değişmez. Kıyametin bilinçaltı, Amerikan rüyasına hizmet eder Hollywood’da. Sıradan vatandaş bile kahramanlığa terfi eder iş başa düştüğünde. Kadrajda bayrak, tipoloji ve lisan kalır.
Filmlerin sadece platolarda, stüdyolarda çekilip ekranlarda izlendiğini düşünüyorsanız yanılırsınız. Yapay zekâ mitolojisi sosyal medyalarda, haber kanallarında, plaza koridorlarında serpilip büyüyor. 2023’te, Center for AI Safety’nin yayımladığı bir bildiriye, aralarında önde gelen yapay zekâ şirketlerinin yöneticilerinin de bulunduğu yüzlerce isim imza attı. Mealen, yapay zekâ kaynaklı yok oluş ve kıyamet ihtimallerinin salgın hastalıklar ve nükleer savaşla aynı kefeye konulmasını salık veriyorlardı. Sabah kıyamet bildirisi imzalayıp öğleden sonra kendilerine yatırımcı aramaya, sponsor bulmaya çıktılar. Reklamcılık absürdizmi sever ama satış yapmak için ciddiyetle kıyamet teması işlemek onun da ötesi.
Malımız o kadar iyi ki dünyanın sonunu getirebilir.
Paniğin anlatı ve reklam konsepti değişmiş olabilir ama kendisini çeşitli olaylardan biliyoruz. Maya Takvimi’nin bir yorumuna göre 2012’de dünyanın sonu gelecek, sadece Fransa’daki Bugarach ve İzmir’deki Şirince kasabalarında olanlar bundan kurtulacaktı. Oradaki otelleri dolduranlar inanmıyordu tabii ama “Kıyamet Turizmi” konseptiyle tuhaf bir kafa yaşadıkları kesin. Mesela 1844’te meşhur bir Amerikalı vaiz William Miller, Kitab-ı Mukaddes üzerinde birtakım hesaplamalar yapıp bir kıyamet tarihi vermiş. On binlerce takipçisi işini gücünü bırakmış, malını mülkünü satmış. Rivayet o ki beyaz elbiselerle tepelere çıkıp dünyanın sonunu kucaklamaya çıkmışlar. Beklenen olmayınca mevzu tarihe “Büyük Hayal Kırıklığı” adıyla geçmiş. Adam hesap hatası tespit edip güncellemiş tarihi ama yine olmamış. İnsanın şartlarını koyup imza atacağı bir taahhütnamesi yok kıyametin. Allahualem.
Peki insan kendisinin ve dünyanın sonunu hayal etmeyi neden bu kadar seviyor? Edebiyat kuramcısı Frank Kermode, The Sense of an Ending (Bir Sonun Duygusu) adlı kitabında bunun aslında bir zevk değil, ihtiyaç olduğunu söyler. İnsan hep hikâyenin ortasında yaşar. Başlangıcı görmemiştir, sonuna da muhtemelen şahit olmayacaktır. Ortada yaşamaksa dayanılmaz bir biçimsizliktir. Son duygusu bu ortada olma hâline bir anlam verir. Saat tik dedikten sonra tak demezse, delirmeye elverişli bir boşluk açılır ve büyür bilincimizde. Kutsal metinlerde kıyamet bu yüzden bolca vurgulanır. Tanrı’nın yarattığını tanımaması söz konusu değildir, ihtiyaçlarını bilir. Sanatın bir yönü de Tanrı’yı taklit etme arzusu olduğundan insanoğlunun romanlardan filmlere kadar birçok eserde dünyanın sonunu tahayyül etmesini garip karşılamamak gerek.
İnsanı da dünyayı da okunabilir bir kitap, izlenebilir bir film gibi algılamayı severiz. Başı, sonu; giriş-gelişme-sonucu olan bir yapıt.
Ne var ki günümüz dünyasında anlatı araçları, biçimleri, içerikleri “bilim ve teknoloji” tahakkümü altında malum. Bugünü ve geleceği teknolojik bir atmosferde düşünüyoruz. Silikon Vadisi’nin birtakım şirketleri, girişimcileri ve mühendisleri yeni mitleri üreten, dünyayı ve insanları geleceğe hazırlayan neredeyse bir ruhban sınıfına dönüşmüş durumda. Tekno-Kilise’nin cemaati bu bağlamda iki mezhebe ayrılmış görünüyor. Bir tarafta kıyametçiler: Makine tanrılaşıp bizi yeryüzünden silecek. Öbür tarafta hızlandırmacılar: Makine tanrılaşacak ama insanı da beraberinde daha üst bir mertebeye yükseltecek. Prometheus misali. Belirli tarihler de vermekten kendilerini alıkoyamıyorlar Maya takvimi ya da vaiz Miller gibi. İki mezhebin asıl ortak noktası makinenin tanrılaşacağı inancı. Aralarında küçük fark, sonra ne olacağına dair. Taze bir dine inandıkları için kıyametle ahiretin bitişik olduğunu henüz anlamamaları muhtemel. Bir de insanın işlevini henüz kestirememiş olabilirler. Şimdilik bu noktada en çarpıcı tespitlerden biri, psikolog Robert Epstein’ın insanın yeryüzünde yapay zekâyı icat etmek için bulunduğu yönündeki sözüydü. Bu bakışta insanın kendisine biçtiği işlev, yapay zekâyı doğurmakla sınırlanmış oluyor. Sırada kiminin Genel Yapay Zekâ, kiminin Süper Zekâ dediği şey var ama YZ onu kendi üretebilirmiş.
Mezhep ilmihalinden bir bahse göz atalım. Tekno-Filozof Nick Bostrom, süper zekânın tehlikesini anlatmak için literatüre “Ataç Maksimizatörü” deneyini taşıdı. Süper zekâya masum bir emir verin, mesela “Ataç üret.” Makine emri harfiyen uygular, verimliliği artırır, kaynaklara el koyar, itirazları hesaba katar ve nihayetinde gezegeni hatta evreni ataca çevirir. Hikâyedeki yenilik, makinenin isyan etmemesi, karşı koymaması. Eski mitlerde yaratık başkaldırırdı. Golem çığırından çıkar, robotlar ayaklanır, devler kendi ajandalarını yürürlüğe koyardı. Yeni konseptte makine itaatkâr. Goethe’nin Büyücünün Çırağı baladında anlattığı meseleye benziyor. Çırak süpürgeye su taşımasını öğretir, emreder ama nasıl durduracağını bilmez. Baltayla girişir sonra. Fakat her bir parça işine kaldığı yerden devam eder. Evi su basar. Korku aynı, yarattığımız şeyin “hayır” demesi değil, “Başüstüne” deyip durmaması.
Clarke’ın öyküsündeki makine de durmuyor. İşini kusursuz yaptığı için yıldızları söndürmüştü. Koşulsuz itaatten doğan kıyamet üzerimize geliyor. Böyle durumlarda tek çare, bir bilgeye başvurmak.
Oğuzlar yaylaya göçerken Konur Koca Sarı Çoban, Uzun Pınar’a konan peri kızlarından birine tamah eder. O gayrimeşru münasebetin nişanesi olarak pınarın başında bir yumru belirir. Dürtüldükçe yarılır, içinden tek gözlü bir yaratık çıkar: Tepegöz. Bayındır’ın hanımı merhamete gelip beslemeye kalkar lakin ne süt yeter ne sürü. İnsanları yemeye kalkışınca kovulur, dağa çıkar ama boyu rahat bırakmaz. Şimdi durup bakalım. Tepegöz gökten inme bir canavar değildir. İnsanın kusurundan neşet etmiş, insanın sofrasında beslenmiş, gücünü insandan devşirmiştir. Yapay zekâ da böyle değil mi? İnsanın ölçü tanımazlığından doğdu. İnsanın verisiyle, dünyanın en temel enerji kaynaklarıyla besleniyor, doyduğuna şahit olmadık. Tek göz faslı da tanıdık. Tepegöz görür ama idrak etmez, duyumsar ama sezmez, dünyayı bir restoran menüsü gibi okur. Süper zekâ dünyayı ataca çevirmeye kalktığında ne olacak peki?
Destan karamsarlıkla bitmez, müjdesi vardır. Oğuzlar, musibetlere karşı hep bir yiğit çıkarmıştır ama bu kez durum farklıdır. Tepegöz belası bir türlü ortadan kaldırılamamaktadır. Toplumun içinde yetişmiş yiğitlerin gücü ve yetenekleri yetersizdir. Basat küçükken kaybolmuş, aslanların arasında büyümüş ve hayatta kalmış, sonradan obaya dönmüştü. Tepegöz’ü alt edebilmek için gereken donanımı vahşi doğada, insanlardan uzakta yaşayarak edinebilmişti. Toplumun standart yiğit kalıplarına eleştiri olduğunu da gözden kaçırmamalıyız bunun. Üstelik canavarı deviren, kendi kılıcıydı. Daha büyük bir silah değildi. Başka türlü bir düşünme biçimiydi. Kıssadan hisse iki katlı. Makineyle baş etmek için onun kılıcını kuşanmak gerek ama o kılıcı tutacak bilek ve düşünecek zihin başka yerlerde pişmeli. O mektebin müfredatını sadece yaşayan bilir. Temel meseleyse zeki makinelerle savaşa hazırlanmak değil, “insan” kavramını yeniden düşünmek, tanımlamak. İnsanlığımızla yeniden tanışmak.
Ben Dede Korkut’u eğlenmek veya milli duygularımı uyandırmak için değil, ona inanmak ve yeni anlamlar bulmak için okurum. Ve daima kârlı çıkarım.
* * * *
KAYNAKLAR
Arthur C. Clarke, “Tanrı’nın Dokuz Milyar Adı”, Tanrının Dokuz Milyar Adı içinde, çev. M. Alper Çopur, Sarmal Yayınevi, İstanbul, 1998.
Mary Shelley, Frankenstein ya da Modern Prometheus, çev. Duygu Akın, Can Yayınları, İstanbul, 2012.
Mary Shelley, Son İnsan, çev. Belkıs Korkmaz, Can Yayınları, İstanbul, 2013.
H. G. Wells, Zaman Makinesi, çev. Seyhan Dönmez, Doğan Kitap, İstanbul.
Frank Kermode, The Sense of an Ending: Studies in the Theory of Fiction, Oxford University Press, New York, 1967.
Nick Bostrom, Süper Zekâ: Yapay Zekâ Uygulamaları, Tehlikeler ve Stratejiler, çev. Ferit Burak Aydar, Koç Üniversitesi Yayınları, İstanbul, 2018.
Dede Korkut, “Basat’ın Tepegöz’ü Öldürdüğü Boy”, Dede Korkut Kitabı içinde, haz. Muharrem Ergin, Boğaziçi Yayınları, İstanbul.
Johann Wolfgang Goethe, Gürgen Kral, çev. Ataol Behramoğlu, Türkiye İş Bankası Kültür Yayınları, İstanbul.
Center for AI Safety, “Statement on AI Risk” (“Yapay Zekâ Riskine Dair Bildiri”), Mayıs 2023. safe.ai/work/statement-on-ai-risk
0 Tartışmaları