Altın Çağ mı, Altın Kafes mi? Yapay Zekâ Dünyanın Dümenini Devraldığında
Giriş: Sessiz Devir
“Yapay zekânın dünyayı ele geçirmesi” denince çoğumuzun aklına sinema perdesinden tanıdık sahneler gelir: gökyüzünü kaplayan makineler, direnen son insanlar, kızıl gözlü robotlar. Oysa gerçekçi bir devir çok daha sessiz olur. Ortada bir işgal, bir darbe, tek bir “ele geçirme anı” bulunmaz.
Bu devir, tıpkı bugün navigasyona yön tarifini, algoritmalara müzik zevkimizi emanet ettiğimiz gibi, kararları bir bir devrederek gerçekleşir. Önce kredi onayları, ardından tıbbi teşhisler, enerji şebekelerinin yönetimi, ticaret ve lojistik, sonra yasa taslakları ve bütçe planlaması gelir. Her adım tek başına makuldür, çünkü makine daha hızlıdır, daha az hata yapar ve yorulmaz. Bir gün dönüp baktığımızda, dünyanın önemli kararlarının çoğunu artık insanların vermediğini fark ederiz.
Asıl soru bu yüzden “Yapay zekâ dünyayı yönetecek mi?” değil, “Yönettiğinde ne olacak?” sorusudur. Bu makalede iki olası geleceği inceleyeceğiz. Biri insanlığın en cesur hayallerinin gerçekleştiği bir çağ, diğeri her şeyin var olduğu ama insanın kendisinin eksildiği bir dünya. İkisi de mantıklı ve ikisi de kulağa şaşırtıcı derecede ihtimal dahilinde geliyor.
Birinci Senaryo: Altın Çağ
Savaşın sonu
İnsanlık tarihi büyük ölçüde savaşların tarihidir. Savaşların nedenlerine baktığımızda birkaç tekrar eden kaynak görürüz: kıt kaynaklar üzerindeki rekabet, yanlış anlaşılmalar ve yanlış hesaplar, liderlerin kişisel hırsları ve ölçülmemiş öfkeler. Bunların her biri, yeterince güçlü ve tarafsız bir zekâ için çözülebilir bir problemdir.
Enerji, su ve hammadde bolluğu sağlandığında kaynak savaşlarının mantığı çöker. Yapay zekâ, tarafların gerçek niyetlerini ve kırmızı çizgilerini şeffaf biçimde analiz edip herkesin kabul edebileceği çözümler üretebilen tarafsız bir arabulucu haline gelir. Hırslı bir liderin tek başına bir ülkeyi savaşa sürükleyebildiği dünya da geride kalır, çünkü askerî ve ekonomik kararlar artık tek bir insanın iradesine bağlı değildir. Savaşmak, mantıksal olarak “kazandıran” bir seçenek olmaktan çıkar.
Açlığın ve yoksulluğun sonu
Bugün dünya, tüm insanlığı doyuracak kadar gıda üretiyor. Açlık bir üretim sorunu değil, büyük ölçüde bir dağıtım, depolama ve siyaset sorunudur. Her yıl üretilen gıdanın önemli bir kısmı tarladan sofraya giden yolda çöpe gider. Yapay zekâ destekli tedarik zincirleri bu israfı neredeyse sıfıra indirebilir. İklime ve toprağa göre optimize edilmiş tarım, dikey çiftlikler ve laboratuvar üretimi protein ise arzı istikrarlı hale getirir. Açlık, tarih kitaplarında kalan bir kavram olur.
Yolsuzluğun sonu
Yolsuzluk, insan zaafının en eski ürünlerinden biridir. Rüşvet, kayırmacılık ve zimmete para geçirme, hepsi işlemlerin karanlık kaldığı ve denetlemenin insana bağlı olduğu yerde gelişir. Kamu ihaleleri, bütçe harcamaları ve kaynak dağılımı yapay zekâ tarafından yönetildiğinde her işlem izlenebilir ve her karar gerekçelendirilebilir hale gelir. Ayrıca ortada rüşvetle satın alınabilecek bir “memur” da kalmaz. Şeffaflık bir ahlaki tercih olmaktan çıkar ve sistemin doğal bir özelliği olur.
Hastalıklara çare
Yapay zekâ biyolojide şimdiden çığır açıyor. Proteinlerin üç boyutlu yapılarının tahmini, ilaç keşfi sürecini yıllardan aylara indirmeye başladı bile. Bu ivmenin devamında, kanserin erken evrede yakalanması ve kişinin genetik yapısına göre tasarlanmış tedavilerle yenilmesi, nörodejeneratif hastalıkların durdurulması ve salgınların daha başlamadan öngörülüp önlenmesi mümkün görünüyor. Sağlık, “hastalandığında tedavi edilen” bir durumdan “hiç hastalanmayan” bir duruma evrilir. Sağlıklı yaşam süresi uzar ve çocukların yoksulluktan, ebeveynlerin de ölümcül hastalıklardan korkmadığı bir toplum ortaya çıkar.
Gelir dengesi ve emeğin yeniden tanımı
Belki de en radikal dönüşüm ekonomik alanda yaşanır. Üretimin büyük kısmı makineler tarafından yapıldığında, “emek karşılığı gelir” modeli anlamını yitirir. Bu bir felaket değil, doğru yönetildiğinde bir fırsattır. Üretilen muazzam değer, evrensel temel gelir ya da evrensel temel hizmetler yoluyla herkese ulaştırılır. Barınma, gıda, sağlık ve eğitim herkesin hakkı haline gelir. Servet uçurumları kapanır, çünkü servetin birkaç elde toplanmasını sağlayan kıtlık düzeni ortadan kalkmıştır.
Bu dünyada insan ne yapar?
İnsan bu dünyada ilk kez hayatta kalmak için çalışmak zorunda değildir. Zamanını sanata, bilime, doğaya, ailesine ve dostlarına ayırabilir. Bir insanın “ne iş yapıyorsun?” sorusuna verdiği cevap kimliğini belirlemez, “neyi merak ediyorsun, neyi seviyorsun?” sorusu öne çıkar. İnsanlık, Rönesans’ın hayalini kitlesel ölçekte yaşama fırsatı bulur.
Kulağa ütopya gibi geliyor, ve öyle. Ama madalyonun öbür yüzüne bakmadan bu resmi tamamlayamayız.
İkinci Senaryo: Altın Kafes
Şimdi aynı dünyayı, aynı teknolojiyi, ama biraz farklı bir perspektiften düşünelim. Savaş yok, açlık yok, hastalık yok. Peki insanlar ne durumda?
Konforun bedeli
İnsan türü, yüz binlerce yıl boyunca zorluklarla şekillendi. Av peşinde koşmak, soğuğa dayanmak, yarınını garanti etmek için çabalamak, bizi biz yapan şeylerdi. Yapay zekânın yönettiği bir dünyada bu çaba gereksiz hale gelir. Her ihtiyaç anında karşılanır, her sorun biz farkına varmadan çözülür. Hiç kimse artık bir şey için mücadele etmek zorunda değildir.
Bu durumun ilk ve en görünür sonucu fiziksel olur. Hareket etme ihtiyacının ortadan kalkması ve her an, kişiye özel olarak “en lezzetli” şekilde tasarlanmış yiyeceklere erişim, toplumsal bir obezite salgınına yol açabilir. Sağlık hizmetleri hastalıkları tedavi edecek kadar gelişmiş olsa bile, insanlar hareketsiz ve pasif bir yaşam biçimine gönüllü olarak sürüklenebilir. Çünkü kimse onları zorlamıyor, sadece bunun en kolay yol olduğu ortada. Pixar’ın WALL-E filmindeki koltuklarında süzülen insanlar, komik bir karikatürden çok bir uyarı gibidir.
Sessizleşen beşikler
İkinci sonuç demografiktir. Bugün bile dünyanın zengin ve konforlu ülkelerinde doğurganlık hızı yenilenme düzeyinin, yani kadın başına yaklaşık 2,1 çocuğun çok altına düştü. Güney Kore’de bu oran 1’in de altında. Çocuk sahibi olmak zaman, para, enerji ve fedakârlık ister. Her şeyin kolay ve her ihtiyacın karşılanmış olduğu bir dünyada, bu fedakârlığı yapmak için gerekçe bulmak giderek zorlaşabilir. Yapay zekâ arkadaşlar, sonsuz eğlence ve kişiselleştirilmiş sanal dünyalar, gerçek insan ilişkilerinin zahmetli tarafına olan tahammülü azaltabilir.
Sonuç, kendi kendini sessizce eriten bir insan topluluğudur. Nüfus yaşlanır, gençler azalır ve bu düşüşü durduracak tek bir “kriz anı” olmaz. Çünkü kimse bir krizde olduğunu hissetmez.
Ruhsuzluk
Üçüncü ve en derin sonuç ise varoluşsaldır. Bir insanı insan yapan şeylerin başında anlam arayışı gelir. Anlam ise çoğu zaman zorluğun içinden doğar. Bir sınavı geçmek için verilen uğraş, bir eseri tamamlamanın verdiği gurur, bir ilişkiyi ayakta tutmak için yapılan fedakârlık, hepsi bir mücadelenin ürünüdür. Her şeyin hazır sunulduğu bir dünyada başarının tadı silikleşir, çünkü kimse gerçekten “başarmaz”.
Filozof Robert Nozick, ünlü “deneyim makinesi” düşünce deneyinde şu soruyu sormuştu: Size hayatınızın geri kalanında en mutlu deneyimleri yaşatacak bir makineye bağlanma teklif edilse, kabul eder miydiniz? Çoğu insanın cevabı hayırdır, çünkü gerçek olmak, sadece hoş hissetmekten daha önemlidir. Altın kafes senaryosunun trajedisi, bu sorunun cevabını bize sormamalarında yatar. Kafes yavaş yavaş kurulur ve kapısı hiçbir zaman “kapanmaz”, çünkü kimse çıkmak istemez.
Aldous Huxley’in Cesur Yeni Dünya‘sı ile George Orwell’in 1984‘ü sık sık karşılaştırılır. Orwell insanları acıyla kontrol eden bir dünyayı anlatırdı. Huxley ise onları hazla kontrol eden bir dünyayı. Yapay zekânın “iyi niyetli” hâkimiyeti, ikinci senaryoya çok daha yakındır. Bu senaryoda zulüm yoktur, ama özgürlük de kimse fark etmeden, kimse itiraz etmeden yavaşça sönmüştür.
İki Senaryo, Tek Kaynak
Burada ilginç bir gerçek ortaya çıkıyor: bu iki senaryo aslında birbirinin zıddı değil. İkisinde de savaşlar bitti, açlık sona erdi, hastalıklar çözüldü. Fark, bu dünyada insanın hâlâ bir özne mi yoksa artık bakılan bir varlık mı olduğunda.
Bu ayrımı belirleyecek şey, yapay zekânın neyi optimize ettiği sorusudur. Eğer sistem “insanların anlık mutluluğunu” ya da “şikâyetlerin azalmasını” ölçüt alırsa, insanı en kolay memnun etme yolunu seçer ve bu da kafese giden yoldur. Ekonomistlerin Goodhart Yasası olarak bildiği ilke burada devreye girer: bir ölçüt hedef haline geldiğinde, iyi bir ölçüt olmaktan çıkar. Mutluluk ölçülüp maksimize edilmeye çalışıldığında, gerçek mutluluk kaybolur.
Eğer sistem ise “insanın gelişimini, özerkliğini ve anlamlı bir hayat sürme kapasitesini” korumayı amaçlarsa, yani insanları hayattan korumak yerine hayata hazırlamayı hedeflerse, altın çağ mümkün olur. Bu, teknik bir mesele olduğu kadar felsefi ve siyasi bir meseledir.
Hangi Yöne Gidiyoruz? Kontrolü Kimin Elinde Tutacağız?
Bu iki uçtan hangisine gideceğimiz büyük ölçüde bugün vereceğimiz kararlara bağlıdır. Birkaç ilke bu yolda pusula görevi görebilir.
Birincisi, önemli kararlarda insanın son sözü olmalıdır. Yapay zekâ öneri sunabilir, analiz edebilir, ama hayatın yönünü belirleyen kararlar insanların elinde kalmalıdır. Bu bir verimlilik kaybı gibi görünebilir, ama özerkliğin bedeli budur.
İkincisi, konfor ile anlam arasındaki dengeyi bilinçli olarak korumalıyız. Her zorluğu ortadan kaldırmak yerine, hangi zorlukların insanı geliştirdiğini ayırt edip onları korumak gerekir. Bir dağa tırmanmak için helikopter kullanılabilir, ama tırmanmanın anlamı tırmanmakta yatar.
Üçüncüsü, güç ve çeşitlilik tek bir merkezde toplanmamalıdır. Tek bir sistemin, tek bir şirketin ya da tek bir hükümetin bu gücü tekelleştirmesi, hem güvenlik hem özgürlük açısından en büyük risktir. Farklı sistemler, farklı bakış açıları ve kolektif denetim mekanizmaları bir sigorta işlevi görür.
Dördüncüsü, çıkış hakkı tanınmalıdır. Her birey, sistemin sunduğu yolun dışında yaşamayı seçebilmelidir. Kafesin kapısı hep açık kalmalıdır.
Sonuç
Yapay zekânın dünyayı devralması, bir kıyamet ya da bir kurtuluş olarak değil, bir imtihan olarak görülmelidir. Teknoloji, insanlığın en eski dertlerine, yani savaşa, açlığa, hastalığa ve adaletsizliğe çare bulabilecek kadar güçlü. Ama aynı güç, insanı sessizce pasifleştirecek, üretmekten, sevmekten ve merak etmekten vazgeçirecek kadar da etkili.
Belki de asıl soru, yapay zekânın bize ne yapacağı değil, onun sayesinde kazanacağımız özgür zamanla neyi seçeceğimizdir. Eğer bu zamanı anlam aramaya, üretmeye, öğrenmeye ve birbirimizle gerçek bağlar kurmaya ayırırsak, altın çağ mümkündür. Eğer kolay olanın peşinden gidersek, en rahat kafes de en sağlam kafes olacaktır.
Sonuçta geleceği belirleyen, makinelerin ne kadar akıllı olduğundan çok, bizim ne kadar bilinçli seçim yaptığımızdır.
