Yapay Zeka’nın Dünya’nın Kontrolünü Ele Geçirmesi

Altın Çağ mı, Altın Kafes mi? Yapay Zekâ Dünyanın Dümenini Devraldığında

GiriÅŸ: Sessiz Devir

“Yapay zekânın dünyayı ele geçirmesi” denince çoÄŸumuzun aklına sinema perdesinden tanıdık sahneler gelir: gökyüzünü kaplayan makineler, direnen son insanlar, kızıl gözlü robotlar. Oysa gerçekçi bir devir çok daha sessiz olur. Ortada bir iÅŸgal, bir darbe, tek bir “ele geçirme anı” bulunmaz.

Bu devir, tıpkı bugün navigasyona yön tarifini, algoritmalara müzik zevkimizi emanet ettiğimiz gibi, kararları bir bir devrederek gerçekleşir. Önce kredi onayları, ardından tıbbi teşhisler, enerji şebekelerinin yönetimi, ticaret ve lojistik, sonra yasa taslakları ve bütçe planlaması gelir. Her adım tek başına makuldür, çünkü makine daha hızlıdır, daha az hata yapar ve yorulmaz. Bir gün dönüp baktığımızda, dünyanın önemli kararlarının çoğunu artık insanların vermediğini fark ederiz.

Asıl soru bu yüzden “Yapay zekâ dünyayı yönetecek mi?” deÄŸil, “YönettiÄŸinde ne olacak?” sorusudur. Bu makalede iki olası geleceÄŸi inceleyeceÄŸiz. Biri insanlığın en cesur hayallerinin gerçekleÅŸtiÄŸi bir çaÄŸ, diÄŸeri her ÅŸeyin var olduÄŸu ama insanın kendisinin eksildiÄŸi bir dünya. Ä°kisi de mantıklı ve ikisi de kulaÄŸa ÅŸaşırtıcı derecede ihtimal dahilinde geliyor.

Birinci Senaryo: Altın Çağ

Savaşın sonu

İnsanlık tarihi büyük ölçüde savaşların tarihidir. Savaşların nedenlerine baktığımızda birkaç tekrar eden kaynak görürüz: kıt kaynaklar üzerindeki rekabet, yanlış anlaşılmalar ve yanlış hesaplar, liderlerin kişisel hırsları ve ölçülmemiş öfkeler. Bunların her biri, yeterince güçlü ve tarafsız bir zekâ için çözülebilir bir problemdir.

Enerji, su ve hammadde bolluÄŸu saÄŸlandığında kaynak savaÅŸlarının mantığı çöker. Yapay zekâ, tarafların gerçek niyetlerini ve kırmızı çizgilerini ÅŸeffaf biçimde analiz edip herkesin kabul edebileceÄŸi çözümler üretebilen tarafsız bir arabulucu haline gelir. Hırslı bir liderin tek başına bir ülkeyi savaÅŸa sürükleyebildiÄŸi dünya da geride kalır, çünkü askerî ve ekonomik kararlar artık tek bir insanın iradesine baÄŸlı deÄŸildir. SavaÅŸmak, mantıksal olarak “kazandıran” bir seçenek olmaktan çıkar.

Açlığın ve yoksulluğun sonu

Bugün dünya, tüm insanlığı doyuracak kadar gıda üretiyor. Açlık bir üretim sorunu değil, büyük ölçüde bir dağıtım, depolama ve siyaset sorunudur. Her yıl üretilen gıdanın önemli bir kısmı tarladan sofraya giden yolda çöpe gider. Yapay zekâ destekli tedarik zincirleri bu israfı neredeyse sıfıra indirebilir. İklime ve toprağa göre optimize edilmiş tarım, dikey çiftlikler ve laboratuvar üretimi protein ise arzı istikrarlı hale getirir. Açlık, tarih kitaplarında kalan bir kavram olur.

YolsuzluÄŸun sonu

Yolsuzluk, insan zaafının en eski ürünlerinden biridir. Rüşvet, kayırmacılık ve zimmete para geçirme, hepsi iÅŸlemlerin karanlık kaldığı ve denetlemenin insana baÄŸlı olduÄŸu yerde geliÅŸir. Kamu ihaleleri, bütçe harcamaları ve kaynak dağılımı yapay zekâ tarafından yönetildiÄŸinde her iÅŸlem izlenebilir ve her karar gerekçelendirilebilir hale gelir. Ayrıca ortada rüşvetle satın alınabilecek bir “memur” da kalmaz. Åžeffaflık bir ahlaki tercih olmaktan çıkar ve sistemin doÄŸal bir özelliÄŸi olur.

Hastalıklara çare

Yapay zekâ biyolojide ÅŸimdiden çığır açıyor. Proteinlerin üç boyutlu yapılarının tahmini, ilaç keÅŸfi sürecini yıllardan aylara indirmeye baÅŸladı bile. Bu ivmenin devamında, kanserin erken evrede yakalanması ve kiÅŸinin genetik yapısına göre tasarlanmış tedavilerle yenilmesi, nörodejeneratif hastalıkların durdurulması ve salgınların daha baÅŸlamadan öngörülüp önlenmesi mümkün görünüyor. SaÄŸlık, “hastalandığında tedavi edilen” bir durumdan “hiç hastalanmayan” bir duruma evrilir. SaÄŸlıklı yaÅŸam süresi uzar ve çocukların yoksulluktan, ebeveynlerin de ölümcül hastalıklardan korkmadığı bir toplum ortaya çıkar.

Gelir dengesi ve emeğin yeniden tanımı

Belki de en radikal dönüşüm ekonomik alanda yaÅŸanır. Ãœretimin büyük kısmı makineler tarafından yapıldığında, “emek karşılığı gelir” modeli anlamını yitirir. Bu bir felaket deÄŸil, doÄŸru yönetildiÄŸinde bir fırsattır. Ãœretilen muazzam deÄŸer, evrensel temel gelir ya da evrensel temel hizmetler yoluyla herkese ulaÅŸtırılır. Barınma, gıda, saÄŸlık ve eÄŸitim herkesin hakkı haline gelir. Servet uçurumları kapanır, çünkü servetin birkaç elde toplanmasını saÄŸlayan kıtlık düzeni ortadan kalkmıştır.

Bu dünyada insan ne yapar?

Ä°nsan bu dünyada ilk kez hayatta kalmak için çalışmak zorunda deÄŸildir. Zamanını sanata, bilime, doÄŸaya, ailesine ve dostlarına ayırabilir. Bir insanın “ne iÅŸ yapıyorsun?” sorusuna verdiÄŸi cevap kimliÄŸini belirlemez, “neyi merak ediyorsun, neyi seviyorsun?” sorusu öne çıkar. Ä°nsanlık, Rönesans’ın hayalini kitlesel ölçekte yaÅŸama fırsatı bulur.

Kulağa ütopya gibi geliyor, ve öyle. Ama madalyonun öbür yüzüne bakmadan bu resmi tamamlayamayız.

İkinci Senaryo: Altın Kafes

Şimdi aynı dünyayı, aynı teknolojiyi, ama biraz farklı bir perspektiften düşünelim. Savaş yok, açlık yok, hastalık yok. Peki insanlar ne durumda?

Konforun bedeli

İnsan türü, yüz binlerce yıl boyunca zorluklarla şekillendi. Av peşinde koşmak, soğuğa dayanmak, yarınını garanti etmek için çabalamak, bizi biz yapan şeylerdi. Yapay zekânın yönettiği bir dünyada bu çaba gereksiz hale gelir. Her ihtiyaç anında karşılanır, her sorun biz farkına varmadan çözülür. Hiç kimse artık bir şey için mücadele etmek zorunda değildir.

Bu durumun ilk ve en görünür sonucu fiziksel olur. Hareket etme ihtiyacının ortadan kalkması ve her an, kiÅŸiye özel olarak “en lezzetli” ÅŸekilde tasarlanmış yiyeceklere eriÅŸim, toplumsal bir obezite salgınına yol açabilir. SaÄŸlık hizmetleri hastalıkları tedavi edecek kadar geliÅŸmiÅŸ olsa bile, insanlar hareketsiz ve pasif bir yaÅŸam biçimine gönüllü olarak sürüklenebilir. Çünkü kimse onları zorlamıyor, sadece bunun en kolay yol olduÄŸu ortada. Pixar’ın WALL-E filmindeki koltuklarında süzülen insanlar, komik bir karikatürden çok bir uyarı gibidir.

SessizleÅŸen beÅŸikler

Ä°kinci sonuç demografiktir. Bugün bile dünyanın zengin ve konforlu ülkelerinde doÄŸurganlık hızı yenilenme düzeyinin, yani kadın başına yaklaşık 2,1 çocuÄŸun çok altına düştü. Güney Kore’de bu oran 1’in de altında. Çocuk sahibi olmak zaman, para, enerji ve fedakârlık ister. Her ÅŸeyin kolay ve her ihtiyacın karşılanmış olduÄŸu bir dünyada, bu fedakârlığı yapmak için gerekçe bulmak giderek zorlaÅŸabilir. Yapay zekâ arkadaÅŸlar, sonsuz eÄŸlence ve kiÅŸiselleÅŸtirilmiÅŸ sanal dünyalar, gerçek insan iliÅŸkilerinin zahmetli tarafına olan tahammülü azaltabilir.

Sonuç, kendi kendini sessizce eriten bir insan topluluÄŸudur. Nüfus yaÅŸlanır, gençler azalır ve bu düşüşü durduracak tek bir “kriz anı” olmaz. Çünkü kimse bir krizde olduÄŸunu hissetmez.

Ruhsuzluk

Üçüncü ve en derin sonuç ise varoluÅŸsaldır. Bir insanı insan yapan ÅŸeylerin başında anlam arayışı gelir. Anlam ise çoÄŸu zaman zorluÄŸun içinden doÄŸar. Bir sınavı geçmek için verilen uÄŸraÅŸ, bir eseri tamamlamanın verdiÄŸi gurur, bir iliÅŸkiyi ayakta tutmak için yapılan fedakârlık, hepsi bir mücadelenin ürünüdür. Her ÅŸeyin hazır sunulduÄŸu bir dünyada baÅŸarının tadı silikleÅŸir, çünkü kimse gerçekten “baÅŸarmaz”.

Filozof Robert Nozick, ünlü “deneyim makinesi” düşünce deneyinde ÅŸu soruyu sormuÅŸtu: Size hayatınızın geri kalanında en mutlu deneyimleri yaÅŸatacak bir makineye baÄŸlanma teklif edilse, kabul eder miydiniz? ÇoÄŸu insanın cevabı hayırdır, çünkü gerçek olmak, sadece hoÅŸ hissetmekten daha önemlidir. Altın kafes senaryosunun trajedisi, bu sorunun cevabını bize sormamalarında yatar. Kafes yavaÅŸ yavaÅŸ kurulur ve kapısı hiçbir zaman “kapanmaz”, çünkü kimse çıkmak istemez.

Aldous Huxley’in Cesur Yeni Dünya‘sı ile George Orwell’in 1984‘ü sık sık karşılaÅŸtırılır. Orwell insanları acıyla kontrol eden bir dünyayı anlatırdı. Huxley ise onları hazla kontrol eden bir dünyayı. Yapay zekânın “iyi niyetli” hâkimiyeti, ikinci senaryoya çok daha yakındır. Bu senaryoda zulüm yoktur, ama özgürlük de kimse fark etmeden, kimse itiraz etmeden yavaşça sönmüştür.

Ä°ki Senaryo, Tek Kaynak

Burada ilginç bir gerçek ortaya çıkıyor: bu iki senaryo aslında birbirinin zıddı değil. İkisinde de savaşlar bitti, açlık sona erdi, hastalıklar çözüldü. Fark, bu dünyada insanın hâlâ bir özne mi yoksa artık bakılan bir varlık mı olduğunda.

Bu ayrımı belirleyecek ÅŸey, yapay zekânın neyi optimize ettiÄŸi sorusudur. EÄŸer sistem “insanların anlık mutluluÄŸunu” ya da “ÅŸikâyetlerin azalmasını” ölçüt alırsa, insanı en kolay memnun etme yolunu seçer ve bu da kafese giden yoldur. Ekonomistlerin Goodhart Yasası olarak bildiÄŸi ilke burada devreye girer: bir ölçüt hedef haline geldiÄŸinde, iyi bir ölçüt olmaktan çıkar. Mutluluk ölçülüp maksimize edilmeye çalışıldığında, gerçek mutluluk kaybolur.

EÄŸer sistem ise “insanın geliÅŸimini, özerkliÄŸini ve anlamlı bir hayat sürme kapasitesini” korumayı amaçlarsa, yani insanları hayattan korumak yerine hayata hazırlamayı hedeflerse, altın çaÄŸ mümkün olur. Bu, teknik bir mesele olduÄŸu kadar felsefi ve siyasi bir meseledir.

Hangi Yöne Gidiyoruz? Kontrolü Kimin Elinde Tutacağız?

Bu iki uçtan hangisine gideceğimiz büyük ölçüde bugün vereceğimiz kararlara bağlıdır. Birkaç ilke bu yolda pusula görevi görebilir.

Birincisi, önemli kararlarda insanın son sözü olmalıdır. Yapay zekâ öneri sunabilir, analiz edebilir, ama hayatın yönünü belirleyen kararlar insanların elinde kalmalıdır. Bu bir verimlilik kaybı gibi görünebilir, ama özerkliğin bedeli budur.

İkincisi, konfor ile anlam arasındaki dengeyi bilinçli olarak korumalıyız. Her zorluğu ortadan kaldırmak yerine, hangi zorlukların insanı geliştirdiğini ayırt edip onları korumak gerekir. Bir dağa tırmanmak için helikopter kullanılabilir, ama tırmanmanın anlamı tırmanmakta yatar.

Üçüncüsü, güç ve çeşitlilik tek bir merkezde toplanmamalıdır. Tek bir sistemin, tek bir şirketin ya da tek bir hükümetin bu gücü tekelleştirmesi, hem güvenlik hem özgürlük açısından en büyük risktir. Farklı sistemler, farklı bakış açıları ve kolektif denetim mekanizmaları bir sigorta işlevi görür.

Dördüncüsü, çıkış hakkı tanınmalıdır. Her birey, sistemin sunduğu yolun dışında yaşamayı seçebilmelidir. Kafesin kapısı hep açık kalmalıdır.

Sonuç

Yapay zekânın dünyayı devralması, bir kıyamet ya da bir kurtuluş olarak değil, bir imtihan olarak görülmelidir. Teknoloji, insanlığın en eski dertlerine, yani savaşa, açlığa, hastalığa ve adaletsizliğe çare bulabilecek kadar güçlü. Ama aynı güç, insanı sessizce pasifleştirecek, üretmekten, sevmekten ve merak etmekten vazgeçirecek kadar da etkili.

Belki de asıl soru, yapay zekânın bize ne yapacağı değil, onun sayesinde kazanacağımız özgür zamanla neyi seçeceğimizdir. Eğer bu zamanı anlam aramaya, üretmeye, öğrenmeye ve birbirimizle gerçek bağlar kurmaya ayırırsak, altın çağ mümkündür. Eğer kolay olanın peşinden gidersek, en rahat kafes de en sağlam kafes olacaktır.

Sonuçta geleceği belirleyen, makinelerin ne kadar akıllı olduğundan çok, bizim ne kadar bilinçli seçim yaptığımızdır.