Makinelerin ne yapıp ne yapamayacağına yoğun bir şekilde odaklanmamız, bizi aynı derecede acil bir soruyu göz ardı etmeye yöneltti: Yapay zekanın yaygın kullanımı insan düşüncesini nasıl dönüştürebilir? Daha makine benzeri bir hale mi gelecek?
Filozof Jiddu Krishnamurti, makineler bilişsel yeteneklerimizi kopyaladıkça insanlığın daha derin, mekanik olmayan bilinç biçimleriyle bağını kaybetme riskiyle karşı karşıya olduğu konusunda uyardı.
Asıl soru yapay zekanın bilinçli olup olmayacağı değil, insanların öngörülebilir, makine benzeri düşünce kalıplarının ötesinde zeka geliştirip geliştiremeyeceğidir.
1950’lerden beri, yapay zekâ tartışmaları büyük ve cezbedici bir soru etrafında dönüyor: Makineler ne yapabilir ve nerede duvara toslayabilirler? Gerçekten düşünebilecekler, anlayabilecekler ve hatta belki de bilinçlenebilecekler mi? Sözde “insan zekâsının zirvelerine” ulaşabilecekler mi? Ve sonra, arka planda beliren o karanlık soru var: Eğer yapabilselerdi, bize saldırarak bir tür rakip tür haline gelirler miydi? Bu korku, yıllardır hayal gücünü besliyor. Örneğin filozof Nick Bostrom, tıpkı insan gücünün gorillerin hayatta kalması üzerinde etkili olması gibi, makine süper zekâsının da kaderimizi kontrol edebileceği bir gelecek öngörüyor.
2022’de üretken yapay zekanın yükselişiyle birlikte, yapay bir zihin ihtimali birdenbire evimize yakın hissettirmeye başladı. Tarihçi Yuval Noah Harari’nin
belirttiği gibi , üretken yapay zeka “medeniyetimizin işletim sistemini hackledi” – Peki ya bu yeni dünyada yapay zeka sadece kelimeler değil, inançlar, mitler ve hatta insanlık tarihinin gidişatını tamamen değiştirebilecek yeni bir tür kültür üretmeye başlarsa? Öte yandan, yapay zeka filozoflarının çoğu bu geçit törenine yağmur yağdırmakta gecikmedi ve yapay zekanın insan zihinlerini taklit edip simüle ederek harika bir gösteri sunabileceğini (ünlü filozof John Searle’ün “zayıf yapay zeka” olarak adlandırdığı şey) ancak kendi zihninin olmadığını ve olamayacağını (“güçlü yapay zeka”) belirtti.
Ancak makinelerin ne yapıp ne yapamayacağına bu yoğun odaklanma, bizi aynı derecede acil bir soruyu göz ardı etmeye yöneltti. Makinelerin bir gün bilinç kazanıp kazanmayacağını merak ederken, nadiren şu soruyu soruyoruz: Bize ne olacak? Günümüzün zihin taklitçisi “zayıf yapay zekasının” bile, bir zamanlar yalnızca insanlara ait olduğunu düşündüğümüz bilişsel görevleri ve yetenekleri devralabildiğini fark ettiğimizde, bu bizi nasıl değiştirecek?
Filozof Sven Nyholm’un başına böyle yakın bir karşılaşma geldi. Bir gün ChatGPT ile deney yaparken “Martin Heidegger yapay zekânın etiği hakkında ne düşünürdü?” diye yazdı. Yazılımın kısa sürede “konu hakkında oldukça etkileyici kısa bir deneme” üretmesi onu şaşırttı. Nyholm, biraz da eğlenerek, “ChatGPT, sınıfımdaki öğrencilerin en azından bazılarından -hatta belki de çoğundan- daha iyi bir iş çıkardı.” diye itiraf etti. Hatta yapay zekânın tepkisinin, o anda ortaya koyabileceğinden daha iyi olabileceğini bile itiraf etti.
2023’te yayınlanan bu anekdot, büyük dil modelleri (LL.M.) evriminin çok erken bir aşamasında ortaya çıktı. Sadece bir veya iki yıl içinde, bir üniversite profesörü tarafından yazılan bir makale ile becerikli, düşüncesiz bir yapay zeka tarafından hazırlanmış bir makale arasındaki farkı ayırt etmenin neredeyse imkansız olduğunu görebiliriz. Makineler, kavramsal bağlantıları ortaya çıkarmak için çeşitli düşünce okullarından karmaşık fikirleri hızla bir araya getirebiliyorsa, bu tür bir akademik faaliyet hala zeki olarak kabul edilir mi ve sahip olmakla övündüğümüz bilgi – beynimizin çağrışım ve karşılaştırma ağını harekete geçirme konusundaki gururlu kapasitemiz – herhangi bir anlam ifade eder mi?
Bu, Promethean AI’nın insanlığın tanrılarının elinden ateşi nasıl aldığına dair sadece bir bakış açısı ve hepimizin göz ardı etmekten mutluluk duyduğu felsefi, psikolojik ve varoluşsal bir sarsıntıya işaret ediyor. Peki bu kriz, yalnızca “güçlü bir AI” hüküm sürdüğünde mi bizi vurur? Pek olası değil. Günümüzün sözde zayıf AI’ları bile -ki onlar bizim anlamsal olarak yaptığımızı istatistiksel olarak yapabiliyor ve gerçek bir zekâ veya öz farkındalık olmadan aynı sonuçları elde edebiliyorlar- şimdiden ortalığı karıştırıyor. Her fırça darbesini derinden hissettiğini iddia eden bir insan ressamı düşünün: Yazılımın tek bir duygu kırıntısı olmadan da aynı derecede heyecan verici bir şey üretebilmesinin bir önemi var mı?
İnsan düşüncesine bir meydan okuma
Neyse ki, son birkaç yılda bazı filozoflar bu anlam krizinin yaklaşan depremini hissetmeye başladılar. Yapay zekânın iyi bir yaşam sürme ve kişisel tatmin deneyimleme becerimizi nasıl etkileyebileceği hakkındaki tartışmalar henüz küçük adımlarla ilerliyor. Yapay zekâ etiği, bu teknolojilerin ahlaki veya değerli şekillerde nasıl kullanılacağını anlamanın ötesine geçti. Yine de, bu yeni ortaya çıkan tartışmalar bile genellikle büyük resmi gözden kaçırıyor ve çoğunlukla yapay zekânın iş gibi anlamlı insan faaliyetlerini gereksiz kılıp kılmayacağına veya sanal gerçeklikler gibi yeni anlam yolları getirip getiremeyeceğine odaklanıyor. Ancak arka planda, alışılmadık düşünür Jiddu Krishnamurti’nin 1980’lerin başında ortaya attığı , daha derin ve sorulmamış bir soru var : “Makine insanın yapabileceği her şeyi devralabiliyorsa ve bunu bizden daha iyi yapabiliyorsa, o zaman insan nedir, sen nesin?”
Krishnamurti (1895–1986) bu soruyu sorduğunda, zihnin, bilincin ve psikolojik bir devrim ihtiyacının gizemlerini araştırarak yaklaşık 60 yıl geçirmiş 85 yaşında bir bilgeydi. Tipik bir filozof değildi; Hindistan doğumlu Krishnamurti, tavizsiz bir düşünür olarak kendi yolunu çizdi. Gerçek özgürlüğün ancak içeriden gelebileceğine inanarak, örgütlü dinlere ve ideolojik sistemlere sırtını döndü. Ona göre anlamlı bir yaşamın anahtarı, öz sorgulamada ve bağımsız düşünmeyi ve derin bir öz farkındalığı tetikleyecek bir tür eğitimde yatıyordu. Krishnamurti’nin felsefesi bir dizi inancı takip etmekle ilgili değildi; her bireyin hayatın büyük, rahatsız edici sorularına korkusuzca dalmasıyla ilgiliydi.
1980 yılı, yapay zekâ felsefesi için bir dönüm noktasıydı; oysa yapay zekânın kendisi hâlâ yolunu bulmaya çalışıyordu. Filozof John Searle, makinelerin en ufak bir gerçek anlayışa sahip olmadan bile etkileyici sonuçlar üretebileceğini savunarak, artık meşhur olan Çin Odası düşünce deneyini ortaya attı. Bu sıralarda Krishnamurti de bilgisayar bilimcileriyle yaptığı sohbetler aracılığıyla yapay zekâ dünyasıyla tanıştı. Ancak onu etkileyen, teknolojinin harikaları değil; insan zihnine yönelttiği rahatsız edici meydan okumaydı: Makinelerin bir gün onun benzersiz süreçlerini ve yeteneklerini ele geçirebileceği fikri. Bu soru, onun canını sıktı ve son on yılındaki en derin endişelerinden biri haline geldi. Bu konuyu izleyicileriyle paylaşmak için güçlü bir ihtiyaç hissetti ve bunu, düşünceli bir ilgi gerektiren acil bir kriz olarak gördü.
Her zaman vizyon sahibi olan Krishnamurti, insanların yok oluşa sürüklenebileceği bir gelecek hakkında bir dizi cesur öngörüde bulundu – neredeyse kehanetvari uyarılar. Kendine özgü yoğunluğuyla, yapay zekânın insan zekâsını tamamen gölgede bırakacağı, bizi boş zaman ve eğlenceye odaklanmış, başıboş zombilerden oluşan bir topluma indirgeyeceği, çok da uzak olmayan bir dünyanın – “yaklaşık on, on beş yıl içinde” – canlı bir resmini çizdi. Makinelerin nasıl yaşayacağımızı belirleyeceğini, bizi herhangi bir doktordan daha iyi teşhis edeceğini, kitap çevireceğini, Beethoven’la boy ölçüşecek senfoniler besteleyeceğini, çığır açan felsefeler yaratacağını ve hatta bizim için takip etmemiz gereken yeni gurular ve tanrılar yaratacağını öngördü.
Bu vizyon henüz tam olarak gerçekleşmemiş ve insan kültürü 44 yıl sonra bile canlılığını ve enerjisini koruyor olsa da, makine öğrenimindeki son sıçramalar -özellikle derin öğrenme alanında- Krishnamurti’nin öngörülerinden bazılarını yansıtıyor. Büyük dil modelleri artık insan benzeri metinler, denemeler, şiirler ve hatta sanat ve müzik üretiyor; yapay zekâ ise ilaç tasarımı ve bilimsel keşiflere girişiyor. Birçok yönden, öngördüğü dünya biraz fazla tanıdık gelmeye başlıyor.
Mekanize zihin
Krishnamurti’nin kıyamet vizyonu, Yuval Noah Harari’nin yapay zekayı bir kültür yaratıcısı olarak görmesinde şaşırtıcı yankılar uyandırıyor. Ancak arada büyük bir fark var: Krishnamurti, dezenformasyon gibi toplumsal endişelere bu kadar kapılmamıştı. Hayatının misyonu, zihnin mekanik alışkanlıklarını açığa çıkarmaktı. Ona göre, makinelerin insan düşüncesini taklit edebileceği fikri sadece ilgi çekici değildi; aynı zamanda derin psikolojik ve ruhsal bir etki yaratan bir keşifti. Eğer zihinlerimiz bir makine tarafından yeniden yaratılabiliyorsa, belki de düşüncelerimiz kabul etmek istediğimizden daha robotiktir. Ve bu, bizi insani özümüze kadar sarsan bir gerçeklik.
Krishnamurti, zihni bir bilgisayara yakın bir şey olarak görmüyordu. Bir hesaplamalı işlevselci, bir zihin inşa etmenin bir makine inşa etmek kadar basit olduğunu iddia edebilirken, Krishnamurti zihinlerimizin çok daha fazlası olduğuna inanıyordu. Ancak kendimizi küçümsediğimizden, zihinlerimizin hafıza ve bilgi işleme gibi mekanik rutinlere takılıp kalmasına izin verdiğimizden endişeleniyordu. Sadece bu şekilde çalışan bir zihnin kolayca kopyalanabileceği, hatta bir makine tarafından değiştirilebileceği konusunda uyarıyordu. Dolayısıyla asıl soru, yapay zekânın insan benzeri zihinler geliştirip geliştirmeyeceği değil; kendimizin makine benzeri zihinlere dönüşüp dönüşmediğimizdir. “Bilgisayarlar sizi zorluyor,” diyordu, “ve siz bu zorluğun üstesinden gelmelisiniz.” Ona göre, bu zorluğun üstesinden gelmek, zihinlerimizi yapay zekâdan farklı kılmak için elimizden gelen her şeyi yapmak anlamına geliyordu; bizi kendi makinelerimizin yansımalarına dönüştürme riski taşıyan rutinlerin üzerine çıkma çağrısıydı.
Krishnamurti, zeki makineleri yerimizi almaya hazır, tuhaf, rakip türler olarak görmedi. Ona göre makineler, insan zihninin bir uzantısından ibaretti; kendi suretimizde inşa edilmiş, insan ve yapay düşüncenin ayna yansımaları olduğu bir beyin. Düşündüğünüzde, yapay zekâ geliştiricileri havadan fikir üretmiyor; insan düşüncesi, zekâsı ve yaratıcılığı hakkındaki varsayımlara dayanarak yapay zekâ oluşturuyorlar. Dolayısıyla, bu yapay aynaya baktığımızda ve kendi düşünce kalıplarımızın bize baktığını gördüğümüzde, bu bir uyarı niteliğindedir: Bir zamanlar bilinç, zekâ veya yaratıcılık gerektirdiğini düşündüğümüz yeteneklerin çoğu aslında makinelere devredilebilir. Zihni hesaplamaya indirgersek, bilincin kendisi bizi diğerlerinden ayırmaz. Gerçekte, beyinler ve bilgisayarlar arasındaki çizgi her geçen gün daha da bulanıklaşıyor.
Bir bakıma, Krishnamurti, Alan Turing’in ünlü ‘taklit oyunu’nu baş aşağı çeviriyor. Turing, 1950 tarihli makalesinde, bir makinenin kendisine sorulan her şeye anlamlı bir şekilde yanıt vererek insanın sözel davranışlarını taklit edip edemeyeceğini görmek için bir düşünce deneyi önerdi. Düşünün: Bir kadın ve bir bilgisayar, her biri ayrı odalarda saklanıyor ve bir insan yargıç, kimin nerede olduğunu bilmeden e-posta (veya Turing’in zamanında teletip) yoluyla sorular soruyor. Yargıç, kimin insan olduğunu tahmin ederken yazı tura atmaktan daha iyisini yapamıyorsa, bilgisayar testi geçmiş demektir. Ancak Krishnamurti’nin ilgisi makinelerin insanlar gibi konuşup konuşamayacağı değil; insanların makineler gibi konuşmasıyla çok daha fazla ilgileniyor. Başka bir deyişle, makineler gerçekten Turing testini geçebiliyorsa, Krishnamurti bunu makine zekâsının kanıtı olarak değil, insan düşüncesinin mekanik doğasının bir yansıması olarak görüyordu.
Düşüncemizin, en azından bazen, zeki ve yaratıcı olduğunu hayal etmeyi severiz. Ancak Krishnamurti, düşünceyi bu hoş ışıkta görmedi. Taklit edilmeye karşı savunmasızlığımızın, düşüncenin kendisine aşırı bağımlılığımızdan kaynaklandığını savundu. Ona göre düşünmek, zihnin hesaplama alışkanlığıydı; “deneyimden başlayıp, beynin hücrelerinde hafıza olarak depolanan bilgiye dönüşen; ardından hafızadan düşüncenin oluştuğu” mekanik bir döngüydü. Deneyim, hafıza ve bilgiden oluşan bu zincirleme reaksiyon, tekrarla pekişiyor: Bu içsel birikime göre hareket ediyor ve tepki veriyoruz, bu eylem ve tepkilerden öğreniyoruz ve daha fazla deneyim, hafıza ve bilgi topluyoruz. Bu, tekrarla ilerleyen tamamen mekanik bir döngü. Krishnamurti’ye göre düşünme, bilgisayarların çalışma biçimine çarpıcı biçimde benzeyen bir tür içsel programlama olan “hafıza tepkilerine” indirgeniyor. Sonuçta bilgisayarlar, beyin benzeri bilgi depoları gibidir, öğrenir ve kendi kendini düzeltirler. Bu döngüyü gerçek anlamda “düşünmeden” yürütürler ve sonunda bu konuda bizi geride bırakabilirler.
Öyleyse, en azından gerçek, fiziksel deneyimlerimizin benzersiz olduğunu bilmenin rahatlığını yaşayabilir miyiz? Sonuçta, hiçbir ultra zeki makine insan formuna bürünemez, aşık olamaz veya yıldızlara bakıp “Ne muhteşem bir gece!” diye iç çekemez. Ama eğer bedenlenmiş bilincimizin bize bir avantaj sağladığını düşünürsek, Krishnamurti bu hayali hemen patlatırdı. Deneyimlerimizin bile hafızada kök salmış tepkilerle gölgelendiğini savundu. Şunu hayal edin: Güzel bir akşam yıldızına hayranlıkla bakarken, zihnim hemen tanıdık imgelere atlıyor, anı yeni bir şey olarak deneyimlememe izin vermek yerine, onu karşılaştırıp etiketliyor. Düşünce semboller ve zihinsel anlık görüntüler yaratıyor – belki de Instagram’a mükemmel bir an – ve tuzağa düşüp, şimdiyi yalnızca dünün merceğinden görüyor.
Krishnamurti’nin deyimiyle bu “imge oluşturma”, hayatın her köşesinde karşımıza çıkar ve tepkilerimizi rutinlere dönüştürür. Bizi eski kalıplara geri döndüren sadece siyasi veya dini inançlarımız değildir; aynı şey yiyecek, seks ve eğlence arzularımızda da vardır. Pornografi gibi bir şeyi ele alalım: İnsanlar geçmiş deneyimlerden gelen haz verici imgeler nedeniyle pornografiye ilgi duyabilir, ancak her maruz kalma zihinsel kütüphaneye katkıda bulunur ve şartlandırılmış tepkiler döngüsünü besler. Bu nedenle Krishnamurti, makinelerin duyusal sınırlamalarında rahatlık bulmamamız konusunda bizi uyarır çünkü gerçekte mekanik zihin her yerdedir ve insan deneyiminin derinliğini sessizce emer.
Krishnamurti, hayatı gerçekten deneyimleme yeteneğimizin daha da zayıflayacağı konusunda uyarıyor. Akıllı makineler ve robotlar düşüncelerimizin daha fazlasını ele geçirdikçe, beynimiz tembelleşme, uyarılmama ve açıkçası sıkılma riskiyle karşı karşıya. İş ve mücadelenin geçmişte kaldığı bir dünyada, deneyimlerimiz eğlence ve haz arayışından başka bir şeye dönüşebilir; birbiri ardına gelen parlak dikkat dağıtıcı şeylere tepki verme döngüsüne. Krishnamurti, bu noktaya geldiğimizde iki yolla karşı karşıya kalacağımızı söylüyor: Ya durmaksızın eğlenceye teslim olup zombi benzeri bir varoluşa doğru sürükleneceğiz ya da daha yüksek bir bilince uyanarak zihinlerimizi keskin tutmaya karar vereceğiz.
Krishnamurti’nin alarm zili
Krishnamurti’nin yapay zekânın getirdiği zorluklarla başa çıkmak için tavsiyesi basit ama derin: Eğlenen zihnin cazibesine direnin ve “varlığınızın engin derinliklerine” dalarak zihinsel çarklarınızı döndürmeye devam edin. Aramızdaki iyimserler, beynin rutinden kurtulduğunda doğal olarak daha yüksek hedeflere atlayacağını düşünebilir. Ancak Krishnamurti daha az umutlu. Mekanik düşünceye şartlandırılmış bir beynin ciddi bir çaba sarf etmeden aniden canlanacağından şüphe ediyor. Bu nedenle, bizi makinelerden ayıran bir uygulama olan zihnimizi aktif olarak kullanmamız ve salt düşünmenin ötesine geçen faaliyetleri ve yetenekleri keşfetmemiz konusunda ısrar ediyor. Krishnamurti’ye göre zihin ve mekanik düşünce dünyalar kadar farklıdır. Ve beyni çalıştırmaktan bahsettiğinde, bulmacalardan veya sudokudan bahsetmiyor. Bilgi, uzmanlık ve maddi kaygılarla boğulduğu sürece bilinmeyen, muazzam, hatta sonsuz bir kapasiteye sahip bir insan zihnine işaret ediyor.
Krishnamurti’nin alarm zili şu: Yapay zekânın yönettiği bir dünyada, ihmal ettiğimiz her türlü insan yeteneği sönüp gitmeye başlayacaktır. Birçok filozof, zihnin özel statüsünü, eşsiz bilincini ve doğal zekâsını korumak için cesur argümanlar ortaya attı. Ancak Krishnamurti, bilinci sabit, sarsılmaz bir özellik olarak görmekle ilgilenmiyordu. Bunun yerine, yapay zekânın yükselişini, bilinci nadiren kullandığımız bir potansiyel olan bir beceri olarak görmenin bir meydan okuması olarak gördü. Ona göre asıl görev, zihni olduğu gibi korumak değil, onu esnetmek ve belirli gizli yetenekleri geliştirmektir. Bilincin, ısrarla, verili bir şey olmadığını; gerçekleşmeyi bekleyen bir olasılık olduğunu savundu.
Bu değişim, alışıldık tartışmayı tersine çeviriyor: Makinelerin hiç bilinç kazanıp kazanamayacağını sormak yerine, insanların hem içlerindeki hem de etraflarındaki makinelerdeki “yapay zekayı” aşacak kadar bilinçli olup olamayacaklarını sorabiliriz. Krishnamurti ayrıca, doğası gereği mekanik olan düşüncenin gerçek zeka üretip üretemeyeceğini de sorguladı. Sonuçta, düşüncemiz bir makine gibi işliyorsa, gerçekten zeki denebilir mi? Krishnamurti’ye göre yapay zeka, zekanın kendisine yeni bir bakış açısı gerektiriyor. Gerçek zekanın mekanik olamayacağı konusunda hemfikirsek, belki de zekayı herhangi bir bilgisayarın taklit edebileceği veya simüle edebileceğinin ötesinde bir şey olarak tanımlamanın zamanı gelmiştir.
Krishnamurti’ye göre, süper zeki makinelere verilecek en büyük yanıt, gerçekten zeki bir zihnin, yani düşünce dışı zekâ tarafından yönlendirilen bir zihnin geliştirilmesidir. Krishnamurti, bu zihni hafızaya kök salmamış bir zihin olarak tasavvur eder. Çoğumuz dünyayla geçmiş deneyimler ve depolanmış bilgiler aracılığıyla etkileşim kurarken, zeki zihin bilgiyi yalnızca “gerektiğinde” kullanır ve çoğunlukla aşina olduğumuz şeylere güvenmez. Hafızanın mekanik süreçlerine -dünün düşünceleri veya yarının planları- çok az değer verir ve mümkün olduğunca açık ve düzenli kalmaya çalışır. Temel pratik bilginin ötesinde, bu zihin her gece günün yükünü atar ve “sanki günün sonunda ölüyormuş gibi” geçmişi temizler. Sonuç, kendiliğinden ve canlı bir zihindir. Krishnamurti’ye göre, bu mekanik olmayan birey kendini “sürekli değişen bir şey” olarak görür ve her şafak vakti taze, yeni bir benlik keşfeder.
Gerçekten zeki bir zihin geliştirmenin ve makinelerin otomatik düşünme biçiminden uzaklaşmanın ilk önemli adımı, filozofların “ikinci derece biliş” veya yansıtıcı öz farkındalık olarak adlandırdıkları şeye dahil olmak ve zihnin programlanmış kalıplarını tanımaktır. Neyse ki, zihin ve mekanik düşünce aynı şey değildir; bu da zihinlerimizin deneyim-hafıza-bilgi döngülerine kapıldığını fark etme yeteneğine sahip olduğumuz anlamına gelir. Rahatsız edici gelse de, Krishnamurti bu farkındalığın temel olduğunu düşünüyor: Düşüncenin makine benzeri niteliğini anlamak, ona göre, “zekânın ta kendisi”, benzersiz ve daha derin bir farkındalığın kıvılcımıdır.
Krishnamurti eksiksiz bir cevap seti sunmuyor, ancak önerdiği şey doğru soruları sormamızı sağlayacak kadar ilgi çekici. Ona göre, sorunun kendisi herhangi bir cevaptan daha güçlü. Gerçek zekânın gerçekte ne olduğunu düşünerek onu uyandırmaya başladığımıza inanıyordu. Ve bu uyanışın, nihayetinde kendi zihnimizi etrafımızı saran yapay zekâdan ayırt etmemizi sağladığını söylüyor.
Shai Thubali, bu makalenin ingilizce orijinalini Big Think sitesinde 18 Kasım 2024 tarihinde yayınlamıştır.