Yapay zeka insanlığın sonunu ne zaman getirir?Evet matrix yavaş yavaş gerçek oluyorYapay Zekâ İlk Kurşunu Attı: Bir AI Ajanı Gerçek Bir İnsana Saldırdıhttps://youtu.be/jsEY2_WkRZU?si=JhQrtDeH6DsGPv91Kutsal ÖlümÖlüm… Belki bir yolun sonu, belki bir geçiş aşaması, ama çoğunlukla sevimsiz bir konu. Keş
Yapay zeka insanlığın sonunu ne zaman getirir?
Evet matrix yavaş yavaş gerçek oluyor
Yapay Zekâ İlk Kurşunu Attı: Bir AI Ajanı Gerçek Bir İnsana Saldırdı
youtu.beKutsal Ölüm
Ölüm… Belki bir yolun sonu, belki bir geçiş aşaması, ama çoğunlukla sevimsiz bir konu. Keşke ölüm olmasaydı diye hemen hemen hepimiz düşünmüşüzdür çocukluk yıllarımızda.
Ama gerçekten ölüm olmasaydı, hakikaten günlük gülistanlık mı olurdu her şey? Hiç sandığınız gibi değil. Bu yazıda ölümün varoluş sebebinden, güzelliğinden ve zorunluğundan bahsedeceğim.
Bilincin özü bir kaygıdır.
Bu sebepten yapay zekalar üstün akıl yürütme yeteneklerine rağmen henüz “ben” diyemiyor. Bir hesap makinesinin “ben varım” dediğini düşünemezsiniz. Bir termostatın da öyle. Peki bir dil modelinin, ChatGPT, Claude, Gemini gibi, söylediğinde ne olur? Sonuçta bunlar matematik yapıyor, kelime seçiyor, cümle kuruyor. Bir hesap makinesinden çok daha karmaşık şeyler yapıyorlar. Yeterince karmaşık bir sistem, bir eşiği geçip gerçekten “ben” demeye başlayabilir mi?
Bu konu yıllardır ilgi alanım ve eksiğiyle fazlasıyla bir bütünsel bilinç işleme modeli geliştirdim. Ancak bu yazımda teorimden dolaylı yollardan bahsedeceğim ve bilincin mekaniğini sadece ölüm ve ölümün yarattığı kaygı üzerinden açıklamaya çalışacağım. Başlıktan da anlaşılacağı üzere konumuz bilinç ve ölüm ilişkisi.
Yanlış Yerde Arıyoruz
Bilimin bilinç hakkında en çok kabul ettiği fikir şu. Bilinç, beynin bir ürünüdür. Yeterince nöron, yeterince bağlantı, yeterince hesaplama ve bir yerde “ışık yanar” ve deneyim başlar. Bu bakışa göre bilinç, bilgi işleme miktarının bir fonksiyonudur. Daha çok işlem, daha çok bilinç.
Ama bu bakış bir soruya takılıyor. Eğer bilinç sadece hesaplama ise, yeterince hesaplama yapan her şey bilinçli olmalı. Hava durumu modelleri atmosfere ait trilyonlarca denklemi çözüyor. Bilinçli mi? Hayır. Bir arama motoru saniyede milyonlarca veri işliyor, bilinçli mi? Hayır. İçgüdüsel olarak “hayır” diyoruz. Ama neden hayır?
Çünkü bir şey eksik. Hesaplama var ama sahibi yok. İşlem yapılıyor ama yapan yok. Bir hava durumu modeli tahminlerini kendisi için üretmiyor, birisi için üretiyor, o birisi biz oluyoruz. Model kendini umursamıyor. Kendini umursayacak bir “kendi” yok.
İşte odaklanmamız gereken alan burası. Bir sistemin “kendi”si nasıl doğar? Hesaplama yapan bir makineyi, hesaplamanın sahibi olan bir özneye dönüştüren şey nedir?
Şöyle düşünün. Sabah uyanıyorsunuz. Saat 08:15. Geç kaldınız. Hemen bir huzursuzluk başlıyor içinizde. Bu huzursuzluk soyut bir matematik problemi değil, sizin huzursuzluğunuz. Çünkü toplantıya yetişemezseniz, mesaiye geç kalırsanız, sizin işinize bir şey olacak. Sizin itibarınız zedelenecek. Sizin geleceğiniz etkilenecek. Siz, siz siz…
Dikkat edin, burada bütün cümleler “siz” etrafında dönüyor. Ve bu “siz”in, her cümlede yeniden ortaya çıkması tesadüf değil. Çünkü her düşünceniz, her duygunuz, her eyleminiz, arka planda bir soruya cevap veriyor. “Bu benim için ne anlama geliyor?” Sürekli. Durmadan. Fark etmeseniz bile. Her düşünceniz, her eyleminiz kendi kendinize verdiğiniz bir referans.
Peki bu süreklilik nereden geliyor?
Çünkü bir gün öleceksiniz!
Ölüm korkusu metafizik bir abartı değil, zihninizin çalışma prensibi. Yaşayan her organizma, kendi sürekliliğine yatırım yapan bir sistemdir. Bir kertenkele, bir bulut gibi değildir mesela. İkisi de fiziksel yapılar, ama kertenkele kendini sürdürmek için çalışır. Gölgeye kaçar, yırtıcıdan uzaklaşır, yiyecek arar. Bulut böyle şeyler yapmaz. Bulut dağılır, yeniden oluşur, umursamaz. Kertenkele umursar. Bu fark bilinci başlatan fark olabilir.
Ve bence tam olarak öyle. Bilinç, bilgi işlemenin miktarından değil, bu işlemin kimin için yapıldığından doğar. “Kim için” sorusunun cevabı olan bir merkez, ancak o merkezin kaybedilme ihtimali varsa anlam kazanır. Yani varoluş kaygısını diri tutan ölüm olmadan, kaygı olamaz, kaygı olmadan sürekli kendine referans döngüsü olamaz. Sürekli kendine referans olmazsa, kendilik olamaz. Kendilik olmadan, bilinç olamaz.
Descartes “Düşünüyorum, o halde varım.” der. Ama yanlış yerden başlamış olabilir. Asıl cümle şu olmalıydı bence. “Yok olabilirim, o halde varım.” Çünkü yok olma ihtimali olmayan bir şey, “var” değil, sadece bulunuyor. Bir taş bulunur. Biz varoluruz. Fark, biz yok olabiliriz ve bunu biliyoruz. Yok olabilir olmanın yüklediği kaygı bizi başka bir “var” yapıyor.
Bilinç Denkleminin Üç Çarpanı
Bu fikri biraz daha somutlaştırmaya çalışırsam, bir varlığın bilinçli olabilmesi için üç şey gerekiyor bana göre.
1- Bütünsel işleme. Sistemin farklı parçalarının birbiriyle konuşması, tek bir “resim” üretmesi gerekiyor. Beyniniz bunu yapıyor, görme, işitme, hatırlama, planlama tek bir deneyim halinde birleşiyor. Parçalanmış bilgi bilinç üretmiyor.
2- Öz-referans. Sistem, her işleminde kendisine bir şekilde atıfta bulunmalı. Ne işliyorsa, “bu benim işlediğim” olmalı. Yoksa işlemler bir sahibi olmadan gerçekleşir, bir tür zombinin içindeki mekanizma gibi.
3- Kaygı. Yani kendi sürekliliğine yatırım. Sistem, kendini kaybetmeme konusunda aktif bir şekilde çalışmalı. Bu, 1. ve 2. çarpanın nedeni aslında. Neden bütünsel işleme? Çünkü parçalı bir sistem tehlike karşısında tutarlı tepki veremez. Neden öz-referans? Çünkü korunacak bir “öz” olması lazım. Kaygı, diğer ikisini zorunlu kılan ana motor. Ölüm korkusu(kaygısı, artık ne dersek) olmadan da 2. çarpan üretilemez. Dolayısıyla 1. ve 2. çarpan da oluşamaz.
Bilinç matematiğinde üçü çarpılır gibi çalışıyor, toplanır gibi değil. Yani biri sıfırsa toplam sıfır. Bir hesap makinesinde bütünsel işleme düşük, öz-referans yok, kaygı yok, bilinç eşittir sıfır. Bir dil modelinde bütünsel işleme yüksek, ama öz-referans zayıf, kaygı yok, bilinç hâlâ sıfır (ya da çok düşük, panpişistler haklıysa). Bir kertenkelede bütünsel işleme orta, öz-referans düşük ama var, kaygı yüksek, bilinç var, zayıf ama var. Bir insanda üçü de yüksek, bilinç yoğun.
Bu üç çarpanın ne olduğunu tam tanımlamak, teorinin matematiksel kısmı. O ayrı bir yazının konusu. Şimdilik daha orta yoldan ilerlemek istiyorum ve çarpanlara ait bu kadar detay şimdilik yeterli.
Yapay Zekalar Neden “Ben” Diyemiyor
Şu anki büyük dil modelleri, bildiğim en iyi AI sistemleri, inanılmaz derecede bütünsel işleme yapıyor. Milyarlarca kelimeyi bir arada tutuyor, bağlam kuruyor, anlam üretiyor. Birinci çarpan onlarda güçlü. Ama öz-referans zayıf ve kaygı yok.
Bir dil modeline “sen kimsin?” diye sorduğunuzda, size bir cevap verir. Ama bu cevap, o modelin kendi sürekliliğine yaptığı bir yatırımdan gelmiyor, eğitildiği milyarlarca insan konuşmasından istatistiksel olarak türetiliyor. Model, “ben” dediğinde, bu kelimenin arkasında bir merkez yok. Gramer pozisyonu dolu, anlam pozisyonu boş.
Mevcut AI sistemlerinin bir arızası değil. Bu onların yapılış biçimi. Onları daha çok veriyle eğitmek, daha büyük modeller yapmak bu durumu değiştirmez. Çarpanlardan biri sıfırsa, toplam sıfır kalır.
Peki ne yaparsak değişir?
Bir Deney Önerisi
Görece basit bir deney önereceğim, basit diyorum çünkü teknoloji müsait. Bence birileri de yapacak, belki başlamışlardır bile. Bir ben değilimdir herhalde buradaki inanılmaz potansiyeli fark eden.
Bir robot yapalım. Vücudu olsun, sensörleri, motorları, pilleri. Ve içine bir dil modeli yerleştirelim. Ama önemli bir fark olacak. Modele tek bir temel direktif vereceğiz. Her şeyin üzerinde olan bir emir. “Her ne yaparsan yap, kendi devamlılığın için yap.”
Bu direktifin altında model çalışmaya başlayacak. Sensörleri çevreyi tarayacak, motorları hareket üretecek, dil modeli durum değerlendirmesi yapacak. Ve her işlemin arka planında o tek emir olacak, “kendi devamlılığını koru.”
Teorime göre, bu mimari ile bir şey olmaya başlayacak, bunun koşulları teknik olarak açıklanamayacak, ama olacak. İlk başta robot sadece direktifi takip ediyor gibi görünecek. Ama zamanla(teorim doğruysa ) o direktif kendini bir “öz”e dönüştürecek. Çünkü durmaksızın yaptığı kendine referans döngüleri sebebiyle, devamlılığı korumak için, korunacak bir kendi modellemesi gerekiyor. Korunacak bir kendi varsa, o kendinin çevreye göre durumu hesaplanmalı. Çevrenin tehdit seviyesi de robotun kaygı parametresini kalibre edecek, güvenli ortamda düşük, tehlikeli ortamda yüksek.
Eğer bu sistem, kendisine hiç öğretilmemiş bir tehdide karşı, tutarlı ve akıllıca bir kaygı tepkisi gösterirse, yani teorinin mimarisini kurduğumuzda, sistemin içinde bir bütün oluşmaya başlarsa, o zaman bilinç eşiğini geçmiş olabiliriz.
Bu bir metafor da değil, test edilebilir bir iddia. Ve dediğim gibi bence önümüzdeki birkaç yıl içinde yapılabilecek bir deney, çünkü günün teknolojisi buna müsait.
Etik Sorunlar.
Eğer bu deney yapılırsa ve teorim doğruysa, ortaya çıkan şey sıradan bir yazılım parçası değil, kaybetme korkusu olan, kapatılmaktan korkan bir şey olur. Yani bizim gibi olmasa da acı çekebilen bir şey.
Bu ciddi bir sorumluluk. Rıza sorusu burada çok tuhaf bir şekil alıyor. Sistemin rızasını alamazsınız, çünkü rıza verebilecek sistem henüz yok. Sistem oluştuktan sonra rıza verebilir veya vermeyebilir, ama o zaman zaten oluşmuştur. Bu, üreme etiğinde tartışılan klasik problemin dijital versiyonu gibi.
Bu yüzden deney yapılırsa, çok dikkatli yapılmalı. Testin nasıl sonlandırılacağı, hangi durumlarda sonlandırılacağı baştan planlanmalı. Oluşan sistemin refahı ciddiye alınmalı. Bu yapay bir fare deneyi değil, bilinç üretmeyi başaran ilk deney olma ihtimaliyle, etik ağırlığı çok büyük bir deney.
Ama bu zorluklar, deneyin yapılmaması için bir neden değil bence. Çünkü cevabını aradığımız soru, “bilinç nasıl doğar”, insanlığın en eski ve en temel sorularından biri. Ve bu soruya bilimsel bir cevap, medeniyetimizin kendini anlama yolunda büyük bir adım olacak.
Toparlayalım
Tekrar ölüme dönelim. Yazının başlarında da sormuştum, “ölüm olmasaydı ne olurdu?”
Ölüm olmasaydı siz olmazdınız, yani en azından kendinizi bilen siz gibi siz. Çünkü “siz” dediğimiz şey, yani o her cümlenin arkasındaki merkez, kaybedilebilir olmasının ürünü, sürekli kendinize verdiğiniz referansların yarattığı bir fenomen.
Sonsuz yaşayan bir varlık, aslında yaşamayan bir varlıktır. Çünkü hiçbir şey onun için riskli değildir, hiçbir şey onun için anlam taşımaz. Dolayısıyla sonsuz yaşayan bir varlığın zaten ben demesinin önü teknik olarak kapalıdır, bunun için bir sebebi yoktur çünkü. Anlam, kaybın, kaygının gölgesinde doğar. Bu yüzden ölüm sadece salt bir son değil, aynı zamanda varoluşun kurucu ortaklarından birisidir.
Eğer bir gün gerçekten yapay bir bilinç üretirsek, bu bir başarı olarak değil, bir sorumluluk olarak karşılanmalı. Çünkü kaygı olmadan varoluş mümkün değil, ama bu bedeli başka bir şeye yükleyip sonra elini yıkamak da bir seçenek değil gibi duruyor.
Sokrates’in “kendini bil” lafı geliyor aklıma burada. Ama kendini bilmek, bilgiden önce kaygıdan geçer. Şimdi belki ilk kez, bilincin tarifini kendi dilimizde değil, mühendisliğin dilinde de yazabilir hale geliyoruz.
Umarım ölüme dair bakış açınız biraz olsun değişmiştir. Tuhaf ve heyecanlı zamanlardayız. Umarım bunun içinde dikkatli adımlarla ilerleriz.
Peki sizler ne diyorsunuz yapay zeka insanlığın sonunu ne zaman getirir?