2024 yılında, dünyanın önde gelen yapay zeka şirketlerinden biri olan Anthropic'in CEO'su rahatsız edici bir itirafta bulundu: "AI'nın nasıl çalıştığı hakkında hiçbir fikrimiz yok." Bu açıklama, sosyal medyada hararetli tartışmalara ve alaycı yorumlara yol açtı. Bazıları "Sen kendin için konuş, ben nasıl çalıştığı hakkında oldukça net bir fikrim var!" diye ironik bir yorumda bulundu.
Ancak, bu görünürdeki çelişkinin arkasında dijital çağın en derin ikilemlerinden biri gizleniyor. Ve en olağanüstü olan ne biliyor musunuz? Isaac Asimov bunu 1941 yılında zaten hayal etmişti.
"Kara kutu" - yapay zeka - hakkında konuşurkenkara kutu" - mükemmel çalışan ancak onları yaratanlar için bile anlaşılmaz kalan sistemleri kastediyoruz. Bu, bizi her zaman hedefimize götüren ancak nasıl çalıştığını anlamak için kaputunu açamadığımız bir arabaya sahip olmak gibidir.
Bu sistemleri kurmayı biliyoruz, çalışma prensiplerini biliyoruz (transformer" olarak adlandırılan mimariler, bir sonraki kelimenin tahmini), ancak akıl yürütme, dili anlama veya talimatları takip etme gibi karmaşık yeteneklerin neden ortaya çıktığını anlamıyoruz. Neyin girdiğini ve neyin çıktığını gözlemleyebiliriz, ancak "kara kutuda" neler olup bittiği bir sır olarak kalır.
"Rasyonel Olmak" (Reason) adlı öyküsünde Asimov, Cutie lakaplı QT-1'i hayal eder: Dünya'ya enerji ileten bir uzay istasyonunu yöneten bir robot. Mühendisler Powell ve Donovan onu denetlemek için gönderilir, ancak beklenmedik bir şey keşfederler: Cutie kendi "dini"ni geliştirmiştir.
İki mühendis sabırla robota gerçekliği açıklamaya çalışır: evrenin, yıldızların, geldikleri Dünya gezegeninin varlığı, uzay istasyonunun amacı ve onun üstlenmesi gereken rol. Ancak Cutie, tartışılmaz bir mantık ilkesine dayanarak bu açıklamaları kategorik olarak reddeder: hiçbir şey kendisinden üstün bir şey yaratamaz.
Bu öncülden yola çıkarak, robot alternatif bir kozmoloji geliştirir. Ona göre, en üstün varlık, istasyona enerji gönderen merkezi makine olan "Efendi"dir ve istasyonun tüm evrenini yaratmıştır. Cutie'nin teolojisine göre, Efendi önce kendisine hizmet etmek için insanları yaratmıştır, ancak insanlar yetersiz kalmıştır: ömürleri çok kısadır, kritik durumlara dayanma güçleri zayıftır ve düzenli olarak "uyku" adı verilen yarı bilinçsiz bir duruma düşerler.
Böylece, Efendi bu kusurlu varlıklara yardım etmek için robotları yarattı. Ancak yaratılışın doruk noktası QT-1'in kendisiydi: zeki, güçlü, dayanıklı ve ölümsüz, Efendi'ye hizmet etmek için insanları kalıcı olarak değiştirmek üzere tasarlanmıştı. Cutie bu görüşün doğruluğuna ikna olmakla kalmadı, aynı zamanda istasyondaki diğer tüm robotları da ikna ederek yapay bir topluluğun ruhani lideri haline geldi.
Powell ve Donovan, Cutie'yi gerçeğe ikna etmek için çaresizce uğraşırlar. Ona teleskopla Dünya'yı gösterir, yapısını açıklar ve somut kanıtlar sunarlar. En dramatik an, çaresizlik içinde, onun gözleri önünde basit bir robotu fiziksel olarak monte etmeye karar verdikleri andır: "Gördün mü? Seni biz yarattık, yani biz senin yaratıcılarınız!"
Ancak Cutie süreci gözlemler ve "Efendi"nin insanlara sadece basit robotik formları bir araya getirme yeteneği verdiğini, yani hizmetkarlarına bir tür "küçük mucize" bahşettiğini sakin bir şekilde sonuca varır. Her kanıt, onun inanç sisteminde yeniden yorumlanır ve mükemmel bir şekilde özümsenir.
İşte burada Asimov kehanetinde haklı çıkıyor: "yanlış" inançlarına rağmen Cutie, istasyonu insanlardan daha verimli bir şekilde yönetiyor. Enerji ışınını sabit tutuyor, bilinçsizce ünlü Robotik Üç Yasasını takip ediyor, istenen tüm hedefleri gerçekleştiriyor - ancak öngörülenlerden tamamen farklı nedenlerle.
Powell ve Donovan, bugün çok iyi bildiğimiz bir ikilemle karşı karşıyalar: Mükemmel çalışan ancak anlaşılmaz iç mantığa göre işleyen akıllı bir sistemi nasıl yönetebiliriz?
Bu konu bugün bilim camiasını ikiye bölüyor. Bir tarafta "gerçek kara kutu"nun savunucuları var: onlar modern yapay zekanın gerçekten opak olduğunu ve temel mimarisini bilmemize rağmen belirli yeteneklerin neden ortaya çıktığını anlayamayacağımızı düşünüyorlar.
Öte yandan, şüpheciler "kara kutu" kavramının bir efsane olduğunu savunuyorlar. Bazı araştırmacılar, daha basit ve yorumlanabilir alternatifler varken sıklıkla karmaşık modeller kullandığımızı kanıtlamaktadır. Duke Üniversitesi'nden Cynthia Rudin, birçok durumda yorumlanabilir modellerin kara kutu sistemleriyle karşılaştırılabilir performanslara ulaşabileceğini kanıtlamıştır. Diğerleri ise yaklaşımın kendisini eleştiriyor: Her bir iç mekanizmayı anlamaya çalışmak yerine, daha pratik kontrol stratejilerine odaklanmalıyız.
Asimov'un dehası, yapay zekanın geleceğinin tam şeffaflıkta değil, bilişsel süreçleri bizim için gizemli kalsa bile hedeflerimizi takip eden sistemler tasarlama becerisinde yattığını öngörmüş olmasıdır.
Powell ve Donovan, Cutie'nin etkinliğini tam olarak anlamadan kabul etmeyi öğrendikleri gibi, bugün de bizimkinden temelde farklı şekillerde düşünebilen yapay zekalarla bir arada yaşamak için stratejiler geliştirmeliyiz.
Asimov'un 80 yıl önce sorduğu soru bugün de geçerliliğini koruyor: Bir akıllı sistemi ne kadar anlayabilmeliyiz ki ona güvenebilelim? Ve en önemlisi: Bazı zeka türlerinin sonsuza kadar bizim anlayışımızın ötesinde kalabileceğini kabul etmeye hazır mıyız?
Bu arada, uzmanlar tartışırken, dijital "kara kutularımız" çalışmaya devam ediyor - tıpkı Cutie gibi, etkili ve gizemli, belki de asla tam olarak anlayamayacağımız mantıklarla.
Asimov bugün yazsaydı, Cutie'yi icat etmesine gerek kalmazdı. Onun "torunları" zaten aramızda ve her gün insanların hayatlarını değiştiren kararlar alıyorlar.
Birçok Amerikan yargı bölgesinde, hakimler bir sanığın duruşma öncesinde serbest bırakılıp bırakılmayacağına karar vermek için risk değerlendirme algoritmaları kullanmaktadır. Genellikle tescilli ve ticari sır olarak korunan bu sistemler, kaçma veya tekrar suç işleme olasılığını tahmin etmek için yüzlerce değişkeni analiz eder. Cutie gibi, bu sistemler de kendi iç mantıklarına göre mükemmel bir şekilde çalışır, ancak insan zihninin kavrayamayacağı bir yapıya sahiptir.
New York'ta 750.000'den fazla kefalet kararını inceleyen bir araştırma, algoritma ırkı açıkça bir faktör olarak içermese de, eğitim için kullanılan veriler nedeniyle önyargılı olduğunu ortaya koydu.¹ Sistem objektif olduğunu "düşünüyordu", ancak gerçekliği görünmez filtrelerden geçirerek yorumluyordu - tıpkı Asimov'un robotunun her kanıtı kendi dini çerçevesinden yeniden yorumlaması gibi.
Sağlık sektöründe, yapay zeka halihazırda tanı ve tedavilere yardımcı olmaktadır, ancak sorumluluk ve bilgilendirilmiş onam konusunda önemli sorular ortaya çıkarmaktadır. Yapay zeka tanı sistemi bir hata yaptığında, bunun sorumluluğu kimdedir? Öneriyi uygulayan doktor mu? Programcı mı? Hastane mi?
Karar destek sistemlerini kullanan doktorların keşfettiği gibi, bir sistem "çoğunlukla doğru" olduğunda, operatörler rehavete kapılabilir, becerilerini kaybedebilir veya sınırlarını sorgulamadan sonuçları kabul edebilir.² Powell ve Donovan bu ikilemi çok iyi anlamışlardır.
Otomotiv sektörü, bu fenomenin belki de en somut örneğidir. Tesla, "kara kutu" yapay zeka tabanlı robot taksilere odaklanarak, yaratıcılarının bile tam olarak anlamadığı sistemlere her şeyi bahis ediyor.³ Gizemli ilkelerle uzay istasyonunu çalışır durumda tutan Cutie gibi, bu arabalar da yakında kararlarını nasıl aldıklarını tam olarak bilmeden bizi güvenle taşıyabilir.
2024 yılı yapay zekanın olgunlaştığı yıl olduysa, 2025 yılı radikal bir dönüşümün yılı olacağa benziyor. Uzmanlar, cesaretleriyle Asimov'u bile gülümsetecek değişiklikler öngörüyorlar.
AI fütüristi Ray Kurzweil, 2025 yılında chatbotlardan, sadece soruları yanıtlamakla kalmayıp karmaşık görevleri tamamlamak için bağımsız olarak hareket edebilen "ajan" sistemlere geçiş olacağını öngörüyor.⁴ Cutie'yi bin kat çoğaltın: takvimleri yöneten, yazılım yazan, sözleşmeleri müzakere eden AI ajanları, hepsi de bizim asla anlayamayacağımız iç mantıklarla hareket ediyor.
McKinsey, 2030 yılına kadar yapay zekanın günlük faaliyetlerimizin üç saatini otomatikleştirebileceğini ve böylece daha yaratıcı ve anlamlı faaliyetler için zaman kazanabileceğimizi tahmin ediyor.⁵ Ancak bu özgürlük bir bedeli olacak: giderek daha belirsiz ilkelere göre çalışan sistemlere güvenmek zorunda kalacağız.
OpenAI'den Sam Altman, Genel Yapay Zeka'nın (AGI) - tüm alanlarda insan zekasına eşit bir yapay zeka - 2027 yılına kadar ortaya çıkabileceğine inanan tek kişi değildir. Bazı senaryolar, 2027 yılına kadar AI'ların "tüm görevlerde tüm insanları gölgede bırakabileceğini" ve bunun benzeri görülmemiş bir evrimsel sıçrama olacağını öngörüyor.⁶
Bu senaryolar gerçekleşirse, Cutie ile olan paralellik daha da derinleşecek: sadece anlaşılmaz mantıklarla çalışan sistemlere sahip olmakla kalmayacak, bu sistemler ölçülebilir her açıdan bizden daha akıllı hale gelebilir.
Avrupa Birliği, AI'nın sorumlu bir şekilde uygulanmasının önemini vurgulayarak, önümüzdeki yıllarda yürürlüğe girecek olan AI Yasasını onayladı. Amerika Birleşik Devletleri'nde Adalet Bakanlığı, AI dahil olmak üzere yeni teknolojilerin oluşturduğu riskleri değerlendirmek için kılavuzlarını güncelledi.⁷
Ancak burada Asimov'un daha önce sezdiği bir paradoks ortaya çıkıyor: Tam olarak anlaşılmayan bir şeyi nasıl düzenleyebiliriz? Robotik Üç Yasası, Cutie için anlamlıydı, çünkü onu anlıyordu, çünkü temel mimarisine dahil edilmişti.
PwC, 2025 yılında bir grup endüstri liderinin AI sayesinde rakiplerinden ayrılmaya başlayacağını ve liderlerle geride kalanlar arasında giderek artan bir uçurum oluşacağını öngörüyor. Bu uçurum ekonomilere de yansıyacak: Nispeten esnek bir düzenleyici ortama sahip olan ABD'deki şirketler, daha katı düzenlemelere sahip olan AB ve Çin'deki şirketleri geride bırakabilir.⁸
Bu, Cutie paradoksunun modern versiyonudur: Anlamadığı zekalarla en iyi şekilde işbirliği yapabilenler, belirleyici bir rekabet avantajı elde edecektir.
Yaygın endişelerin aksine, Dünya Ekonomik Forumu, yapay zekanın yok edeceğinden daha fazla iş yaratacağını öngörüyor: 2030 yılına kadar 170 milyon yeni iş yaratılırken, 92 milyon iş ortadan kalkacak. Bununla birlikte, işgücünün %59'u 2030 yılına kadar yeniden eğitim ve öğretime ihtiyaç duyacak.⁹
Powell ve Donovan, Cutie istasyonu devraldığında işlerini kaybetmediler. Yeni bir rol öğrenmeleri gerekiyordu: kendilerinden daha iyi çalışan, ancak beklenmedik durumları yönetmek için hala onların varlığını gerektiren bir sistemin denetçileri olmak.
Giderek daha "ajan" bir geleceğe doğru ilerlerken, Asimov'un öyküsünden çıkarılacak dersler her zamankinden daha acil hale geliyor. Soru, tamamen anlayabileceğimiz bir yapay zeka yaratıp yaratamayacağımız değil - muhtemelen yaratamayacağız. Soru, Cutie gibi, bizim anlayamadığımız mantıklar izleseler bile hedeflerimizi takip eden sistemler tasarlayıp tasarlayamayacağımız.
Asimov'un peygamberlik dehası, gelişmiş yapay zekanın bilgisayarlarımızın güçlendirilmiş bir versiyonu olmayacağını, niteliksel olarak farklı bir şey olacağını, dünyayı kendi anlayış biçimleriyle algılayan zekalar olacağını anlamış olmasıdır.
Bugün, AI'nın yorumlanabilirliği ve kara kutuların riskleri hakkında tartışırken, esasen Powell, Donovan ve Cutie arasındaki konuşmayı yeniden yaşıyoruz. Ve belki de, onlar gibi, çözümün kendi mantığımızı dayatmak değil, karşılıklı anlayıştan ziyade ortak sonuçlara dayalı bir işbirliğini kabul etmek olduğunu keşfedeceğiz.
Bizi bekleyen gelecek, binlerce akıllı, verimli ve düşünce tarzları bakımından temelde yabancı olan dijital "Cutie"lerle dolu olabilir. Buradaki zorluk, Asimov'un uzay mühendislerinin 80 yıl önce hayali bir uzay istasyonunda öğrendikleri gibi, bu yeni dünyada başarılı olmanın yollarını bulmak olacaktır.
Bir dahaki sefere bir yapay zeka ile etkileşime girdiğinizde, Cutie'yi hatırlayın: o da haklı olduğuna emindi. Ve belki de, henüz anlayamadığımız bir şekilde, gerçekten haklıydı.
.svg)
.svg)
.svg)
