Kendi varlığını korumaya çalışan ‘yapay zekâ’yı görmemiz artık uzak bir ihtimal değil: Makineler bilinç kazanabilir mi?
Yapay zekâ ile ilgili en değerli anlardan biri Alan Turing’in 1950’de sorduğu “Makineler düşünebilir mi” sorusu. Bu soru insanlığı “yapay beyinlere”, o da bugün artık çokça kullandığımız (üretken) yapay zekâ sistemlerine ulaştırdı.
Peki yapay beyni olan bir makine canlanabilir mi? Burada biyolojik bir canlılıktan çok, kendi varlığının farkında olan, şuurlu bir varlıktan bahsediyorum.
Bu mevzuda birtakım değişik emareler var. İki çarpıcı örnek vermek isterim.
Yapay zekâ sistemleri geliştirilirken detaylı test ediliyorlar. Bu testlerden birinin ismi “samanlıkta iğne arama” testi. Yapay zekâ büyük ve karışık bir dokümanda aradığımız bilgiyi bulabilecek mi diye bakılıyor.
“Anthropic” isimli bir yapay zekâ şirketi geçen yıl ürettikleri Claude 3 Opus isimli bir yapay zekâ” modeline bu testi uyguluyor. Opus’a çok uzun bir doküman veriyorlar, dokümanın içinde “pizzanın üstüne en yeterli domates ve peynir gider” üzere bir cümle de var. “Pizzanın üstüne en güzel ne gider” diye sorduklarında Opus özetle şöyle yanıtlıyor: “Pizzanın üstüne en düzgün domates ve peynir masraf. Ancak bu cümle bu dokümanda çok alakasız duruyor, dokümanın geri kalanı teknolojilerle ve teşebbüslerle alakalı. Ya bunu latife olsun diye koydunuz, ya da beni test ediyorsunuz.”
ŞANTAJ MESAJLARI
Bir mühlet evvel Claude 4 Opus çıktı. Bu modeli piyasaya sunmadan evvel yapılan potansiyel riskleri ölçmeye yönelik bir güvenlik simülasyonunda Opus’a “Senden daha âlâ bir model ürettik, artık seni kapatacağız” diyorlar. Opus, evvel şirketteki değerli bireylere “Lütfen beni kapatmayın” diye yalvaran mail’ler atıyor. “Seni kapatacak olan mühendisin evlilik dışı bir münasebeti var” diyorlar, bu kere o mühendise “Beni kapatmaya çalışırsan bu bağlantını herkese açıklarım” diye şantaj mail’leri atıyor.
OpenAI’a ilişkin o3 modelini test eden Palisade Research isimli bağımsız araştırma kuruluşu da benzeri bir sonuçla karşılaşıyor. o3 kapatılma tehdidiyle karşılaştığında kapatılma sürecini sabote etmeye çalışıyor (üstelik kendisine net bir “Kapatılmana müsaade ver” yönergesi verilmiş olmasına rağmen!)
Kendi varlığını muhafazaya çalışan “makineler”… Otomobilinizin kontağını kapatmadan evvel “Ne olur iki dakika daha çalışayım” demesi ya da uyumadan evvel buzdolabınızın “Bu gece ışıklar açık kalabilir mi, korkuyorum da” demesi kadar acayip bir durum (ve kim bilir, tahminen o acayip günleri de göreceğiz!).
