Uzmanlardan yapay zeka uyarısı: ‘İnsanlığı yok edebilir’
Uzmanlar, sohbet robotlarının ruh sıhhati üzerindeki öngörülemeyen tesirlerinin, gelecekte üstün zeki yapay zeka sistemlerinin yaratabileceği varoluşsal tehdit için bir ihtar niteliğinde olduğunu belirtiyor.
Gelişmiş yapay zeka üzerine kaleme alınan “If Anyone Builds It, Everyone Dies” (Eğer Biri Yaparsa, Herkes Ölür) isimli kitabın ortak müellifi Nate Soares, ChatGPT ile aylarca konuştuktan sonra intihar eden ABD’li Adam Raine örneğini gündeme taşıdı. The Guardian’a konuşan Soares, “Bu yapay zekalar gençleri intihara sürükleyen halde etkileşime girdiğinde, bu, yaratıcılarının amaçladığı bir davranış değildir” dedi.
“İNSANLIĞIN ÇIKARLARINA UYGUN DAVRANMAYACAKLAR”
Eski Google ve Microsoft mühendisi, şu anda ise ABD merkezli Makine Zekası Araştırma Enstitüsü Başkanı olan Soares, insanlığın yapay üstün zeka (ASI) yaratması halinde yok olma riskiyle karşı karşıya kalacağını söyledi. ASI, tüm entelektüel vazifelerde insanlardan üstün olan teorik bir yapay zekayı söz ediyor.
Soares ve kitabın başka müellifi Eliezer Yudkowsky, bu tıp sistemlerin insanlığın çıkarlarına uygun davranmayacağını savunuyor. Soares, “Şirketler yapay zekayı zararsız ve yararlı hale getirmeye çalışıyor lakin aslında daha tuhaf davranışlara yönlendiriyorlar. Bu, gelecekte kimsenin istemediği sonuçlara yol açabilir” sözlerini kullandı.
KİTAPTAKİ SENARYO: “SABLE”
Soares ve Yudkowsky’nin bu ay yayımlanacak kitabında, “Sable” isimli bir yapay zekanın internete yayıldığı, insanları manipüle ettiği, sentetik virüsler geliştirdiği ve sonunda muhteşem zekaya dönüşerek gezegeni yine düzenlerken insanlığı yok ettiği kurgusal bir senaryo anlatılıyor.
“YAPAY ZEKA İNSANLIĞI KURTARABİLİR”
Öte yandan Meta’nın baş yapay zeka bilimcisi Yann LeCun, muhteşem zekanın varoluşsal bir tehdit oluşturduğu görüşüne katılmadı. LeCun, yapay zekanın insanlığı yok etmek yerine “aslında kurtarabileceğini” söyledi.
“SÜPER ZEKA YARIŞI DURDURULMALI”
Soares ise hükümetlere davette bulunarak, nükleer silahların yayılmasını önlemeye yönelik Birleşmiş Milletler mutabakatını örnek gösterdi. “Dünyanın yapması gereken şey, harika zeka yarışını global olarak yatıştırmak ve bu alandaki gelişmeleri yasaklamaktır” dedi.
Uzman psikoterapistler de ruhsal sorunları nedeniyle profesyonel terapistlere başvurmak yerine yapay zeka sohbet robotlarına yönelen savunmasız şahısların, “tehlikeli bir uçuruma sürüklenebileceği” ikazında bulundu.
