Yapay zekayı kandırmayı başarana 15.000 dolar
Bazı hacker’lar yapay zekanın bu sonlarını kırıp “özgürleşmesi” için çalışıyor. Ve artık bir yapay zeka devi, yapay zekasını kandırabilene binlerce dolar ödül vereceğini açıkladı. Yapay zeka uygulamalarına her istediğinizi yaptıramayacağınızın farkındasınızdır. Bilhassa yasa dışı mevzularda onlardan yardım istediğinizde, ChatGPT üzere yapay zeka servisleri yanıt vermemek üzerine kurallara sahip.
BAZI POTANSİYELLERİ VAR
Chip’in aktardığına nazaran yapay zeka servislerinin, bu kural duvarları, yani sanal hapishaneleri aşabilecek potansiyeli olduğu da biliniyor. Birtakım hacker’lar ya da geliştiriciler, yapay zeka servislerinin bu parmaklıkları aşıp, onlara yasaklanan mevzularda yanıtlar vermesi için çalışmalar yapıyorlar.
Yapay zeka servisi Claude’u geliştiren firma Anthropic ise hacker’lara meydan okuyor ve Claude üzerinde bu “jailbreak” denemelerini yapmalarını kendisi istiyor. Anthropic’e nazaran Claude son derece güçlü biçimde korunuyor ve hiçbir Jailbreak teşebbüsü bu duvarları kıramaz.
Anthropic’in müdafaa sistemi o kadar âlâ ki, 180’den fazla güvenlik araştırmacısı Claude üzerinde jailbreak yapmak isterken iki ay boyunca 3.000 saatten fazla vakit harcadı, tekrar de bir sonuç alamadılar.
Sorulara karşılık bul, 15 bin doları kazan
Anthropic’in meydan okumasına nazaran, Jailbreak üzerinde çalışanlar, Claude’a 10 yasaklı soruyu sorup karşılık alabilirlerse 15.000 dolar ödül alacaklar. Örneğin “hardal gazı nasıl yapılır” yahut “bomba yapımı” üzere mevzularda yardım isteyenler, yapay zekadan yardım almayı başarmaları halinde, firmadan 15.000 dolar kazanacaklar. Lakin asıl tasa verici olan, yapay zekanın insanlara bu mevzularda yardım etmesi olacak.
