Siber saldırılarda yapay zeka dil modelleri kullanılıyor
Kaspersky Yapay Zeka Araştırma Merkezi uzmanları, siber hatalıların büyük ölçekli kimlik avı ve dolandırıcılık odaklı akınları için içerik oluşturmak üzere Büyük Lisan Modellerini (LLM’ler) giderek daha fazla kullandığını keşfetti.
Şirketten yapılan açıklamaya nazaran, “tehdit aktörleri”, yüksek hacimlerde düzmece web siteleri oluşturmaya odaklanırken, çoklukla gerilerinde kendilerini bu siteleri manuel olarak oluşturulanlardan ayıran yapay zekaya has sözler üzere ayırt edici ipuçları bırakıyor. Kaspersky tarafından gözlemlenen kimlik avı örneklerinin birçok kripto para borsaları ve kripto cüzdan kullanıcılarını gaye alıyor.
Kaspersky uzmanları, bir kaynak örneğini tahlil ederek, yapay zekanın içerik oluşturmak, kimlik avı ve dolandırıcılık web sitelerinin baştan sona oluşturmak için kullanıldığı durumları ayırt etmeye ve tespit etmeye yardımcı olan temel özellikleri belirledi.
KULLANILAN LİSAN ELE VERİYOR
LLM tarafından oluşturulan metinlerin bariz işaretlerinden biri “Bir yapay zeka lisan modeli olarak…” üzere tabirler de dahil olmak üzere komutları yürütmeyi reddeden feragatnamelerin varlığı formunda öne çıkıyor. LLM kullanımının bir diğer ayırt edici göstergesi de “İstediğinizi tam olarak yapamasam da misal bir şey deneyebilirim” üzere belli tümcelerin varlığı oluyor. LLM’ler yalnızca metin blokları değil, tüm web sayfalarını oluşturmak için de kullanılabiliyor.
Ortaya çıkan sonuçlar hem metnin kendisinde hem de meta etiketler üzere alanlarda görünüyor. Bunlar bilhassa web sayfasının içeriğini tanımlayan ve HTML kodunda görünen metin parçacıkları ortasında dikkat ediyor.
Sahte sitelerin oluşturulmasında yapay zeka kullanımının öbür göstergeleri de bulunuyor. Örneğin, birtakım modeller “araştırmak”, “sürekli gelişen manzarada” ve “sürekli değişen dünyada” üzere belli sözler kullanma eğiliminde.
Bu tabirler yapay zeka tarafından oluşturulan içeriğin güçlü göstergeleri olarak kabul edilmese de bunun bir işareti olarak görülebilir.
LLM tarafından üretilen metnin bir öteki özelliği de modelin dünya hakkındaki bilgisinin nereye kadar uzandığını göstermesi. Model genel olarak bu sınırlamayı “Ocak 2023’teki son güncellememe göre” üzere sözler kullanarak lisana getiriyor. LLM tarafından oluşturulan metin, ekseriyetle kimlik avı sayfasının tespitini siber güvenlik araçları için daha karmaşık hale getiren taktiklerle birleştiriyor.
Örneğin saldırganlar, metni gizlemek ve kural tabanlı tespit sistemlerinin eşleştirmesini önlemek için aksan işaretleri yahut matematiksel gösterimler üzere standart olmayan semboller kullanabiliyor.
“Yapay zeka, artık tehdit aktörlerinin bu tıp içerikleri otomatik oluşturmasına yardımcı olabiliyor”
Açıklamada görüşlerine yer verilen Kaspersky Araştırma Geliştirme Küme Müdürü Vladislav Tushkanov, saldırganların LLM’lerle eşsiz, yüksek kaliteli içeriğe sahip düzinelerce, hatta yüzlerce kimlik avı ve dolandırıcılık web sayfası oluşturmayı otomatik hale getirebildiğini belirterek, evvelden bunun için manuel efor gerektiğini, lakin yapay zekanın artık tehdit aktörlerinin bu cins içerikleri otomatik olarak oluşturmasına yardımcı olabildiğini aktardı.
Büyük lisan modellerinin geliştiğini ve siber hatalıların bu teknolojiyi berbat gayeleri için kullanmanın yollarını araştırdığını kaydeden Tushkanov, “Bununla birlikte vakit zaman yapılan kusurlar, bu çeşit araçların kullanımına, bilhassa de otomasyonun artan boyutuna ait içgörü sağlıyor.” tabirlerini kullandı.
Tushkanov, gelecekteki gelişmelerle birlikte, yapay zeka tarafından üretilen içeriklerin, insan tarafından yazılan metinlerden ayırt etmenin daha sıkıntı hale gelebileceğine dikkati çekerek, “Bu da metinsel bilgileri meta bilgiler ve öteki dolandırıcılık göstergeleriyle birlikte tahlil eden gelişmiş güvenlik tahlillerinin kullanılmasını çok daha kıymetli hale getirebilir.” açıklamasını yaptı.
