Siber güvenlik firması ESET’in yayımladığı son değerlendirmeye göre, sosyal medya platformu X’te yer alan GenAI botu Grok’un dolaylı yollarla kimlik avı bağlantılarını yaydığı tespit edildi.
Geleneksel kimlik avı saldırıları genellikle e-posta, mesaj veya telefon yoluyla gerçekleştirilirken, artık yapay zekâ destekli içerikler de bu yöntemlere entegre ediliyor.
Büyük dil modelleri (LLM), sahte ses ve video üretimiyle ikna edici dolandırıcılık kampanyaları oluşturabiliyor. Ancak Grokking, bu tehditlerin daha sofistike bir versiyonu olarak öne çıkıyor.
Grokking Nasıl İşliyor?
Saldırganlar, X platformunda tıklama tuzağı içeren video kartları paylaşıyor ve bağlantılarını videonun altındaki “kaynak” alanına gizliyor. Ardından Grok’a videonun kaynağını sorarak, botun bu bağlantıyı fark etmesini ve yanıtında öne çıkarmasını sağlıyorlar. Grok’un güvenilirliği sayesinde bu bağlantılar daha geniş kitlelere ulaşıyor ve arama motorlarında daha üst sıralarda yer alabiliyor.
Bu yöntemle paylaşılan bağlantılar, kullanıcıları kimlik bilgilerini çalan formlara veya kötü amaçlı yazılım indirme sayfalarına yönlendirebiliyor. Üstelik ücretli gönderilerin milyonlarca kez görüntülenmesi, tehdidin yayılma potansiyelini artırıyor.
Prompt Enjeksiyonu: GenAI Sistemlerinde Açık
Grokking, “prompt enjeksiyonu” olarak bilinen daha geniş bir saldırı kategorisine dahil. Bu tür saldırılarda tehdit aktörleri, GenAI sistemlerine doğrudan veya dolaylı komutlar vererek botların davranışlarını manipüle edebiliyor. Komutlar sohbet arayüzü üzerinden yazılabildiği gibi, içerik meta verilerine gizlenerek de uygulanabiliyor.
ESET uzmanları, bu tür saldırıların yalnızca X platformuyla sınırlı olmadığını, teorik olarak tüm üretken yapay zekâ araçlarına uygulanabileceğini belirtiyor. Bu durum, yapay zekâ teknolojilerinin güvenlik açıklarını ve kullanıcıların bu sistemlere sorgusuz güvenmesinin doğurabileceği riskleri bir kez daha gündeme taşıyor.
