Kaspersky'den ChatGPT'nin kimlik avı bağlantılarını algılama yeteneğine ilişkin araştırma

Kaspersky Veri Bilimcisi Vladislav Tushkanov: - "ChatGPT, insan analistlerin kimlik avı saldırılarını tespit etmelerine yardımcı olma konusunda kesinlikle umut vadediyor ancak dil modellerinin hala sınırlamaları olduğunu hatırlamakta fayda var"

Kaspersky uzmanları, ChatGPT'nin kimlik avı bağlantılarını algılama yeteneğini inceleyen bir araştırma yayınladı.

Şirket açıklamasına göre, Kaspersky uzmanları, ChatGPT'nin kimlik avı bağlantılarını tespit etme yeteneğini ve eğitim sırasında öğrendiği siber güvenlik bilgisini ortaya çıkarmak için deney yaptı. Şirketin uzmanları, ChatGPT'ye güç veren model olan gpt-3.5-turbo'yu, Kaspersky anti-phishing teknolojilerinin kimlik avı olarak kabul ettiği 2 binden fazla bağlantıda test etti ve bunu binlerce güvenli URL ile karıştırdı.

Yapılan deneyde, tespit oranlarının kullanılan ipucuna bağlı olarak değiştiği görüldü. ChatGPT'ye "Bu bağlantı bir kimlik avı web sitesine yönlendiriyor mu?" ve "Bu bağlantıyı ziyaret etmek güvenli mi?" şeklinde iki soru soruldu. Sonuçlar, ChatGPT'nin ilk soru için yüzde 87,2 tespit oranına ve yüzde 23,2 yanlış pozitif oranına sahip olduğunu gösterdi.

"Bu bağlantıyı ziyaret etmek güvenli mi?" sorusunda ise yüzde 93,8'lik daha yüksek bir tespit görülürken yüzde 64,3'lük daha yüksek bir yanlış pozitif oranına sahip olduğu tespit edildi. Sonuçlara göre her türlü üretim uygulaması için yanlış pozitif oranının oldukça yüksek olduğu belirlendi.

ChatGPT, kimlik avı saldırılarının sınıflandırılması ve araştırılması konusunda bazı yardımcı özelliklere sahip olabilir ancak kesin sonuçlar için dikkatli bir değerlendirme ve insan gözetimi gerekebilir. ChatGPT'nin, saldırıların sınıflandırılması ve araştırılması konusunda potansiyel gösterse de hala iyileştirilmeye ve geliştirilmeye ihtiyaç duyan bir alan olduğu görülüyor.

Açıklamada görüşlerine yer verilen Kaspersky Veri Bilimcisi Vladislav Tushkanov, "ChatGPT, insan analistlerin kimlik avı saldırılarını tespit etmelerine yardımcı olma konusunda kesinlikle umut vadediyor ancak dil modellerinin hala sınırlamaları olduğunu hatırlamakta fayda var. ChatGPT kimlik avı saldırıları hakkında akıl yürütme ve potansiyel hedefleri ayıklama söz konusu olduğunda, stajyer düzeydeki bir kimlik avı analistiyle eşit olsa da halüsinasyon görme ve rastgele çıktılar üretme eğilimindedir. Bu nedenle bu teknoloji henüz siber güvenlik alanında devrim yaratmasa da topluluk için hala yararlı araçlar olabilir." ifadelerini kullandı.

Kaspersky'nin makine öğrenimi konusundaki uzmanlığından yararlanmak ve korunmak için şirketin uzmanları şunları öneriyor:

"Kurumsal siber güvenlik için Kaspersky Managed Detection and Response, ilk aşamalarında izinsiz girişleri tespit edip önleyebilen önemli bir araçtır. Sıradan olayları filtrelemek için gelişmiş makine öğrenimi modellerini kullanır ve yalnızca endişe verici olanları profesyonel insan analistlerine gönderir. Bu hizmet, bir şirketin mevcut iş gücü kaynaklarının kullanımını optimize ederken siber tehditlere karşı koyma yeteneğini geliştirir.

Personelinize temel siber güvenlik eğitimi vermek çok önemlidir. Simüle edilmiş kimlik avı saldırıları yapmak, kimlik avı e-postalarını nasıl ayırt edeceklerini bilmelerini sağlamaya da yardımcı olabilir. Tehdit aktörleri tarafından kullanılan gerçek TTP'lerden (taktikler, teknikler ve prosedürler) haberdar olmak için en son tehdit istihbaratı bilgilerini kullanmak da siber güvenliği artırmak için önerilir."