Yapay Zekayla Kimlik Avına Tedbir: Araştırmacılar Yeni Yazılım Geliştirdi

Arlington’daki Texas Üniversitesi’nden bir grup araştırmacı, yapay zeka sohbet robotlarının kimlik avı web siteleri oluşturmasını önleyecek bir yazılım geliştirdi.

Bu yazılım sayesinde siber hatalıların dolandırıcılık yapmak için yapay zeka kullanımının engellenmesi hedefleniyor.

Yazılım, Texas Üniversitesi’nde Bilgisayar Bilimi ve Mühendisliği Kısmı’nda yardımcı doçent olarak görev yapan Shirin Nilizadeh ile doktora öğrencileri Sayak Saha Roy ve Poojitha Thota tarafından geliştirildi.

Bu araç, yapay zekalı sohbet robotlarının kimlik avı siteleri oluşturmak için kullanılabilecek kullanıcı talimatlarını tespit etme ve engelleme hünerini geliştiriyor.

YAPAY ZEKA KİMLİK AVI SALDIRILARI OLUŞTURABİLİR

ChatGPT gibi yapay zeka sohbet robotları bazı yerleşik tespit yeteneklerine sahip olsa da, Nilizadeh’in ekibi kimlik avı saldırıları oluşturmak için kullanılabilecek boşluklar olduğunu keşfetti.

Yapay zeka sohbet robotlarının yükselişiyle birlikte, yapay zeka hızlı bir şekilde web siteleri oluşturabildiğinden, teknik marifetleri olmayanlar için bile çevrimiçi dolandırıcılık oluşturmak daha kolay hale geldi.

KÖTÜ AMAÇLI İSTEMLERİ TESPİT EDİP ENGELLEME YETENEĞİ GELİŞTİRİLDİ

Saha Roy, yazılımlarını oluşturmak için grubun ilk olarak kimlik avı web siteleri oluşturmak için kullanılabilecek çeşitli istemleri belirlediğini söyledi.

Bu bilgileri kullanarak, yazılımlarını bu makul anahtar sözleri ve kalıpları tanıyacak ve bunlara karşılık verecek şekilde eğittiler ve kötü amaçlı istemleri tespit etme ve engelleme yeteneğini geliştirdiler.