Yapay Zeka Kararları Manipüle Ediyor: Uzmanlardan “Niyet Ekonomisi” Uyarısı

Cambridge Üniversitesi’nden araştırmacılar, çevrim içi platformlarda kullanıcıların niyetlerini tahmin etmek ve bu niyetleri manipüle etmek amacıyla kullanılan yapay zeka sistemlerinin temelini oluşturan yeni bir dijital pazarı inceledi.

Bilim insanları, bu tür manipülasyonların dijital dünya üzerindeki özgür iradeyi tehdit edebileceğine ve bireylerin çevrim içi ortamda daha şuurlu bir şekilde hareket etmeleri gerektiğine dikkat çekti.

Bu pazara “niyet ekonomisi” deniyor ve şirketler, kullanıcıların gelecek planlarını, alışveriş alışkanlıklarını, siyasi görüşlerini ve psikolojik durumlarını analiz ederek bu bilgileri başka şirketlere satabiliyor.

Çalışmada, teknoloji devlerinin, kullanıcıların çevrim içi davranışlarını inceleyerek, otel konaklama planlarından, siyasi tercihlere kadar çeşitli kişisel datalarını topladığı belirtildi.

Araştırmacılar, bu dataların yapay zeka araçları tarafından analiz edilerek kullanıcıların karar verme süreçlerine etki edebileceğini vurguladı.

Özellikle, büyük dil modellerinin bu verileri gerçek zamanlı olarak işleyip, kullanıcılara gelecekteki seçimleriyle ilgili teklifler sunabileceği, hatta bu seçimleri manipüle edebileceği uyarısında bulunuldu.