OPENAİ’dan Uyarı: Sesli Mod Duygusal Bağımlılığa Neden Olabilir!

Merkezi ABD’de bulunan OpenAİ şirketi, bazı kullanıcıların, yapay zeka modeli ChatGPT’nin gerçekçi seslendirme özelliğine duygusal olarak bağımlı hale gelebileceği konusunda uyardı.

Şirketin internet sitesinden yapılan açıklamada, ChatGPT ve yapay zeka modeliyle sohbet etmek için sunulan seslendirme seçeneği üzerinde yürütülen güvenlik çalışmalarına ilişkin ayrıntılara yer verildi.

GERÇEKÇİ VE DOĞAL SES BAĞIMLILIĞA YOL AÇABİLİR

Yürütülen ilk incelemeler sonucu, seslendirme seçeneğinin, girdilere verdiği 232 milisaniyelik karşılık müddetinin ortalama bir insanın konuşma sırasındaki tepki mühletine hayli yakın olduğu belirtilen açıklamada, kullanıcıların, gerçekçi ve doğal olması nedeniyle bu teknolojiyle duygusal bağ kurduklarını gösteren bir dil kullandıkları kaydedildi.

Açıklamada, yapay zeka modelinin seslendirme özelliğiyle kurulan duygusal bağın bağımlılığa yol açabileceği konusunda ihtarda bulunuldu.

YENİ RİSKLER SUNUYOR

Sesli Modun, yalnız bireylere yarar sağlayabileceği ancak insan bağlantılarını etkileyebileceği ifade edilen açıklamada, söz konusu özelliğin, aralarında yetkisiz ses üretiminin de bulunduğu yeni riskler sunduğu da aktarıldı.

Açıklamada, teknolojinin kullanıcılar için vazifeleri tamamlama ve konuşmalarla ilgili detayları hatırlama yeteneğinin aşırı güven ve bağımlılık yaratabileceği kaydedildi.