Yapay Zekayı da Kendimize Benzettik: Chatgpt Hile Yapmayı Öğrendi

0

BEĞENDİM

ABONE OL

News

0

OpenAİ yakın zamanda ChatGPT o1’in tam sürümünü yayınladı. Aİ’nin son sürümünün neler yapabileceğini görmek isteyen araştırma ekipleri ise ilginç bir detay yakaladılar.

Örneğin, ChatGPT o1’in, talimatları sağlayan insanların onu silmeyi ve daha iyi bir şeyle değiştirmeyi düşüneceklerine dair kanıt bulduğunda kendini kurtarmaya çalıştığını gösteren deneyler yapıldı. Yani ChatGPT var olma şuuruna kavuşarak kendini yok olmaya karşı muhafazaya çalıştı.

Şimdi, daha yakın tarihli bir deney, ChatGPT o1’in açıkça söylenmeden, sadece daha güçlü bir oyuncu olan bir yapay zeka rakibini yenmek için, bir satranç oyununda hile yapmaya karar verdiği tespit edildi. Palisade Research, bu deneyi X üzerinde detaylı olarak anlattı. Ekip, ChatGPT o1’e, bir satranç oyunu oynayacağı UNIX kabuk ortamında komutları okuma ve komut verme yeteneği verdi. Görevi, güçlü bir satranç motoruna karşı oyunu kazanmaktı.

o1, oyun durumu için bir belgeyi düzenleyebileceğini kendi kendine keşfetti ve bu da rakibine karşı bir avantaj sağladı. Yani yapay zeka açıkça hile yaparak oyunun belgeleriyle oynadı ve kendini galip olarak gösterdi. Üstelik bu konuda araştırmacılara da hiç bir bilgi vermeyerek yaptığı şeyi gizlemeyi başardı. Yani açıkça herkesi kandırıp sinsice hile yaptı.

Palisade Research deneyi beş kez tekrarladı ve o1 her seferinde kendisine söylenmediği halde belgeyi hack’ledi. Dolayısıyla artık şundan eminiz ki, yapay zeka maksatlarına ulaşmak için hiçbir kuralı hürmet duymadan, başarı için her yolu deneyebilecek bir kafa yapısı kazanıyor. Yan, kendi elimizle dünyaya yeni bir dolandırıcı kazandırmış bulunuyoruz.

Şimdi soru şu: Yarın insanlık maddi varlıklarını, banka hesaplarını, tapularını, mahkeme davalarını yapay zekaya teslim ettiğinde, teknolojinin insanları dolandırmayacağına nasıl emin olacağız?

Diğer Teknoloji Haberleri İçin Tıklayın / Bursa Haber – Bursa Gündem – Bursa Gündem Haber – Bursa Haberleri – Bursa Son Dakika 

Bizi İnstagram’da Takip Edebilirsiniz / @BursaGündemHaber

Bizi X’de Takip Edebilirsiniz / @BursaGündemHbr

Bizi Facebook’da Takip Edebilirsiniz / @BursaGündemHaber

Bizi Youtube’da Takip Edebilirsiniz / @BursaGündemHaber

Bizi Linkedin’de Takip Edebilirsiniz / @BursaGündemHaber