TBMM Yapay zekâ Araştırma Komitesi toplantısında sunum yapan ABD merkezli Yapay Zekâ ve Dijital Politika Merkezi Başkanı Merve Hickok, “Yapay zekâ sistemleri; kadınlara, yaşlılara, engellilere, etnik ve dini azınlıklara karşı daha ön yargılı ve negatif kararlar veriyor. Yapay zekâ sistemleri, yüz tanıma sistemleri koyu derili insanlar için hala büyük kusurlar yapmaya eğilimli ve bu durum anlaşılmadığı için güvenlik kuvvetleri tarafından kullanıldığında insanların haksız yere tutuklanmasına yol açabiliyor. Denetimli ve güvenli olmadan kullanılan yapay zekâ sistemleri hasta tedavilerinde önemli teşhis farklarına yol açabiliyor” dedi.
ABD merkezli Yapay zekâ ve Dijital Politika Merkezi Başkanı Merve Hickok, TBMM Yapay zekâ Araştırma Komitesi toplantısında sunum yaptı. Hickok, yapay zekâ sistemlerinin insan hayatının her alanına dokunduğunu ve sistemlerin yasal çerçeveye uymaları gerektiğini söyledi. Hickok şöyle konuştu:
“Yapay zekânın vaatlerinden hepimiz yararlanmak istiyoruz; ama bunun için sistemi doğru anlamamız gerekiyor. Bunun neden önemli olduğunu göstermek için son birkaç yıldır öne çıkan manşetleri bir araya getirdim. Mesela yapay zekâ sistemleri; kadınlara, yaşlılara, engellilere, etnik ve dini azınlıklara karşı daha ön yargılı ve negatif kararlar veriyor. Yapay zekâ sistemleri, yüz tanıma sistemleri koyu ciltli insanlar için hala büyük yanılgılar yapmaya eğilimli ve bu durum anlaşılmadığı için güvenlik kuvvetleri tarafından kullanıldığında insanların haksız yere tutuklanmasına yol açabiliyor. Denetimli ve güvenli olmadan kullanılan yapay zekâ sistemleri hasta tedavilerinde önemli teşhis farklarına yol açabiliyor. Devletlerin kullandığı bazı yapay zekâ sistemleri insanların hayatlarını altüst edebiliyor. Bunun bir örneği Hollanda’da yaşandı. Hollanda Vergi Kurumu tarafından kullanılan bir algoritma binlerce insanı, tartıyla göçmenleri yanlışlıkla vergi kaçakçısı olarak işaretledi. Binlerce insan bu nedenle iflas etti, aileleri parçalandı ve bu skandal sonunda Hollanda Hükümetinin de istifasına kadar gitti. Benzer skandalları ABD, Avustralya, İsveç ve Fransa’nın kamu kurumlarında da görüyoruz.”
“Yapay zekâ şuurunun olmayacağını düşünüyorum”
Hickok, üretken yapay zekâ sistemlerine bakmak gerektiğini söyleyerek şu değerlendirmede bulundu:
“Mesela ChatGPT kullanıyorsanız ve bir soru soruyorsunuz, size verdiği cevap aslında sorunuzu anladığı için değil ya da verdiği karşılığın sorumluluğunu, nüansını, konunun genel manasını anladığı için değil; aslında arka planda verdiği cevap, bir sonraki kelimeyi nasıl tahmin ederim. Cümleyi çok hızlı bir şekilde oluşturuyor; ama arka planda yaptığı, o cümleyi oluşturacak sözlere karar vermek. Örneğin, ‘Bugün hava güzel’ dediğinde, ‘Bugün’ sözünü kullandıktan sonra, ‘Hava’ sözünü, sonra, ‘Güzel’ sözünü tek tek tahmin ederek yapıyor. Sistem verdiği yanıtın manasını, sonuçlarını ya da konunun genel manasını biz insanlar gibi anlayabilecek bir noktada değil. Halihazırdaki en gelişmiş yapay zekâ mimarisi; OpenAl, DeepSeek, Claude tüm bunların hepsi benzer teknolojileri kullanıyor ve bir sonraki kelimeyi tahmin ediyorlar. O yüzden şuurları yok; ama çok hızlı bir şekilde cevap verdikleri için ve büyük veri setlerini kullandıkları için anlıyormuş gibi cevap veriyorlar. Çok önemli kapasiteye sahipler; ama ben şahsen yapay zekânın, şu andaki mimariyle, teknik yaklaşımlarıyla şuurunun olmayacağını düşünüyorum.”
“Bu sistemler yasaklansın”
Bazı yapay zekâ sistemlerinin yasaklanması gerektiğini aktaran Hickok, bu sistemlerin; insanların yüz, göz, parmak, yürüyüş hali veya politik, sosyoekonomik, dini ya da kimlikleri ile ilgili kararlar verebildiğini kaydetti. Hickok şöyle konuştu:
“Bunun en bilinen uygulaması Çin’in Uygur vatandaşları üzerinde kullandığı, ‘Biometric categorisation’ sistemleri. Yüz ve hareket verilerine bakarak, ‘Uygur mudur değil midir’, ‘Tehlikeli midir değil midir’, ‘Çin’e karşı mıdır değil midir’, ‘Politik niyeti nedir’ gibi, bu stil kararlar veren sistemler var. Biz bunun yasaklanması gereken bir sistem olduğunu düşünüyoruz. Benzer şekilde, ‘Emotion analysis’ dediğimiz; yüz ve fizikî bilgilerinize bakarak sonlu misiniz, agresif misiniz, mutlu musunuz, aklınıza gelebilecek herhangi bir duyguyu analiz etmeye çalışan sistemler var. Her iki sistem, bilimsel bazlı olmayan sistemler. Tamamen şirketlerin ya da devletlerin kötü niyetle kullanılabileceği, insanları baskı altında tutmak için kullanabileceği sistemler. Mesela biz yıllardır, ‘Bu sistemler yasaklansın’ diyoruz. Avrupa Birliği, bu iki sistemi yasakladı ve önemli şekilde engelledi. Benzer şekilde, Birleşmiş Milletler Eğitim, Bilim ve Kültür Teşkilatı (UNESCO) tavsiyelerine baktığımızda aynı yasaklar öne plana çıkıyor. Eğer 4-5 sene önce bize, ‘Yasaklar hakkında uluslararası bir konsensüs olacak mı?’ diye sorsaydınız, ‘Hayır’ derdik; ama insanlar yapay zekâ sistemlerinin negatif etkilerini, şirketlerin ve bazı ülkelerin bunları nasıl kötü amaçlı kullanabileceğini görüyor. O yüzden, şimdi bu yasaklarla ilgili daha fazla ortak anlayış var.” (DHA)
Diğer Güncel Haberler İçin Tıklayın / Bursa Haber – Bursa Gündem – Bursa Gündem Haber – Bursa Haberleri – Bursa Son Dakika
Bizi İnstagram’da Takip Edebilirsiniz / @BursaGündemHaber
Bizi X’de Takip Edebilirsiniz / @BursaGündemHbr
Bizi Facebook’da Takip Edebilirsiniz / @BursaGündemHaber
Bizi Youtube’da Takip Edebilirsiniz / @BursaGündemHaber
Bizi Linkedin’de Takip Edebilirsiniz / @BursaGündemHaber
02:00
News
Teknoloji
Teknoloji
Teknoloji
Teknoloji
Teknoloji
Teknoloji
