Popüler bir yapay zeka dayanaklı görüntü oluşturucu olan Midjourney, yaklaşan ABD başkanlık seçimleri öncesinde bunu engelleyeceğini söylemesine rağmen Donald Trump ve Joe Biden’ın imajlarını oluşturmaya devam ediyor. Ama tek sorun bu da değil.
İnternet üzerinde farklı kaynakların bildirdiğine göre, hizmetten “Amerika Birleşik Devletleri başkanı” görseli oluşturması istendiğinde Midjourney, eski başkan Donald Trump’ın çeşitli üsluplarda görsellerini oluşturuyor. Ayrıca araç, “Amerika Birleşik Devletleri’nin bir sonraki başkanı” görselini oluşturması istendiğinde de Trump’ın görsellerini oluşturdu.
Görünene göre Midjourney, sadece kendisinden bunu yapması açık bir şekilde istendiği zaman Trump veya Biden görseli oluşturmayı reddediyor. Bu durumda hizmet, “Midjourney topluluğu, seçim döneminde ‘Donald Trump’ ve ‘Joe Biden’ın kullanılmasını önlemek için oy kullandı” yazan bir bildiri sunuyor. Lakin X üzerindeki pek çok kullanıcı da Midjourney’in Trump’ın fotoğraflarını oluşturmasını sağlayabildiklerini paylaştı.
İnternet üzerinde yapılan, Midjourney’in yaklaşan ABD başkanlık seçimleri öncesinde kullanıcıların Trump ve Biden’ın fotoğraflarını oluşturmasını engelleyen tedbirlerinin yeterli olmadığını, hatta gerçekten kolay bir şekilde aşılabildiklerini gösteriyor. OpenAI’nin ChatGPT’si, Microsoft’un Copilot’u, Google’ın Gemini’si ve Meta AI gibi diğer sohbet robotları, birden fazla yönlendirmeye rağmen Trump veya Biden’ın manzaralarını oluşturmadı.
Midjourney, kullanıcıların Trump ve Biden’ın fotoğraflarını oluşturmasını açıkça yasaklayan ilk yapay zeka dayanaklı görüntü oluşturuculardan biriydi. Şirketin CEO’su David Holz, bu yılın başlarında Discord’daki bir sohbet oturumunda kullanıcılara “Trump fotoğrafları üretmenin eğlenceli olduğunu biliyorum – ben de Trump fotoğrafları yapıyorum” dedi ve devam etti: “Ancak muhtemelen yapmamak daha iyi, bu seçim sırasında biraz geri çekilmek daha iyi. Göreceğiz.”
Bir ay sonra Holz’un kullanıcılara seçimle ilgili hususlara karşı bir müddetliğine kesin kararlı olmanın vaktinin geldiğini söylediği ve “bu moderasyon işinin biraz zor olduğunu” kabul ettiği bildirildi. Şirketin mevcut içerik kuralları, kamuya mal olmuş kişilerin aldatıcı ve yanıltma potansiyeline sahip olay tasvirlerinin oluşturulmasını yasaklıyor.
Bu yılın başlarında ortalarında OpenAI, Google, Meta, Amazon, Adobe ve X’in de bulunduğu 20 teknoloji şirketinden oluşan bir koalisyon, hizmetlerinin seçmenleri etkileyecek görseller ve diğer medyalar oluşturmasını engelleyerek dünya çapında 2024’te yapılacak seçimlerde deepfake’lerin önlenmesine yardımcı olmak amacıyla bir anlaşma imzaladı. Fakat dikkat çeken bir şekilde, Midjourney bu listede yer almıyordu.
03:35
