İsmail Şahin – Son 2 yıldır bir yapay zeka (YZ) furyasıdır gidiyor. Bilgisayarınıza indiriyorsunuz veya daha ileri düzeyde bir şey istiyorsanız aylık 20 dolar (yaklaşık 650 TL) veriyorsunuz, size saniyeler içinde kod yazabiliyor, ödevinizi yapabiliyor, istediğiniz her alanda, istediğiniz her konuda, istediğiniz uzunlukta, istediğiniz lisanda bir metin üretebiliyor. Fotoğraflardan sanat yapıtı çıkartabiliyor, istediğiniz sesi taklit edebiliyor, haber, hatta müzik yazdırıp besteletebiliyorsunuz.
ChatGPT’nin yaratıcısı OpenAI gibi şirketler son bir yıl katlanarak büyüyerek pahasını 80 milyar dolara çıkardı. Bu YZ’lerde kullanılan çipler ise Nvidia’yı 3 trilyon doları aşarak dünyanın en değerli ikinci şirketi pozisyonuna yükseltti. Herkes YZ’nin büyüsüne odaklanıyor ama kimse, bu teknolojinin yuttuğu enerji kaynaklarından bahsetmiyor.
Aslında her YZ modeli farklı ama, genel manasında şu prensipte çalışıyor. Yapay zeka şirketleri internetteki ve dijital olan bütün bilgileri indiriyorlar, sosyal medya, wikipedia, açık kaynaklar, kütüphaneler, gazete arşivleri ne varsa. YZ modeli bu verileri paralel işlem yapabilen çok büyük bilgisayar tarlalarında binlerce ekran kartıyla eğitiliyor. Bütün yazıları sayısal bilgiye çeviriyor ve bütün yazıları en anlamlı şekilde cevap vermeye çalışıyor. Siz burada bir arama yaptığınızda kelime kelime cevap veriyor bir sonraki kelimeyi tahmin ediyor, matematiksel cebir işlemi var. Çok karmaşık bir hesapla bir sonraki cümyeli yazıyor.
Her yıl katlanıyor
Her şirket kendi yapay zekasını geliştiriyor, bu da her bir şirketin bütün kaynakları tekrar tekrar taradığını gösteriyor. Yani aynı iş için yeniden çok yüklü ölçülerde enerji harcanıyor. Bu da her yıl yapay zekanın enerji ihtiyacını yüzde 26 ila yüzde 36 oranında artmasına neden oluyor.
Elektrik Gücü Araştırma Enstitüsü (EPRI) tarafından yayınlanan yeni bir rapora göre, sırf ABD’de, gelişmiş YZ modellerine güç sağlamakla görevli veri merkezlerinden gelen elektrik talebinin küresel olarak 2026 yılına kadar 1.000 TWh’ye ulaşabileceğini tahmin ediyor. Bu sayı 2022 düzeylerinin iki katı ve Almanya’nın toplam elektrik talebine eşdeğer.
Yapılan akademik araştırmalara göre sadece OpenAI şirketinin yapay zeka dil öğrenme modeli ChatGPT’nin eğitimi sırasında 1300 MWh enerji harcanmış. 2024 yılı datalarına göre şu anda dünyada
67.200 firma yapay zeka geliştiriyor. Bunun yanı sıra Türkiye gibi bazı hükümetler de kendi yapay zekalarını geliştirmek için teşebbüs yapıyorlar. Bu kadar büyük enerjiyi yapay zeka şirketlerinin teknoloji tarlalarındaki GPU yani işlemciler sömürüyor. Kısa bir süre önce piyasa değeri 3 trilyon doları aşan Nvidia’nın GPU’ları dalın yüzde 95’ini domine ediyor. Nvidia’nın yapay zeka eğitiminde kullanılan H100 ve A100 tipi CPU’larının her biri 300 watt güç harcıyor. ChatGPT3’ün eğitiminde bu GPU’lardan 2500 adet kullanıldı. Nvidia bu GPU’lardan 2 milyon adet sattı ve bu yıl içinde de 3.5 milyon adete ulaşmayı hedefliyor. Elon Musk geliştirdiği Grok modeli için kuracağı süper bilgisayarda bu B200 modeli daha gelişmiş GPU’lardan 300.000 adet kullanacağını açıkladı.
Soğutmak da yüzde 40 enerji harcıyor
Tüm bunların yanı sıra, devasa GPU tarlalarının verimli çalışabilmeleri için soğutma gücüne ihtiyaç var. Soğutma yapay zekanın harcadığı gücün yüzde 40’ını oluşturuyor. Varsayımlar, yapay zekanın enerji taleplerini karşılamak için ekseriyetle fosil yakıtlara dayanan yeni enerji santrallerine ihtiyaç duyulacağını gösteriyor. Enerji sağlayıcıları, bu enerji taleplerinin karşılanmasını sağlamak için şimdiden yeni enerji santrallerini devreye sokmak için tez ediyor. Goldman Sachs forestate, bu talepleri karşılamak için kullanılan gücün yüzde 60 civarında yenilenemeyen kaynaklardan geleceğini tahmin ediyor.
Enerji şirketleriyle teğe bir anlaşma
YZ için teknoloji devleri 142.3 milyar dolar enerji anlaşması yaptılar. Bu muahedeleri yaparken devasa karbon ayak izlerini de gizleyebilmek için yenilenebilir güce yönelerek tenkit oklarına karşı tedbir alıyorlar. Microsoft geçtiğimiz martta Brookfield şirketi ile 10 milyar dolara 10.5 GW’lık anlaşma imzaladı. Amazon ABD’de 12,4 GW pak enerji sözleşmesi yaparken, Meta 8,7 GW ve Google 6,2 GW sözleşme yaptı. ABD’de veri merkezlerinin elektrik talebini karşılamak için 20 doğalgaz santrali devreye girecek.
Su da harcıyor
Yapay zeka için kullanılan işlemcilerin soğutulmasında aynı zamanda su da kullanılıyor. Bu veri merkezlerinde kullanılan kWh enerji başına 9 litreye kadar su kullanılıyor. Yapay zekaya sorulan her 25 soruda veri sisteminin soğutulması için yarım litreye yakın su tüketiliyor.
Günde 1 milyon dolarlık enerji
İş bununla da kalmıyor. YZ’yi eğittikten sonra işin ‘çıkarım’ etabı var. Yani onu kullanma basamağı. Yapılan hesaplamalara göre bir YZ’nin eğitimi tükettiği gücün yüzde 20’sini kapsıyor. 88 farklı dil modeli üzerinde yapılan testlerde, her 1000 aramanın 0.002 kWh ve metin oluşturmanın ise 0.047 kWh enerji harcadığı tespit edildi. Görüntü oluşturmak ise 1000 çıkarım başına 2.907 kWh olarak gerçekleşti. Ortalama bir akıllı telefonu şarj edebilmek için 0.012 kWh enerji kullanılıyor. Yani yapay zeka kullanarak bir görüntü oluşturmak neredeyse bir akıllı telefonu şarj etmek kadar enerji harcıyor.
Çözüm uzayda
Sadece ChatGPT’nin 13 milyon aktif günlük kullanıcısı var. Bunlar günde ortalama 15 çıkarım yapıyorlar. Yani günde ChatGPT üzerinden 195 milyon çıkarım yapılıyor. ChatGPT’de bir çıkarım, Google’daki ortadan 10 kat fazla enerji harcıyor. OpenAI bu kadar çıkarım talebine yetişebilmek için 3617 adet HGX A100 sunucusuna ihtiyaç duyuyor. Her sunucu 3000 Watt enerji tüketiyor. Hesaplamalara göre ChatGPT günde 260.42 MWh enerjiyi şebekeden çekiyor. Bu da günlük enerji sarfiyatının 1 milyon dolar olduğunu gösteriyor. Çıkarımsama evresi YZ’nin harcadığı gücün yüzde 40’ını oluşturuyor.
SAYILARLA YAPAY ZEKA
■ 20.000 firma yapay zeka uzmanı arıyor. Diploma dahi istemiyor.
■ Her 1000 çıkarım 0.002 kWh enerji harcıyor
■ Her 1000 metin oluşturma 0.047 kWh enerji harcıyor.
■ Her 1000 görüntü oluşturmak 2.907 kWh enerji harcıyor.
■ Nvidia’nın yapay zeka çipi 300 watt enerji harcıyor
■ Nvidia’nın H100 GPU’su toptan 24 bin dolara satılıyor.
■ Nvidia’nın B200 GPU’su 30 ila 40 bin dolar.
■ Meta bu yıl 600.000 H100 GPU satın alacak
■ ChatGPT 175 milyar parametre ile eğitildi.
■ GPT-3’ü eğitmek için 1.300 MWh elektrik kullanıldı. Bu da Konya Karapınar’da bululan Avrupa’nın en büyük güneş enerji santrali Kalyon GES’in kapasitesine eşdeğer.
■ ChatGPT ortalama bir ABD hanesinden 17.000 kat daha fazla elektrik kullanıyor.
■ Her gün ChatGPT’de 195 milyon çıkarım yapılıyor
■ Dünya genelinde 67.200 firma yapay zeka geliştiriyor.
■ Dünya genelinde 333.000’den fazla firma yapay zeka kullanıyor.
13:13
