Yapay Zekâ Ne Kadar Elektrik Tüketiyor? İşte Detaylar

Yapay zekâ modellerinin büyük miktarda enerji tüketmesi, yaygın olarak bilinen bir gerçektir. Örneğin, e-posta özetlerini, sohbet botlarını ve çeşitli görevleri gerçekleştiren AI sistemleri, sunucu faturalarını megavat saat cinsinden oldukça artırıyor gibi görünmektedir. Ancak, bu teknolojinin maliyetinin tam olarak ne olduğunu belirlemek, hatta bunun arkasındaki şirketlerin bile zorlandığı bir konudur.

İlginizi Çekebilir: Akıllı Telefon Kullanıcıları için Önemli Konu: VPN

Yapay Zekâ İle İlgili Mevcut Araştırmalar Nelerdir?

Tahminler mevcut olsa da uzmanlar bu rakamların kısmi ve koşullu olduğunu söylüyorlar. Sadece yapay zekâ nın toplam enerji tüketiminin bir bakışını sunuyorlar. Bunun nedeni, makine öğrenme modellerinin son derece değişken olmasıdır; bunlar, güç tüketimini dramatik bir şekilde değiştirebilecek şekillerde yapılandırılabilir. Dahası, faturalandırma yapmak için en uygun yerde olan şirketler (Meta, Microsoft ve OpenAI gibi şirketler) ile ilgili bilgileri paylaşmıyorlar. Microsoft'un bulut işlemleri ve yeniliklerinde CTO olan Judy Priest, şirketin şu anda "AI'nın enerji kullanımını ve karbon etkisini nicelendirmek için metodolojiler geliştirmeye yatırım yaptığını açıkladı. Hem eğitimde hem de uygulamada büyük sistemleri daha verimli hale getirmenin yollarını araştırdığını belirtti”.

Önemli bir nokta, bir yapay zekâ modelini ilk kez eğitmekle ve ardından kullanıcılara dağıtmak arasındaki farktır. Özellikle eğitim aşaması, geleneksel veri merkezi faaliyetlerinden çok daha fazla elektrik tüketir. Örneğin, GPT-3 gibi büyük bir AI dil modelini eğitmek, yaklaşık olarak 130 ABD evinin yıllık tüketimine denk gelen 1.300 megavat saat (MWh) elektrik tüketir. Bu, bir saatlik Netflix yayını izlemek için gereken 0.8 kWh (0.0008 MWh) elektriğe kıyasla oldukça yüksektir. Bu modeli eğitmek için gereken enerji miktarını elde etmek için yaklaşık 1.625.000 saatlik Netflix izlemesi gerektiğini düşünebiliriz.

Şirketlerin Zekâ Modellerine Dair Bazı Detaylar:

Ancak, bir figürün bu türden güncel sistemlere nasıl uygulandığını söylemek zordur. Enerji tüketimi daha büyük modeller için daha fazla olabilir çünkü AI modelleri yıllardır sürekli olarak boyut olarak artmaktadır. Yapay zekâ için daha büyük modeller daha fazla enerji gerektirir. Öte yandan, şirketlerin bu enerji sistemlerini daha verimli hale getirmek için kanıtlanmış yöntemlerden bazılarını kullanıyor olmaları da olasıdır. Bu da enerji maliyetlerinin yükseliş eğilimini sınırlayabilir.

Fransız-Amerikan yapay zekâ firması Hugging Face'de araştırmacı olan Sasha Luccioni'nin belirttiği gibi, güncel tahminlerin zorluğu, şirketlerin yapay zekâ nın kârlı hale gelmesiyle birlikte daha gizli hale gelmiştir. Birkaç yıl öncesine gidin ve OpenAI gibi firmalar eğitim rejimlerinin ayrıntılarını hangi donanım ve ne kadar süreyle yayınlardı. Ancak aynı bilgi, ChatGPT ve GPT-4 gibi en son modeller için mevcut değil, diyor Luccioni.

İşte Yapay Zekâ Araştırmacıların Değerlendirmeleri

Sasha Luccioni : "ChatGPT ile ne kadar büyük olduğunu bilmiyoruz, altındaki modelin kaç parametresi olduğunu bilmiyoruz, nerede çalıştığını bilmiyoruz… Bu, paltoların içindeki üç rakun olabilir, çünkü neyin altında olduğunu sadece bilmiyorsunuz." Luccioni, yapay zekâ enerji kullanımını inceleyen birkaç makalenin yazarı olarak, bu gizliliğin kısmen şirketler arasındaki rekabetten kaynaklandığını ancak eleştiriyi yönlendirmenin bir girişimi olduğunu öne sürüyor.

Yapay zekâ için enerji kullanım istatistikleri, özellikle en gereksiz kullanım durumları doğal olarak kripto paranın israfıyla karşılaştırmaları davet eder. "Her şeyin bedavaya gelmediğine dair bir farkındalık artıyor," diyor.

Bir modeli eğitmek sadece resmin bir parçasıdır. Bir sistem oluşturulduktan sonra, kullanıcılara dağıtılır ve kullanıcılar bu sistemleri çıktı üretmek için kullanır; bu işlem "çıkarım" olarak bilinir. Geçen aralık ayında, Luccioni ve Hugging Face ve Carnegie Mellon Üniversitesi'nden meslektaşları, çeşitli yapay zekâ modellerinin çıkarım enerji tüketimine dair ilk tahminleri içeren bir makale yayınladılar (şu anda hakem değerlendirmesi bekliyor).