Ana Fikir #82

📋 Bu Sayıda;

• Yapay Zeka Soğuk Savaşında Asıl Mesele; Elektrik

• Google Trends'te Görünmeyen Pazar Fırsatlarını Yakalamak — 🔒

• Yapay Zeka Ajansı Olmak ve Geleceği — 🔒

• “Sahte” İnternet ile Nasıl Daha Akıllı Bir Beyin Yaratılıyor? — 🔒

• Warren Buffet'ın “Hype”la Değişmeyen Yatırım Formülü — 🔒

---

Bültenimizi beğenecek bir arkadaşın varsa, davet et. Böylece hem o bültenle tanışır, hem de sen 1 ay boyunca tüm kaynaklara sınırsız erişim hakkı kazanırsın.

Refer a friend

---

Yapay Zeka Soğuk Savaşında Asıl Mesele; Elektrik

Son iki senedir adeta bir sihirbazlık gösterisine hipnotize olmuş durumdayız.

OpenAI, Google, xAI ve benzeri şirketler sürekli şapkadan tavşan çıkararak daha iyi şiir yazabilen, daha iyi kod üretebilen modellerle gözümüzü boyuyor.

Sanırım hepimiz sihirbazın ellerine bakakaldık.

Biz bu gösteriyi izlerken, asıl olay perde arkasında, yani tiyatronun inşa edildiği yerde dönüyor gibi. Bu show’u gerçekleştirebilmek için şehir büyüklüğünde, özelleşmiş elektrik santrallerine ihtiyaç var.

Microsoft, Wisconsin'de “Fairwater” adını verdiği, yüz binlerce yeni nesil NVIDIA GB200 ile donatacağı 110 bin metrekarelik devasa bir yapay zeka veri merkezinin temelini attı.

Geri kalmak istemeyen Elon Musk'ın xAI şirketi ise Memphis'te “Colossus 2” projesiyle dünyanın ilk gigawatt ölçeğindeki veri merkezini kurmayı hedefliyor.

Bir gigawatt. Bu, bir nükleer santralin ürettiği enerji demek. Sırf Grok'un bir sonraki versiyonunu eğitmek için?

Bu hafta Shwab Eidelson ve Anay Shah'ın sunduğu Stepchange Show'daki veri merkezlerinin tarihine dair yaptıkları, 4 saat uzunluğundaki derinlemesine analiz bölümünü dinledim. Acayipti.

Kısa özeti şu; “bulut sunucu” deyip tüy gibi hafiflettiğimiz şey aslında 11.800 binadan oluşan fiziki bir imparatorluk ve şu anda bu imparatorluk, fizik kurallarıyla yarışıyor.

Bu konu o kadar önemli ki, önümüzdeki on yılın kazananları, en iyi algoritmaya sahip olanlar değil de, en iyi elektrik sözleşmesine sahip olanlar olacak gibi gözüküyor.

Bu bültenin 78’inci sayısında “Sonraki Maaş Zammınızı Belirleyecek Çöldeki Binalar” başlığıyla bu konudan bahsetmiştim, bugün makine dairesine inip bu motoru neyin beslediğine bakıyoruz: şebekedeki son elektrona kadar verilen kıran kırana bir kavga.

“Bulut” Sunucu Hafifliği

Şunu netleştirelim: bulut sunucu denince akla ilk gelen AWS (Amazon Web Services), gelmiş geçmiş en parlak iş fikirlerinden biri.

Yıllık 111 milyar doları aşan gelir hedefiyle, benim gibi bir nesil girişimcinin sadece bir kredi kartıyla küresel ürünler geliştirmesine olanak tanıyan bir altyapı hizmeti yarattılar.

Donanım derdini, soğutma derdini, ağ altyapısı derdini ortadan kaldırdılar. Sunucuları düşünmeyi bırakıp tamamen koda odaklanmaya başladık.

Ama bu faydaları kullanırken, her bir API çağrısının arkasında vızır vızır çalışan ve megawatt'larca elektrik çeken sunucu raflarının olduğu gerçeğini unuttuk.

Biz müşteri edinme maliyetlerimizi optimize etmekle meşgulken, Google PUE (Güç Kullanım Verimliliği) konusuna takmış durumdaydı. Onlar sadece bir arama motoru değil, “Depo Ölçeğinde Bilgisayar” inşa ediyorlardı.

Meta sadece bir sosyal ağ kurmadı; aynı zamanda donanım tedarik zincirini standartlaştırıp bir maliyet kalemini rekabet silahına dönüştürmek için Açık Bilişim Projesi'ni (Open Compute Project) başlattı.

Özetle büyük teknoloji devleri, asıl rekabetin fiziksel dünyada oynandığını biliyorlar. Biz sadece onların dünyasında yer kiralıyoruz.

Yapay Zekanın Termodinamik Sınırları

Şu an yapay zeka patlaması yaşıyoruz. Ve bu patlama, sunucu sektöründe her şeyi baştan düşünmeye neden olacak kadar büyük bir dönüşüm.

Sadece “daha fazla bulut”tan bahsetmiyoruz. Geleneksel bulut bilişimden büyük yapay zeka modellerini çalıştırma gereksinime geçiş, fiziksel gerçeklikte resmen bir seviye atlama ihtiyacı anlamına geliyor.

AWS dönemindeki standart bir sunucu rafı 5-10 kilovat arası bir güç çekerken, yeni nesil NVIDIA GPU'larla dolu bir yapay zeka training sunucusu, 90 kilovata kadar güç çekebiliyor.

Bir an durup düşünelim. Neredeyse on katlık bir güç yoğunluğu artışından bahsediyoruz.

Bu yüzden sunucuları hava ile soğutmanın fiziği artık yetersiz kalıyor. Sektör, işlemcilerin erimesini önlemek için doğrudan çipe sıvı soğutma sistemlerine, yani işlemcilerin üzerine borularla su taşıyan sistemlere hızla geçiş yapıyor.

Yani yapay zekanın önündeki en önemli engellerden biri aslında termodinamik problemi. Ve bu durum, önümüzdeki 5 yılı şekillendirecek en büyük darboğaza yol açacak gibi.

Asıl konu yakın zamanda çip tedarik etmekten çıkıp, yüzlerce megawatt stabil gücü sağlayabilecek bir enerji şirketiyle çok yıllık bir sözleşme imzalamaya dönüşüyor gibi duruyor. Ve bu konudaki çaresizlik artık gözle görülür halde.

Elon Musk'ın Colossus 2 için yaptığı cinliği bilenleriniz vardır. Bu tesisi kurmak önce Tennessee'yi seçmişti ama oradaki enerji şirketinden veto yiyince, Mississippi sınırındaki eski bir elektrik santralini satın alıp, 12 ay boyunca izinsiz devasa gaz türbinleri çalıştırmak için onay aldı.

Yani adam, rakiplerinin önüne geçmek için kelimenin tam anlamıyla kendi özel, denetimsiz elektrik şebekelerini kuruyor. Bu artık rekabetin ne kadar çirkinleşeceğini de gösteriyor aslında. Baya baya gri alanlara girmeyi göze alabilecek kadar gözü karartmış durumdalar.

ABD'li teknoloji devlerinin bu tür kaba kuvvet hamleleri yapmasının temel nedenini anlamak için küresel güç oyununa bakmak lazım.

Çünkü bu megawatt kapma yarışı, Çin'in modern tarihin en cüretkar enerji hamlelerinden birini yaptığı sırada gerçekleşiyor.

Ember'in paylaştığı son veriler, sadece bu yılın ilk yarısında Çin'in, dünyanın geri kalanının toplamından iki kat daha fazla (256 GW vs 124 GW) güneş enerjisi kapasitesi kurduğunu gösteriyor.

Açık konuşalım: Bu çevreci arkadaşların sevineceği türden gezegeni kurtarma meselesi değil. Bu, jeopolitik bir güç kapma hamlesi bence.

Tıpkı Amerika'nın 20. yüzyılda petrol üzerindeki kontrolünü bir koz olarak kullanması gibi, Çin de kendi yapay zeka fabrikaları için sınırsız bir enerji kaynağı da dahil olmak üzere 21. yüzyıl hedeflerini beslemek için ucuz ve bol güneş enerjisi piyasasını domine etmeye çalışıyor. Akıllıca.

Yani yapay zekadaki üstünlük savaşı sadece yeni modellerle ya da GitHub'da değil, belediyelerin imar komisyonu toplantılarında ve bölgesel enerji şirketleriyle yapılan kapalı kapı anlaşmalarında dönüyor.

Peki, Senin İçin Fırsat Nerede?

“Tamam Selim, bu anlattıklarını anladık da, ben gidip nükleer santral kuracak değilim. Bir girişimci/yazılımcı/pazarlamacı olarak beni niye ilgilendirsin ki” dediğinizi duyar gibiyim.

Herkes haftanın popüler modeline odaklanmışken, bu işin kimsenin ilgilenmediği ama en temel olan kısımlarında sağlam bir iş kurabilme fırsatı var. Herkes için değil tabi ama alttakiler konusunda geçmişi olan, adım atabilecekler için…

1. Altın Arayanlara Kazma Kürek Satmalı

En büyük fırsatlar, ısı, güç ve su gibi yeni ve can sıkıcı sorunları çözmekte yatıyor. Bu artık sadece bir yazılım oyunu değil; artık para sadece bit'lerde değil, atom'larda, yani fiziksel ürünlerde de kazanılacak.

Fiziksel Fırsatlar:

• Modüler Sıvı Soğutma: Sektör, 90kW'lık rafları soğutacak çözümler için yanıp tutuşuyor. Mevcut veri merkezlerine eklenebilecek, konteyner tipi, “tak-çalıştır” sıvı soğutma üniteleri tasarlayıp üretmek iyi fikir olabilir. Burada sadece bir ürün satmıyorsun; müşterilerine yapay zeka kapasitesine yıllar değil, aylar içinde geçmelerini sağlayan bir yol satıyorsun.

• Yerinde Güç Sistemleri: Bataryalı depolama sistemlerini (BESS) ve yeni nesil jeneratörleri paketleyip ürünleştirilmiş bir hizmete dönüştürmek de iyi fikir. Bunu, şebeke bağlantısı için 3 yıllık sırada bekleyen veri merkezlerine “Hizmet Olarak Güç” (Power-as-a-Service) olarak satılabilir. Onların bir an önce online olabilmeleri için can simidi.

• Su Geri Dönüşüm Teknolojisi: xAI, bir atık su tesisi için 80 milyon dolar harcıyor. Soğutma için daha küçük, daha verimli, kapalı devre su geri dönüşüm sistemleri geliştirip satmak da iyi fikir. Böylece siyasi bir soruna teknik bir çözüm satmış olursun ve yatırımının geri dönüşü (ROI), onaylanmış inşaat ruhsatlarıyla ölçülür.

Dijital Fırsatlar:

• Enerji Yönetimi için SaaS: Bu hibrit enerjili veri merkezlerinin işletim sistemini kurmak da iyi fikir. Anlık enerji fiyatlarına ve şebeke durumuna göre şebeke, batarya ve yerel üretim arasında akıllıca geçiş yapan araçlar geliştirilebilir.

• Soğutma ve Su Optimizasyonu: Bir veri merkezinin termodinamiğini yapay zeka ile modelleyerek, soğutma için gereken enerji ve su miktarını en aza indirmek çok iyi fikir. Bu, kendini anında satan, tamamen işletme giderlerini (opex) düşürmeye yönelik bir hamle.

• Altyapı Finansmanı ve Tedariği: Veri merkezi inşaatı için bir nevi “Sahibinden.com” gibi bir platform güzel fikir olabilir. İnşaatçıları, hazırda elektriği, su kullanım hakları ve fiber altyapısı bulunan, önceden onaylanmış arazilerle buluşturabilirsin.

2. Sunumu Gözden Geçirmeli

Eğer bir yapay zeka girişimi kuruyorsan, altyapı stratejin artık ürün stratejin kadar önemli. Yatırımcılara (VC) sadece şık arayüzünü göstermek yerine; işlem gücü (compute) maliyetlerini nasıl yöneteceğine dair planını da göstermek gerek. Daha ucuz ve verimli çıkarım (inference) süreçlerine erişmek için kendine has bir yöntemin var mı? Bu gerçek bir rekabet avantajı olur.

3. Sadece Zekayı Değil, Verimliliği Pazarlamak Gerek

“Bizim yapay zekamız daha akıllı” demek artık standart bir beklenti haline geldi. Fakat “Bizim yapay zekamız aynı sonucu %50 daha az enerjiyle üretiyor” demek, CFO'ların gerçekten dikkate alacağı, maliyet avantajı sağlayan güçlü bir farklılaştırıcı olacak.

20 yıldır içinde yaşadığımız dijital dünya, gümbür gümbür fiziksel olana geri dönüyor gibi gözüküyor. Gözden kaçırmamak gerek.