Ana Fikir #77

Açık Kaynak Yapay Zeka Daha Mı Ucuz?

Yapay zeka modelleriyle neler yapamıyoruz ki? Artık hayatımızın her alanına girdiler. Ama biliyorsunuz, bu teknolojiyi kullanmanın bir maliyeti var.

Haliyle, “pahalı” diyerek açık kaynaklı alternatiflere yönelenlerin sayısı hiç de az değil. İşte bu dostlara pek de iyi gelmeyecek bir araştırma ile başlıyoruz bu sayıya.

Çünkü Nous Research, yaptığı son çalışmayla, doğru bildiğimiz bu büyük bir efsaneyi çürüttü: “Açık kaynaklı yapay zeka daha ucuza gelir” sözü, maalesef doğru değilmiş.

Peki, nasıl oluyor da kapalı kaynak API'lar (hani şu her yerde kullandığımız devlerin sunduğu hizmetler) daha kârlı hale geliyor?

Mesele Fiyat Değil, Verimlilik

Her şeyin temelinde token var. Token, bir yapay zeka modelinin işlem yaparken kullandığı en küçük birim. O modeli çalıştırdığın her saniye, her harf, her kelime bir maliyet oluşturuyor.

Nous Research, işte bu gizli maliyeti ortaya çıkardı:

• Açık kaynaklı modeller, kapalı kaynaklara göre tam 1.5 ila 4 kat daha fazla token yakıyor.

• Basit bir soru sorduğunda bile, bazı modeller o4-mini gibi kapalı modellere göre 10 kat daha fazla token kullanabiliyor.

Yani, sen “bedava” diye bir açık kaynak modeli kullanırken, aslında onun etiket fiyatının 10 katına mal olan bir fatura biriktiriyorsun.

Kendi sunucunu kurman lazım, o sunucuyu hızlı çalıştırmak için GPU’lar bağlaman lazım, sunucuda problem çıktığında gece yatağından kalkman lazım vs vs vs…

Peki Neden Böyle?

Kapalı kaynak sağlayıcılar, yaptıkları işi gizli tutuyorlar ama bir şeyi çok iyi biliyorlar: verimli olmayı.

• Cevapları sana sunmadan önce, içerde minik bir model çalıştırarak düşünme zincirini sıkıştırıyorlar.

• Böylece, 300 kelimelik bir monolog yerine, tek ve özlü bir cevap için ödeme yapıyorsun.

Açık kaynak geliştiricileri ise işi daha farklı ele alıyor. Onlar için doğruluk her şeyden önemli. Bu yüzden, cevaplarını adım adım, detaylı bir şekilde oluşturuyorlar. Ama bu ekstra adımlar, daha fazla token ve dolayısıyla daha fazla maliyet demek.

Ne Yapmalı?

• Bir modelin token başına fiyatına değil, bir problemi çözme maliyetine odaklan. Bu, bambaşka bir bakış açısı.

• Kullandığın modellerin bir hafta boyunca ne kadar token harcadığını izle.

• Yoğun trafikli işlerini, daha az token harcayan, yani daha verimli olan kapalı kaynak modellere kaydır.

• Açık kaynak modelleri ise sadece çok özel, ince ayar yapılmış işler için kullan.

Teknoloji dünyasında en ucuza gelen şey, aslında en verimli olandır.

---

Gözünün Önünde Olmak İçin Çetin Bir Savaş Var

Akıllı gözlükler, teknoloji dünyasının uzun zamandır peşinde olduğu bir hayal. Ama görünen o ki, bu teknoloji, bir üründen çok bir aksesuara dönüşmek için zorlu bir savaş veriyor.

Bence bu savaşta kazanan, en son teknolojik özellikleri sunan değil, yüzünüzdeki varlığını unutturan olacak.

Geleceğin devleri, bize “bir bilgisayar taktığımızı” unutturacak kadar incelikli bir tasarım ve kullanım deneyimi sunarak, teknoloji dünyasında yeni bir sayfa açacak.

Asıl mesele, teknolojiyle dolup taşmak yerine, teknolojiyi görünmez kılmak.

Yani daha fazla kamera, mikrofon veya artırılmış gerçeklik katmanı ekleyen kazanmayacak. Kazanacak olan, sana yüzünde bir bilgisayar olduğunu unutturan marka olacak.

Peki, bunu nasıl başaracaklar?

Şimdilik Apple, Google, Meta, Ray-Ban ve son olarak da HTC bu yarışın içinde ve çeşitli denemeler yaptılar. Bazıları sevildi bazıları da garipsendi.

Bence, başarılması gereken 4 adım var aslında;

1. Gereksiz ağırlıktan kurtulmalı: “Ben bir siborgum” gibi yolda gezemeyiz. Gözlüğün sapları hala devre kartı gibi görünüyorsa, pek görünmez olamıyorsun.

2. On özellik yerine, bir tane mükemmel: Meta her şeyi istiyor: fotoğraf, canlı yayın, yapay zeka sohbeti. Oysa doğru strateji, tek bir şeye odaklanıp onu mükemmel yapmak. Mesela, Ray-Ban Stories hala güneş gözlüğü mü yoksa GoPro mu olduğuna karar veremedi.

3. Gizlilik bir özellik olmalı: Görünür bir LED ışığı yeterli değil. Tıpkı eski bir Polaroid gibi, tık diye ses çıkaran fiziksel bir deklanşör koymalı. Güven, her şeyden çok daha değerli.

4. Fiyatlandırma: Telefon gibi değil, gözlük gibi: $299 bir güneş gözlüğü gibi hissettirir. $999 ise deneme sürümü gibi.

Bunları yapabilen marka, sadece gözlük değil, aynı zamanda o “hiçbir şey takmıyormuş” hissini de satabilecek.

---

Merhaba! Yine harika bir metinle gelmişsin. Bu tür üretkenlik tüyolarını çevirmek benim en sevdiğim işlerden. Hemen hızlıca halledip sana Barış Özcan tarzında, samimi ve akıcı bir çeviri sunayım.

---

Günlük Üretkenliğini 10 Katına Çıkarmanın Hızlı Bir Yolu

Her sabah uyandığında, zihnin bir sis perdesiyle kaplanır, değil mi?

“Bugün ne yapmalıyım?” sorusuyla boğuşur, o ilk 10 dakikayı neye başlayacağını düşünerek harcarsın.

Bazen işe başlamak için o minik kıvılcımı bulamazsın. Peki, ya her sabah o ilk 10 dakikanı sana geri veren, üstelik bunu yaparken de günün en önemli işini netleştiren sihirli bir yöntem olsaydı?

Yapay zeka bu kez sadece eğlenceli videolar veya sohbetler için değil, senin en büyük yardımcın olmak için yanında olsa?

Sabahları, yapay zeka bir “mikro-ajan” seninle 30 saniyelik bir “güne başlama toplantısı” yapsın.

Ne yapsın?

• Günün TEK hedefini sesli söylersin: Bu, seni net olmaya zorlar.

• Yapay zeka, söylediğini anında üç maddelik bir plana dönüştürür: Yanına bir Slack hatırlatıcısı ve takvim bloğu da ekler.

• Sabahın ilk 5-10 dakikasındaki o zihin bulanıklığını ortadan kaldırır: Ne yapacağını düşünmekle vakit kaybetmezsin.

• İlk hedef bitti mi? Şahane. Sonrakini söyle ve aynı şekilde devam et.

• Geçmişten öğrensin. Her gün yaptığında sana daha iyi kırılımlar ve yönlendirmeler yapabilecek.

Toplamda 30 saniye sürüyor. Ve her gün yaklaşık 45 dakikalık karar verme yorgunluğundan kurtarıyor.

Not: Bu mikro-ajanın adını “Özel Kalem Müdürüm” koyabilirsiniz. Böylece bu rutin daha eğlenceli hale gelir : )