Aylardır "open source modeller geride" diyen bir geliştirici, tek cümleyle fikrini geri aldı: yanılmışım.
Geçtiğimiz günlerde X'te bir paylaşım dolaştı. Alex Finn uzun süredir açık kaynak modellerin frontier modellerin, yani en üst seviye kapalı modellerin, yaklaşık altı ay gerisinde olduğunu savunuyordu. Sonra o cümleyi kurdu: yetiştiler.
İddiası net. GLM 5.2 artık Opus 4.8 kadar iyi. Ve asıl vurucu kısım şurası: bu modeli kendi makinende çalıştırırsan, kimse onu senden alamaz.
GLM 5.2 en az Opus 4.8 kadar iyi. Lokalde çalıştırırsan hiçbir hükümet onu elinden alamaz. Egemen olursun.
— Alex FinnPaylaşımın altı da en az kendisi kadar ilginç oldu. Çünkü herkes farklı bir yerden itiraz etti. Biz de brick institute olarak bu tartışmayı takip ederken şunu fark ettik: asıl mesele "yetişti mi" sorusunun cevabı değil, o sorunun yanlış kurulmuş olması.
Hadi tek tek bakalım.
Önce iddiayı sahibinden dinleyelim
Finn'in kendisi bile bir çekince koyuyor. Diyor ki bu dev bir model, Mac Mini'de çalıştıramazsın, birkaç üst düzey GPU gerekiyor. Ama ekliyor: donanım ucuzlayacak, modeller verimlileşecek, bu olabileceği en kötü hâl.
Bu dürüst bir çekince. Ve tartışmanın ilk çatlağı da tam burada açılıyor.
Peki faturayı kim ödüyor?
Dr. Syed Haider soğuk bir soru soruyor: bu modeli lokalde çalıştırmak için kim yüz binlerce dolar veriyor? Üstelik hatırlatıyor, kapalı abonelikler ağır biçimde sübvanse ediliyor. İki yüz dolarlık aylık bir abonelikle, API fiyatlarıyla ölçtüğünde aylık dört-beş bin dolarlık işlem yapıyorsun.
Yani "ucuz" dediğimiz açık kaynak, faturayı çıkarınca o kadar da ucuz olmayabiliyor. Tartışmada birinin cevabı kısaydı: pahalı. Bir diğeri 512 GB bellekli bir M2 Ultra aramaya başladığını yazmış (o cümleyi okurken bütçe tablosunu açan bir sürü insan olduğuna eminim).
| SEÇENEK | NE GEREKİYOR | ASIL DİKKAT EDECEĞİN |
|---|---|---|
| Kapalı model aboneliği | Aylık sabit ücret | Sübvanse ediliyor, bugün ucuz görünüyor. Yarını sana bağlı değil. |
| Açık model, API üzerinden | Kullandığın kadar ödeme | Kolay başlangıç. Bağımsızlık kısmını satın almıyorsun. |
| Açık model, kendi donanımında | Ciddi ön yatırım, birden çok üst düzey GPU | Bağımsızlığı kazanıyorsun, işletme yükünü de üstleniyorsun. |
Bu rakamlar bir X tartışmasındaki geliştirici tahminlerinden geliyor, kontrollü bir kıyas çalışmasından değil. Model fiyatları da haftalık değişiyor. Yani buradaki tabloyu bir karar değil, kendi hesabını yapmak için bir çerçeve olarak kullan.
"Ağırlıkların iyi olması" ile "çalışması" aynı şey değil
Tartışmanın en olgun itirazı altyapı tarafında çalışan bir geliştiriciden geldi. Diyor ki ağırlıkların iyi olması sadece birinci adım. Asıl zor kısım modeli ayakta tutmak, isteği doğru yere yönlendirmek ve işin gerçekten yapıldığını kanıtlamak.
"Lokalde çalıştır" bir paylaşımdır. İyi çalıştırmak ise koca bir sistemdir.
— aqt, altyapı geliştiricisiBurada ufak bir araya gireyim: bu ayrım bize çok tanıdık geldi. Bir modelin bir testte iyi puan alması ile o modelin senin ürününde, senin verinle, senin ekibinle güvenle çalışması bambaşka iki iş. Aradaki farkı ancak deneyince görüyorsun.
BENCHMARK PARİTESİ
- Tabloda yakaladı mı?
- Tek seferlik test
- Kontrollü, temiz girdi
- Bir günde ölçülür
PRODUCTION PARİTESİ
- Ayakta kalıyor mu?
- Routing, uptime, izleme
- Dağınık, gerçek girdi
- Haftalarca gözlenir
Tartışmada bir kullanıcı buna sessiz bir maliyet daha ekledi: model değiştirdiğinde projede biriken bağlamı da kaybediyorsun. Aylardır aynı modelle çalışıyorsan, o birikim de bir yatırım.
BİR MODELİN TESTİ GEÇMESİ BAŞKA, SENİN İŞİNİ TAŞIMASI BAŞKA.
DOĞRU SORU"Yetişti mi" değil, "sana yeter mi"
Tartışmanın en olgun cevabı Igor Stadnyk'ten geldi. Diyor ki kapalı laboratuvarlar en tepeyi kazanmaya devam edebilir. Ama açık modellerin her testi kazanmasına gerek yok.
Yeterince iyi, yeterince ucuz ve kimsenin elinden alamayacağı kadar senin olması yeter.
— Igor StadnykBu üçlüdeki sonuncusu önemli. Bir başka geliştirici meseleyi tek cümlede topluyor: model kısıtlamalarına karşı tek gerçek savunma açık kaynak. Yarın bir model kapatılırsa, senin makinendeki çalışmaya devam eder.
Ve bir başkası pratik tarafı hatırlatıyor: açık modeller artık çoğu iş operasyonunu çalıştıracak kadar iyi ve maliyetin küçük bir kısmı. Geçmediysen masada para bırakıyor olabilirsin.
Yani soru "açık modeller frontier'ı yakaladı mı" değil. Soru şu: senin işin için "yeterince iyi" nerede başlıyor? En tepedeki modele mi ihtiyacın var, yoksa ucuz, bağımsız ve yeterince iyi olan mı yetiyor?
Çoğu ekip bu soruyu hiç sormadan en pahalı seçeneği alıyor. Alışkanlıktan.
Bunu bir haftada test edebilirsin
Kendi işinden gerçek bir görev seç. Sentetik test değil, geçen hafta yaptığın bir iş. Aynı görevi hem kullandığın kapalı modelle hem bir açık modelle koştur. Sonra üç şeyi yan yana koy: çıktının kalitesi, harcadığın süre ve fatura. Karar, benchmark tablosundan değil o üç sütundan çıkar.
Bizim duruşumuz
Ne "her şey değişti, hemen taşın" coşkusu ne de "açık modeller tutmaz" küçümsemesi. İkisi de kolaycılık.
Bir yanda gerçek bir sıçrama var, bunu görmezden gelmek anlamsız. Diğer yanda gerçek bir işletme yükü var, bunu atlamak da pahalıya patlıyor. Aradaki tek köprü deneme. Kendi işini al, iki tarafla da koştur, faturayı ve kaliteyi yan yana koy.
Bitirmeden; bu tartışmanın bir kazananı olacaksa o da şu soruyu erken soran ekipler olacak: biz gerçekten en iyisine mi ihtiyaç duyuyoruz, yoksa sadece en tanıdık olanı mı kullanıyoruz?
Sen kendi işinde bu ikisini karşılaştırdın mı? Denediysen sonucunu duymayı çok isteriz.
Sevgiyle kalın! 🧱
