Deneyimli bir mühendis şunu yazdı: kaynağı bir daha hiç okumayabilirim. Haklı olabilir. Ama gerekçesi eksik.
Cümleyi kuran James Douma. Yıllanmış, saygı duyulan bir mühendis — yani bu bir heves değil, bir öngörü.
Mantık ilk bakışta çok güçlü. Bir zamanlar herkes makine diline tek tek bakardı. Derleyiciler geldi, güvendik, o alt katmanı okumayı bıraktık. Douma diyor ki aynı şey şimdi kaynak kodun başına geliyor.
Destekleyenler de var. Biri "koda bakmaya gerek yok, program sonucu üretiyor mu üretmiyor mu" diyor. Bir başkası, eski bir kod tabanında günlerce uğraşacağı aptalca ama çok gizli bir bug'ı modelin on altı saniyede bulduğunu anlatıyor. Üçüncüsü daha temkinli: limitte mantıklı, production sistemler için henüz değil, ama düşük riskli kişisel projeler için yol bu.
Sonra yanıtlar geliyor. Ve neredeyse hepsi tek bir yere vuruyor.
İtirazÇevirmene mi güveniyorsun, yazara mı?
Oyun geliştirici Ron farkı en net koyan isim: derleyici bir çeviri katmanıdır, ona güvenmek çevirinin doğruluğuna güvenmektir. AI çıktısını incelememek ise kodun yazarına güvenmektir. İkisi aynı fiil değil.
Arkasından koro geliyor: derleyiciler deterministik, LLM'ler olasılıksal. Biri onu kumar makinesine benzetiyor, biri kulaktan kulağa oyununa. Bir metni başka dile çevirene güvenebilirsin; aynı cümleyi sırayla on kişinin fısıldadığı oyuna güvenemezsin.
Derleyici
- Aynı girdi → her zaman aynı çıktı
- Davranış üzerine görünür bir kontrat verir
- Kuralları okunabilir, denetlenebilir
- Hatası bulunursa herkes için düzelir
LLM
- Aynı girdi → her seferinde başka çıktı
- Kontrat yok, sadece eğilim var
- Kuralları ağırlıklara gömülü, opak
- Hata bir sonraki çalıştırmada kaybolabilir
Bir yorumcu bunu daha da keskinleştiriyor: derleyici, çıktının davranışı üzerine görünür bir kontrat sunar. LLM kod üretimi ise model ağırlıklarına kodlanmış, pratikte bilinemez kuralların çıktısı. İkisi benzetme düzeyinde bile denk değil.
Asıl meseleAssembly'yi bıraktıran şey güven değildi
Şimdiye kadar iki taraf da bir şeyi doğru görüyor ama tartışma bir yerde düğümleniyor. Düğümü çözen tek bir yorum var. Basedcapital diyor ki: benzetme yarı doğru, ve yanlış olan yarı tam da işin olduğu yer.
Sonra o cümleyi kuruyor: kimse derleyici çıktısını denetlediği için assembly okumayı bırakmadı — çeviri anlamsal garantiler taşıdığı için bıraktı.
Bunu bir düşün. Derleyiciye körü körüne güvenmedik. O güven bedavaya gelmedi: yıllar süren diferansiyel testler, biçimsel doğrulama, matematiksel kanıt. Csmith adlı tek bir test aracı gcc'de yüzlerce hatalı derleme buldu. CompCert gibi bazı derleyiciler ise resmen ispatlanmış durumda. Derleyici güveni istemedi, kazandı.
Güven, doğrulamayı takip eder. Hissi değil.
Yani derleyici benzetmesi bir olgu değil, bir vaat. "AI da derleyici gibi olacak" cümlesi aslında şunu söylüyor: AI da bir gün bu doğrulama altyapısını kuracak. Kurmadan önce aynı güveni istemek, sınavı vermeden diploma istemek.
Bu tartışmanın tamamı X'te geçen bir sohbet — saha verisi değil. "On altı saniyede bulunan bug" da, "kod hâlâ berbat" da tek tek anekdot. Ölçülmüş bir AI kod hata oranı kimsenin elinde yok. Buradan çıkaracağın şey bir istatistik değil, bir çerçeve olmalı.
Modeli mahkemeye veremezsin
Benzetmenin çöktüğü bir yer daha var: kimin sorumlu olduğu.
Bir mühendis, Greg, bunu çok somut koyuyor. Üretilen kod finansal bir zarara yol açarsa modeli ya da harness sağlayıcısını suçlayamaz. Sorumluluk onda kaldığı sürece kaynağı okumaya devam edecek. Üstelik çoğu ekip prompt'larını versiyon kontrolde bile tutmuyor — yani "ben ona bunu söylemiştim" diyebileceğin bir kayıt da yok.
Derleyicide bu sorun yok, çünkü derleyici bir taraf değil, bir araç. AI kod üretimi ise kendini bir taraf gibi sunuyor ama sorumluluğu taşımıyor. Aradaki boşluğu birinin doldurması gerekiyor, o da sensin.
Prompt'larını versiyon kontrole al. Kod incelemesini azaltacaksan yerine geçecek kaydı kurman gerekiyor: modele ne söylediğin, hangi kısıtları verdiğin, kimin onayladığı. İncelemeyi bırakmak, izi de bırakmak anlamına gelmemeli.
Brick'in duruşu
Douma'nın hissi gerçek, karşı dalganın tespiti de doğru. İkisi çelişmiyor — farklı şeylerden bahsediyorlar. Douma nereye gittiğimizi anlatıyor, karşı taraf oraya henüz varmadığımızı.
Tartışmanın en dengeli cümlesi bir esprinin içinden geliyor. Jef Newsom şöyle yazıyor: koda baktım, hâlâ berbat, modeller çöp yazmayı bırakana kadar daha yolumuz var — ama, ki bu büyük bir ama, tanıştığım çoğu insan için de aynısı geçerli. Yani çıta "mükemmel kod" değil, hiçbir zaman da olmadı.
Bizim duruşumuz şu: AI kodu derleyici seviyesinde garantiler kazandığı gün okumayı gerçekten bırakırız. Gerçek testler, gerçek doğrulama, net sorumluluk. O gün gelecek — ama takvimini hissimiz değil, doğrulama altyapısı belirleyecek. Ne "artık güven, bakmayı bırak" rahatlığı, ne "AI'a asla güvenilmez" inadı.
Sana sorumuz şu: sen bir şeye güvenmeyi bıraktığında, bunu o kanıtladığı için mi yapıyorsun, yoksa yorulduğun için mi? 🧱
