Ne olursa, yapay zekanın yazdığı kodu kontrol etmeyi bırakırsın? Dur, gerçekten düşün.
Theo bu soruyu sordu ve altı olası her cevapla doldu. Ama yüzlerce yanıtı okuduktan sonra asıl ilginç olan şu: sorunun kendisi bir varsayım taşıyor. "Ne kadar iyi olursa" derken cevabın model kalitesi olduğunu peşinen kabul ediyoruz. Tartışmanın en iyi sesleri tam da bunu çürütüyor.
TarihYirmi dört aylık pencere
Bazıları tarihe gitti. Epic Games'in kurucusu Tim Sweeney şunu hatırlatıyor: assembly'den derleyicilere geçerken, üretilen kodu okumanın önemli olduğu yaklaşık yirmi dört aylık bir pencere varmış. Sonra o pencere kapanmış. İma açık: belki AI kodunda da benzer bir pencerenin içindeyiz.
Herkes bu kadar rahat değildi. Minecraft'ın yaratıcısı notch'un tüm cevabı üç kelimeydi: "Jesus christ, man." Yani: sen neden bahsediyorsun.
Ama analojiye asıl ince çentik Turso'nun CEO'su Glauber Costa'dan geldi:
Veritabanı ya da işletim sistemi kodu için bunu asla beklemem. Çoğumuz hâlâ rutin olarak assembly okuyoruz.
— Glauber Costa, TursoYani o pencere hiç tam kapanmadı. Kritik katmanda hâlâ okuyoruz. Risk yükseldikçe okuma geri geliyor — ve bu, tartışmanın gideceği yeri önceden haber veriyor.
Bir başka geliştirici, Michael Overdorf, pratik bir soru soruyor: model ne kadar iyi olursa olsun, hiçbir şey okumadan prompt'unun tam istediğin sonucu ürettiğini nasıl doğrularsın? Çünkü modeller "bir şekilde çalıştırma" eğiliminde — ama çoğu zaman senin beklemediğin bir yoldan.
KamplarÜç farklı cevap
Yüzlerce yanıt üç kampa ayrılıyor. Hangisinde olduğunu bilmek, hangisinin doğru olduğundan daha yararlı:
Birinin bakması gerek
Modeller on kat iyileşse bile yayınlanan şeyi birinin incelemesi şart. Agent'ın veritabanımda ne yaptığını hep kontrol edeceğim.
Yazmak ucuzladı, incelemek değil
Kod yazmak ucuzluyor. Ama mimariyi, arayüzleri ve edge case'leri incelemek hâlâ ucuz değil.
Modeli tech lead gibi kullan
Üst seviye beklentiyi koyuyorum, mimariyi kendisi kuruyor, alt seviye tasarıma hiç bakmıyorum.
Dikkat: üçüncü kamp bile "okumayı bıraktım" demiyor. "Başka bir şey okuyorum" diyor.
Kaçırılan eksenSoru doğruluk değil, hesap verebilirlik
Tartışmayı tamamen değiştiren cevap solo geliştirici Alex la Guardia'dan geliyor. Daha iyi modeller inceleme sorusunu küçültür, diyor — ama hesap verebilirlik sorusuna hiç dokunmaz. Kimsenin okumadığı bir kod üzerine agent iş yapıp bir şeyi bozduğunda kim sorumlu? Ve ona ne dediğini kanıtlayabilir misin?
Ekliyor: yayınlanmış kodda gerçek SSRF ve auth bypass açıkları bulduğunu söylüyor.
Soru "model ne zaman yeterince iyi olur" değil. Sen okumayı bıraktığında o boşluğu kim doldurur?
Andrew Lombardi aynı yere başka kapıdan giriyor: insanlar zaten mükemmel kod yazmıyor, modeller de insan koduna dayanıyor. O yüzden ne modele ne insana güven. Ve asıl uyarısı: okumayı bıraktığın an, senden daha kötü niyetli ve akıllı biri bunu sana karşı kullanır.
Bu tartışmanın tamamı X'te geçen bir sohbet — saha verisi değil. Alıntılanan güvenlik açıkları ve bug hikayeleri tek tek anekdot. Ölçülmüş bir "AI kodunda hata oranı" rakamı kimsenin elinde yok. Buradan çıkaracağın şey bir istatistik değil, bir çerçeve olmalı.
Okumak zaten hiç garanti değildi
Buraya kadar okursan cevabın "o zaman hep okuyalım" olduğunu düşünebilirsin. Eski bir hacker olan Ivan Mojsilovic bunu da yıkıyor: mesele model değil, bırakabilmek. İnsanlar eskiden çılgın seviyede code review yapıyordu ve kod yine berbattı — veri sızıntıları, korkunç bug'lar.
Bu önemli, çünkü satır satır okumanın bir güvenlik teatrosuna dönüşebileceğini hatırlatıyor. İki saat PR'a bakan ama mimari sınırın yanlış yerden geçtiğini görmeyen bir inceleme, incelememekten daha tehlikeli — çünkü üzerine imza atılmış oluyor.
AksiyonDeğişen şey okumak değil, neyi okuduğun
Bütün bu seslerin ortasında netleşen şey şu: incelemeyi bırakmıyorsun, incelemenin seviyesini yükseltiyorsun. Pratik karşılığı:
| Seviye | Neye bakıyorsun | Ne kadar zaman |
|---|---|---|
| Satır | Sözdizimi, isimlendirme, ufak mantık hataları | Neredeyse hiç — testlerin ve linter'ın işi |
| Mimari | Sınırlar, arayüzler, bağımlılık yönü | En çok buraya — en pahalı hatalar burada |
| Edge case | Boş girdi, yetki, zaman aşımı, para birimi | Modelin "bir şekilde çalıştırma" eğilimi tam burada devreye giriyor |
| Sorumluluk | Kim onayladı, ne söylendi, nerede kayıtlı | Her yayında — model kalitesinden bağımsız |
Ekipte bu tartışmayı açarken soruyu "kodu okuyor muyuz" diye sorma. "Şu özellik bozulursa, kimin hangi kararı verdiğini nereden bulacağız" diye sor. Cevap yoksa mesele inceleme alışkanlığı değil, kayıt eksikliğidir.
Brick'in duruşu
Soru kışkırtıcı ama biraz yanlış çerçeveli. Model yeterince iyi olunca incelemeyi bırakmıyorsun — incelemenin seviyesini yükseltiyorsun. Satır satır koddan mimariye, edge case'e, niyete ve en önemlisi hesap verebilirliğe.
Yazmayı AI devralabilir. Ama "bu doğru olan mı" sorusunun sahibi hâlâ sensin. Ne "modeller yeterince iyi, artık hiç bakma" rahatlığı, ne "AI'a asla güvenilmez" inadı — ikisi de kolaycılık.
Sana sorumuz şu: sen son yazdığın kodu neden okudun — hataya karşı mı, yoksa sorumluluğu üstlenmek için mi?
Çünkü belki de asıl okuduğumuz şey hiçbir zaman kod değildi. 🧱
