Netflix'e 15 Eylül'de gelen The AI Doc: Or How I Became an Apocaloptimist'in ortalarında yönetmen Daniel Roher, eşi Caroline'a bir itirafta bulunuyor. Aylardır kıyamet senaryoları dinlemekten yorulmuş, artık iyimserlerin tarafına geçmek istiyor.
Caroline'ın cevabı filmin belki de en akılda kalan anı: Beyin ameliyatı olacaksan bunun çok tehlikeli olduğunu bilirsin. Doğru yapılırsa tümör alınır ve hayatının geri kalanını yaşarsın. Yine de her önlemi alırsın, çünkü bunun şakası yok.
Bu benzetme bizim için önemli. Filmin geri kalanında duyduğumuz benzetmelerden bambaşka bir yere bakıyor. Film, Navalny ile Oscar alan Roher ile Charlie Tyrell'in ortak işi; yapımcılar arasında Everything Everywhere All at Once'ın ekibi var. Ocak'ta Sundance'te gösterildi, Mart'ta sinemalara çıktı, şimdi Netflix'te.
Bu noktadan sonrası filmin kurgusunu ve finalini anlatıyor.
Büyüdükçe bulanıklaşan benzetmeler
Roher filmi ilk kez baba olacağı dönemde çekmeye başlıyor. Sorusu basit: Oğlum nasıl bir dünyaya doğacak? Karşısına oturttuğu isimler ise hiç basit değil. Bir yanda Sam Altman, Dario Amodei ve Demis Hassabis gibi şirket liderleri var. Öbür yanda Yoshua Bengio, Eliezer Yudkowsky ve Tristan Harris gibi risk tarafındaki isimler.
Film Harris'in çok bilinen tespitiyle açılıyor: yapay zeka, diğer tüm teknolojilerin toplam gücünü gölgede bırakıyor. Sonra benzetmeler büyüdükçe büyüyor. Film, Hassabis'in eski bir konuşmasından aldığı bir kesitle yapay zekayı sanayi devriminden de büyük, elektriğin ya da ateşin keşfine denk bir şey olarak anlatıyor. Bir tarafta hastalıkların bittiği, çocukların Mars'a gittiği bir ütopya duruyor. Diğer tarafta çocuklarının liseyi göremeyeceğinden korkan araştırmacılar. Roher bu iki kutup arasında gidip geliyor, biz de onunla birlikte sallanıyoruz.
Sorun şu ki bu ölçekteki benzetmeler bir şeyi farkında olmadan siliyor: o teknolojiyi yapan insanları.
Ateş benzetmesi
- Teknoloji bir doğa olayı gibi kendiliğinden geliyor.
- Soru “bize ne olacak” oluyor.
- Sahibi yok, sadece sonuçları var.
Ameliyat benzetmesi
- Bir ekip, belli bir anda bir karar veriyor.
- Soru “bunu kim, nasıl yapıyor” oluyor.
- Sorumluluğun bir adresi ve protokolü var.
“ChatGPT etik olabilir mi?” sorusunun tuzağı
Filmin en keskin anlarından biri Timnit Gebru'ya ait. Gebru, Google'ın etik AI ekibinden ayrıldıktan sonra kendi bağımsız araştırma enstitüsünü (DAIR) kurdu; yani bu şirketlerin içini de dışını da biliyor. Filmde bu sistemleri üreten şirketlerin, sistemlerin yetenekleri konusunda kamuoyunu yanıltmaktan çıkarı olduğunu söylüyor. Böylece hesap vermekten kaçabiliyorlar. İnsanlar “OpenAI etik olabilir mi?” diye sormuyor, “ChatGPT etik olabilir mi?” diye soruyor. Sanki ortada onu yapan bir şirket yokmuş gibi.
Filmdeki bir başka ses aynı noktayı başka bir yerden yakalıyor. AI'ı gökten düşmüş, tanrısal bir şey gibi görmek, şirketlere yaptıkları yazılımın sonuçlarından sorumlu tutulmama ruhsatı veriyor.
“Stochastic parrot” (olasılıkçı papağan) kavramını ortaya atan dilbilimci Emily M. Bender ise meseleyi en sade haliyle koyuyor:
Teknolojiyi her zaman insanlar yapar ve çoğu zaman insanlar üzerinde kullanılır. Bu insanların hepsini kadrajda tutmamız gerekir.
Emily M. Bender, Washington Üniversitesi · The AI Doc (2026)Ateşin bir sahibi yoktur. Her ürünün arkasında ise bir karar ve o kararı veren bir ekip var.
Filmin kendi tuzağı
Belgeselin kör noktası da tam burada. Film ekonomik ve politik zemine aslında epey vakit ayırıyor. Veri merkezlerinin elektrik faturası sıradan insanlara yansıyor. Gazeteci Karen Hao, AI'ın insanlık tarihinde tek bir teknolojiye harcanan en büyük kaynağı gerektirdiğini hatırlatıyor. ABD ile Çin arasındaki yarış Tayvan'daki çip üretimine kadar iniyor. Ama bunların hepsi “teşvikler” ve “yarış” diliyle anlatılıyor. Kimin sahip olduğu, bedeli kimin ödediği soruları ise kenarda kalıyor.
Kapanıştaki öneriler bu dengesizliği büyütüyor. Vekilini ara, akşam yemeğinde ailenle konuş, işverenine AI'ı nasıl kullandığını sor. Hepsi değerli, ama hepsi son kullanıcıya düşen işler. Böyle bakınca etik sorumluluk, teknolojiyi üretenlerden ve sektörün içinde üretenlerden alınıp izleyicinin omzuna konmuş oluyor.
Film bu kolaycılığın farkında gibi. Roher'in ilk final fikri, filmin CEO'larla ya da jeopolitikle ilgili olmadığını, sadece ailesiyle ilgili olduğunu söyleyen duygusal bir kapanış. Caroline bunu “kumbaya” diye reddediyor. Yerine konan final ise bireysel eylemden pek uzaklaşamıyor.
Bir belgeselin söyledikleri kurgunun içinden geçiyor. Sözler uzun röportajlardan kesilmiş parçalar; Hassabis kesiti gibi bazıları film için çekilmemiş eski kayıtlar. Şirket liderleri de filmde kendi ürünlerini anlatıyor, çıkarları açık. Filme karşı cepheden itiraz da var: Nirit Weiss-Blatt gibi eleştirmenler filmin kıyamet seslerine sahte bir denge kurduğunu söylüyor. Bu yazı filmin çerçevesini okuyor, AI riskleri hakkında bir hüküm vermiyor.
Ameliyat masasında kim var?
Caroline'ın benzetmesine dönelim. Ameliyatta hasta onam verir ve soru sorar. Kontrol listesini ise cerrah ekibi tutar, bir şey ters gittiğinde müdahale protokolü de ekibindir. Filmin çizdiği zincirde bu ortadaki halka yok: bir uçta laboratuvarlar ve CEO'lar, öbür uçta izleyici.
Ürün ve UX ekipleri bu hikayede masanın başında duruyor. Caroline filmin sonunda herkesin kendi sektörünün, okulunun, ailesinin uzmanı olduğunu söylüyor. Bizim sektörümüz, yani ürün yöneticileri, tasarımcılar, kullanıcı araştırmacıları ve geliştiriciler için bu cümle bir sorumluluk tarif ediyor. Bir AI özelliğini yol haritasına alan, akışını çizen, kullanıcıyla test eden ve kodunu yazan biziz. Bir sohbet asistanının kullanıcıya ne zaman “emin değilim” diyeceğine, bir öneri sisteminin hangi durumda kararı insana bırakacağına bu masada karar veriliyor. Kullanıcının nerede kırılgan olduğunu da en iyi biz biliyoruz.
Filmin sonunda sıralanan talepler de aslında birer ürün kararı. Kullanıcı bir AI sistemiyle konuşuyorsa bunu bilmeli. Şirketler kendi ödevlerini kendileri notlamamalı, bağımsız bir değerlendirme olmalı. Bunlar regülasyon beklemeden bugün yol haritasına girebilecek maddeler.
Bu, yapısal sorunları bir tasarım ekibinin çözebileceği anlamına gelmiyor. Veri merkezlerinin su tüketimi ya da şirketler arası yarış bir sprint planlamasında çözülmez. Ama “bu bizim elimizde değil” cümlesini filmde CEO'lar da sık kuruyor. Sorumluluğu yukarı itmek, aşağı itmek kadar kolay.
Ekibinin AI kontrol listesini yaz
Yol haritandaki bir AI özelliğini al ve dört soruyu yaz: Kullanıcı AI ile konuştuğunu nerede anlıyor? Sistem hangi durumda “emin değilim” diyor? Karar hangi noktada insana geçiyor? Bu özelliği ekip dışından kim değerlendiriyor? Cevabı olmayan her satır, backlog'a girecek bir madde.
Apocaloptimist bir ekip
Filmin adındaki kelime, kıyamet ile iyimserlik arasında bir yer tarif ediyor. Roher'e göre olmaması gereken tek şey kinik olmak. Biz buna bir şey ekleyelim: sorumluluğu doğru yere koymak.
Senin ekibinde bir AI özelliği yayına çıkmadan önce kontrol listesini kim tutuyor?
Bu ürünleri biz tasarlıyor, biz yayına alıyoruz. Ameliyat masasındaysak kontrol listesi de bizim elimizde. 🧱
