AI ürünü kullanıcının parasına, kararına ya da dikkatine dokunduğunda güven neye dayanıyor? Reklamı cevaptan ayıran, agent önerisini insan onayına bağlayan ve para hareketini modelden alan üç ekip anlatıyor.
OpenAI, Worldwide Express ve Arca farklı işler yapıyor: sohbette reklam, fatura istisnası, servet yönetimi. Üçünde de güveni taşıyan şey arayüz metni değil, sistemin nasıl bölündüğü. Riskli adım ya ayrı bir servise, ya insan onayına ya da deterministik koda bırakılmış. Görünürlük bunun üzerine geliyor: bir etiket, sade bir not, ne yapıldığını anlatan kısa bir açıklama.
OpenAI, ChatGPT’ye reklam eklerken klasik reklam sistemlerinin tek bir arama ya da sayfa görüntülemesine tepki verdiğini, sohbette ise niyetin birçok turda oluştuğunu gördü. Reklam seçimini cevabı üreten akıştan ayrı, kendi modelleri ve koduyla çalışan bir servise taşıdı; reklam sistemi yavaşlasa ya da çökse bile cevap etkilenmiyor. Reklam, sohbetle ilişkisini anlatan kısa ve nötr bir model girişiyle, cevabın altında “sponsorlu” etiketiyle gösteriliyor; cevap bitmeden hazır değilse o turda hiç gösterilmiyor. Ekip reklam göstermemeyi sıradan ve başarılı bir sonuç olarak tanımladı, kişiselleştirmeyi kullanıcının tercihine bağladı. ChatGPT Ads 200 günden kısa sürede 1 milyar dolarlık yıllık gelir hızına ulaştı.
Worldwide Express’te LTL faturalarının yaklaşık yüzde 14’ü üçlü eşleşmeden geçemiyor, her istisna beş adımlı manuel bir süreçle tek tek çözülüyordu. Şirket fatura eşleştirme, fiyat farkı ve ek ücret doğrulama için üç ayrı agent kurdu; agent’lar TMS’e analistlerin kullandığı API’lerle bağlanıyor ve karar vermeden önce ilgili taşıyıcının politika ve SOP dokümanlarını çekiyor. FinOps ekibinin benimsemesi için ilk dönemde her öneri, insan bir inceleyicinin mevcut arayüzde onayından geçti. Reddedilen her öneri kaydedildi, ekip prompt’ları ve bilgi tabanlarını bu ret geçmişine göre düzeltti; her çözümden sonra sistem ne bulduğunu ve ne yaptığını anlatan sade bir not yazdı. İsabet yüzde 99’u aşınca toplu onay varsayılan oldu; altı ayda 40’tan fazla taşıyıcıda haftada yaklaşık 10.000 istisna yüzde 1’in altında hatayla kapandı.
Arca’da agent görevleri on güne kadar sürüyor; arada çok sayıda aktör, karar noktası ve el değiştirme var. Şirket analiz ve çözüm önerisini agent’lara verdi, ama para hareketi ve varlık likidasyonunu otomatik yapamayacakları biçimde kurdu; bu adımlarda insan danışmanın onayı zorunlu. Güvenlik kısıtlarını modelin yargısına bırakmadı, tamamen deterministik kurallarla uyguladı. Agent hesaplama için kod yazdığında bu kod sandbox’ta çalışıyor, sonuç beklenen katı bir formata çevriliyor, kod atılıyor ve çıktı backend’e ulaşmadan guardrail’lerden geçiyor. Prompt injection gibi bilinen sorunlar için ayrıca kontrol koşuyorlar.
AI özelliği eklemek kolaylaştı, kullanıcının o özelliğe güvenmesi kolaylaşmadı. Bir model para hareketi önerdiğinde, bir faturayı kapattığında ya da cevabın altına reklam koyduğunda kullanıcının ilk sorusu “buna neden inanayım” oluyor.
Bu soruyu güveni yalnızca arayüz katmanında arayan ekipler için sorduk. Bu kararı kendi ürününde veren ekiplerin neyi modelden aldığını, neyi insana bıraktığını ve neyi gösterdiğini yan yana koymak istedik.
Tasarım, ürün ve yapay zekadan seçtiğimiz en iyi okumalar, iki haftada bir çarşamba posta kutunda.
