Harness mühendisliği: modelin etrafındaki sistem

Bir ajan kodu değiştirir, bir komut çalıştırır ve işin yapıldığını ilan eder. Yama akla yatkın görünüyor. Özet ikna edicidir. Daha sonra biri uygulamayı açar ve özelliğin hiç çalışmadığını bulur.

İkna edici bir anlatım ile doğrulanmış sonuç arasındaki boşluk, ajan çalışma altyapısının tasarımını gerekli kılar. Daha güçlü bir model daha az hata yapabilir. Daha uzun bir istem, çalışmasını kontrol etmesini hatırlatabilir. Ancak bunların hiçbiri tek başına, çevresindeki yazılıma gerçekte ne olduğunu güvenilir biçimde belirleme imkânı vermez.

Eksik parça, modelin etrafındaki sistemdir: bağlamı yöneten, eylemleri kontrol eden, durumu koruyan ve tamamlamayı kabul etmeden önce kanıt isteyen katman.

Model sistemin bir parçasıdır.

Model bir görev üzerinde akıl yürütebilir ve sonraki eylemi önerebilir. Çalışma altyapısı; modelin neleri gözlemleyebileceğini, hangi araçları çağırabileceğini, çağrıların neleri değiştirebileceğini ve sonuçların bir sonraki adımın bağlamına nasıl gireceğini belirler. Ortam ise eylemlerin gerçekle buluştuğu yerdir: bir depo, veritabanı, tarayıcı, bir hizmet veya insan.

Hailin Zhong ve Shengxin Zhu’nun Mayıs 2026 tarihli Yapay Zekâ Ajanları için Çalışma Altyapısı ön baskısı bu çerçeveyi kullanıyor. Önerdikleri H0–H3 basamakları; araçları, kalıcı bağlamı ve doğrulamayı aşamalı ekler. Yararlı ayrım, her aşamanın geride bıraktığı kanıttır.

Makale, kontrollü bir doğrulama görevi içeriyor; genel bir performans yasası ortaya koymuyor. Bunu yararlı bir mimari öneri olarak okuyorum. Analiz birimini bütün sistem yapıyor; yürütme kanıtını son kod değişikliği kadar önemli kılıyor.

Çalışma altyapısına açık bir görev verin

Pratikte, çalışmayı yedi sorumluluğa ayırırım. Sınırlar terminolojiden daha önemlidir: Her sorumluluk modelin bir sonraki cevabının dışında bir mal sahibine ihtiyaç duyar.

Sözleşme

Görevi, yapıldığı gibi sayılan kanıtları ve bir çalıştırmayı sona erdiren koşulları tanımlayın.

Bağlam

Bu adım için ilgili kaynakları, talimatları ve önceki kararları seçin.

Durum ve bellek

Önerileni, deneneni ve gerçekte tamamlananı ayırt edin.

Araçlar

Doğrulanmış girdiler ve kullanışlı, sınırlı sonuçlarla açık işlemleri açığa çıkarın.

Yetki

Erişim kurallarını zorlayın ve bir eylem izin verilen kapsamını geçmeden önce onay isteyin.

Doğrulama

Testlere, kaynaklara, işlem kayıtlarına veya çalışan ürüne karşı iddiaları kontrol edin.

Hata sonrası toparlanma

Kayıt başarısızlıkları, bağlı geri dönüşler ve onarım veya insan teslimi için bir rota sağlar.

Bunlardan bazıları sıradan yazılım mühendisliğidir: şemalar, durum makineleri, erişim kontrolleri ve günlükler. Zorluk, bu parçaları bir sonraki eylemi tam olarak öngörülebilir olmayan bir bileşenin etrafına koymaktır. İyi mimari, bu belirsizliği ortadan kaybolmuş gibi görünmeden yönetilebilir hale getirir.

Kuralı eylemin gerçekleştiği yere koyun

Onay gerektiren bir geri ödeme düşünün. Hızlıca "birine önce sor" yazmak kuralı ifade eder. Yürütme sınırında bir onay kaydını kontrol etmek bunu zorlar.

Ayrım somuttur. Araç, ödeme hizmetine bir şey göndermeden önce onayın bu eyleme, bu tutara ve bu alıcıya ait olduğunu doğrulamalıdır. Model ücret iadesi önerebilir; ancak iadeyi yapma yetkisini kendisi oluşturamaz.

Joongho Ahn ve Moonsoo Kim, Temmuz 2026 tarihli İstemlerden sözleşmelere ön baskısında bu yaklaşımı inceliyor. Değiştirilebilir modelin çevresindeki koda kaynak sınırları, yönlendirme kuralları, işlem izi gereklilikleri ve çıktı kontrolleri yerleştiriyorlar. Kodun yönettiği kontroller, üç barındırılan modelle 270 bileşim sınırı deneyi boyunca korundu; kasıtlı hatalar doğrulayıcıları tetikledi.

Kapsam önemli: Beş Koreli şirket grubunun herkese açık verileri üzerindeki sabit senaryolar. Sonuçlar yaklaşımı bu değerlendirme kapsamında destekliyor. Doğrulayıcı eklemenin her ajan davranışını doğru yapacağı anlamına gelmiyor. Bir kontrol yalnızca incelemek üzere tasarlandığı özelliği güvenceye alabilir.

Bir reddetmeyi kabul edebilecek bir döngü oluşturun

İstemler hâlâ önemlidir. Açık araç tanımları belirsizliği azaltır; seçilmiş bağlam, modelin sonraki kararı için daha iyi bir temel sağlar. Anthropic’in Ajanlar için etkili araçlar geliştirmek çalışması bunu araç adları, açıklamalar ve yanıt tasarımı üzerinden somutlaştırır.

Ancak yararlı talimatlar daha büyük bir döngünün içine oturur. Model bir eylem önerdikten sonra, bir şeyin çalışıp çalışmayacağını ve çalışıp çalışmayacağını belirlemelidir.

Çek, modelin kendi çalışmasının hesabının ötesine ulaşmalıdır. Bir kodlama ajanının değişime karşı testlere ihtiyacı vardır. Bir dağıtım, çalışan hizmet üzerinde bir sağlık kontrolüne ihtiyaç duyar. Bir veritabanı eyleminin bir işlem sonucuna ihtiyacı vardır. "Cevabınızı gözden geçirin" ifadesinin tekrarlanması, bu sinyallerden herhangi birini oluşturmaz.

Anthropic’in Etkili ajanlar geliştirmek çalışması bunu gerçek durumu ortamdan öğrenmek olarak tanımlar. Sonraki uzun süre çalışan ajanlar üzerine çalışmalar çalışması yaklaşımı somutlaştırır: kalıcı ilerleme kayıtları, özellik listesi ve gerçek uygulamayı sınayan tarayıcı testleri. Bunlar, sonraki adımı gözlenebilir duruma bağlar.

İzi okuyun, sonra sonucu kontrol edin

Başarılı bir son yanıt; gereksiz tekrarları, yanlış araç çağrısını veya geç istenen onayı gizleyebilir. İşlem izi bu süreci incelenebilir kılar. Sonuç kontrolleri ise sürecin gerçekte ne başardığını gösterir.

Anthropic’in Yapay zekâ ajanlarının değerlendirmesini anlamak çalışması, değerlendirmeyi modelin, çalışma altyapısının, araçların ve ortamın birlikte sınanması olarak ele alır. Pratik derslerden biri, geride kalan durumu ölçmektir: dosya değişti mi, testler geçti mi, beklenen kayıt oluştu mu? İşlem dökümü ise sistemin bu sonuca nasıl ulaştığını açıklar.

Bu nedenle işlem izleri, ürünün operasyonel kaydının parçasıdır. Araç çağrılarını, politika kararlarını, onayları, sonuçları ve arızayı incelemeye yetecek bağlamı içermeli; hassas veriler uygun şekilde korunmalıdır. İyi yazılmış tamamlanma mesajı okuyucuya yararlıdır; bu kaydın yerini tutmaz.

Kendi çalışmalarımla bağlantısı

Bu soruna özerklik ve bir kişiye teslim yoluyla geldim. Bir makine bir eylem önerir, ancak bunun arkasındaki kanıtlar genellikle kişinin karar vermesinden önce kaybolur.

NODERIQ, bulguların kararı verecek kişiye ulaşmasını ele alır. NowFlow, onayı açık bir yönlendirme adımı hâline getirir. QFlow Studio, deneyin yeniden kurulabilmesi için çalışma tanımını, üretilen kodu, sağlayıcı yolunu ve çalıştırma kayıtlarını bir arada tutar. Yönettiğim ajan tabanlı yazılım testi çalışmaları içinde değerlendirme ve gözetim, kullanıma alma kararından önce gelir.

Bu sistemler farklı alanlarda çalışır, ancak aynı mimari soruyu karşılarlar: Bir öneri otoriteyi nereden edinir ve eylemden hangi kanıtlar kurtulur?

Tasarım şu an için bir şeyler ters gidiyor

Bir ajan sisteminin en açıklayıcı incelemesi başarısız bir çalışmayla başlar. Ne gördüğünü söyleyebilir miyiz? Denediği eylemi yeniden yapılandırabilir miyiz? Bir politika zamanında durdurdu mu? Bir sonraki girişim zaten ne olduğunu biliyor mu?

Bu sorular, ajan çalışma altyapısını somut bir tasarım konusuna dönüştürür. İşe başlamadan tamamlanma ölçütünü belirleyin. Eylemin gerçekleştiği noktaya uygulanabilir kurallar koyun. Kesintiden sonra devam edebilmek için yeterli durumu saklayın. Sonucu gerçek ortamda doğrulayın.

Yetenekli bir model olasılıklar yaratır. Çevredeki sistem hangi olasılıkların güvenilir iş haline geldiğini belirler.