Ana sayfa / Yazılar / Kısa Not
Robot durdu. Şimdi insanın ne bilmesi gerekiyor?
Duran inceleme yalnızca bildirim üretmiyor; iş bir insana geçiyor. Tek bir örnek üzerinden, yapay zekâ özetinin bu geçişi nasıl kolaylaştırabileceğine bakalım.
“İnceleme beklemede.” Bildirim, zaten başka bir işle uğraşan teknisyene geliyor. Ekranı açıyor: bir görüntü, uzun olay listesi ve devam edilip edilmeyeceğini soran düğme. Seçim yapmadan önce çok daha gündelik bir sorunun cevabına ihtiyacı var: Beni neden çağırdın?
Bu örnek iş devrinde yapay zekâ özeti gerçekten işe yarayabilir. İnsanın ihtiyacı, makinenin bütün gününü tek paragrafa sıkıştırmak değil. Bu olayın bağlantısını görmek: Ne değişti, robot neden durdu, benim katılmam neyi çözebilir? Bu bağlantıyı iyi anlatmak, dil kadar tasarım işi.
Önce neyin yarım kaldığını anlatalım
Robotun son görüntüsünde koridoru kapatan bir nesne olabileceğini düşünelim. Üst kamerada geçit açık görünüyor, ama o görüntü daha eski. Anlatı, bu uyuşmazlıkla ve incelemeye etkisiyle başlamalı. Robotun şarjdan ayrıldığı andan başlayan geçmiş, okura neden burada olduğunu aratıyor.
NIST’in AI Risk Management Framework çalışmasının da ele aldığı gibi, ortam ve sorumluluk burada önemli. İş devrindeki karşılığı somut: kişi hangi görevin durduğunu ve hangi kararın açık kaldığını görebilmeli. Yeni gözlem istemekle tartışmalı geçide hareket izni vermek aynı karar değil. [1]
İşe yarayan başlangıç gayet sade olabilir: “İki görüntü koridor hakkında uyuşmadığı için inceleme bekliyor. Robot devam etmedi. Rota değerlendirilmeden önce güncel görüntü gerekiyor.” Okur artık neden bölündüğünü ve talebin neyle ilgili olduğunu biliyor.
Cümlenin arkasındaki görüntüyü de görelim
“Koridor kapalı” cümlesi birkaç adımı gizleyebilir. Kamera görüntü aldı. Model onu yorumladı. Uygulama, mevcut görevin kendi kurallarıyla devam edemeyeceğine karar verdi. Bu parçaları ayırt edebildiğimizde, insan ilk gözlemi kaybetmeden yoruma itiraz edebiliyor.
Güven puanı bu açıklamanın yerini almamalı. Guo ve çalışma arkadaşlarının araştırması, modelin güvenini doğruluk olasılığı gibi okumadan önce neden kalibrasyon gerektiğini gösteriyor. Teknisyen için “yüksek güven” demektense görüntüyü, zamanını ve koridorun ne kadarının görülebildiğini göstermek daha işe yarar. [3]
Etkileşimli örnekte aynı olayın üç anlatımını karşılaştırabilirsiniz. Ham kayıt parçaları veriyor; odaklanmış anlatım aralarındaki bağı kuruyor. Gözlemler uyuşmadığında özet bunu kesin bir hikâyeye yumuşatmamalı. Görevi, sıradaki soruyu sormayı kolaylaştırmak.
Duran incelemeyi üç farklı biçimde anlatmak
Yardım için çağrılan teknisyen gibi okuyun. Olayı baştan kurmadan neyi anlayabiliyorsunuz?
“Görüntü alındı. Nesne algılandı. Görev bekliyor.”
- Ne değişti?
- Bilgiler ayrı kayıtlar hâlinde geliyor.
- Bu örnekte
- Örnek, aralarındaki bağı kurmadan kayıtları gösteriyor.
- İşe etkisi
- İnsan, neden yardım gerektiğini hâlâ kendisi buluyor.
“Olası engel nedeniyle inceleme durdu. Rotayı değerlendirmek için güncel görüntü gerekiyor.”
- Ne değişti?
- Özet, gözlemle duruşun bağını kuruyor.
- Bu örnekte
- Dayanak olan görüntü açılabilir kalıyor.
- İşe etkisi
- Okur, önündeki belirli soruyu görebiliyor.
“Robot engel görüyor; eski üst kamera görüntüsü, engelin şimdi bulunup bulunmadığını açıklamıyor.”
- Ne değişti?
- Gözlem zamanları ve bakış açıları farklı.
- Bu örnekte
- Anlatım iki görüşü de koruyor.
- İşe etkisi
- Sıradaki iş, farkı gizlemek değil açıklığa kavuşturmak.
Düzeltme, sonraki kişiye de yardım etsin
Teknisyen, engel sanılan şeyin orada bulunması gereken ekipman olduğunu fark ediyor. Değerli bilgi; ama kapsamı var: bu nesne, bu yer, bu gözlem. Düzeltmeyi olaya bağlamak, duruşun nedenini ve nasıl çözüldüğünü sonraki kişiye anlatıyor. İlk açıklamayı sessizce değiştirmekse hikâyeden parça eksiltiyor.
NODERIQ’te bu açıklama ve değerlendirmeyi ortak robotik işe bağlamak istiyorum. Düzeltme, birinin yeniden arayacağı yorumda kaybolmak yerine sonraki iş devrini kolaylaştırsın. Modeli de geliştirip geliştirmediği ayrı soru. İnsana yarayan kayıt için her müdahaleden otomatik öğrenme sözü vermek gerekmiyor. [2]
Böylece sonraki adım otomatikleşmeden de açık olabilir. Kişi yeni görüntü isteyebilir, rotayı değerlendirebilir ya da görevi bekletebilir. Ekran hangi seçeneğin bulunduğunu ve neyi değiştirdiğini söylemeli. Sonucunu tahmin etmek zorunda kaldığımız büyük bir “devam” düğmesinden daha faydalı.
Bekleyen inceleme sonraki adıma nasıl ulaşıyor?
Dayanaktan incelenebilir sonraki adıma
- Kararı açıkla
Şimdi neyin değerlendirilmesi gerekiyor?
- Dayanağı göster
Kaynağı, zamanı ve uyuşmazlığı görünür tut.
- Sonraki adımı belirt
İncelemeyi ve sorumluluğu açık bırak.
İyi iş devri insanın zamanını geri veriyor
En açıklayıcı deneme, aynı olayı orada olmayan birine vermek. Ekranı bir meslektaşı tercüme etmeden duruşu açıklayabiliyor, görüntüyü bulabiliyor, açık kalan soruyu söyleyebiliyor mu? Aynı kayıtlardan hazırlanmış iki özeti karşılaştırmak, hangisinin daha profesyonel duyulduğunu sormaktan fazlasını öğretir.
Bu henüz değerlendirme fikri; operatör performansına ilişkin ölçülmüş sonuç değil. Ama tasarıma insani bir amaç veriyor. Sistem, olayı yeniden kurma yükünü azaltsın ki insan dikkatini gerçekten kendi değerlendirmesini isteyen bölüme ayırabilsin.
Baştaki, işi bölünen teknisyene dönelim. İyi özet, neden çağrıldığını anlamasını, ilgili gözleme bakmasını ve belirli bir soruyu çözmesini sağlar. Ekrandan ayrıldığında sonrasında ne olduğunu da bilmelidir. Bu gündelik ölçüt, yapay zekâ için zor ama üzerine çalışmaya değer bir hedef.
Yazının arkasındaki çalışmalar
| İlgili çalışma | Bize ne anlatıyor? | Buradan çıkan soru |
|---|---|---|
| NIST AI RMF · 2023 | AI riskini bağlam, ölçüm ve sorumlulukla ele almak için çerçeve sunuyor. | Okuyan, riski ve kararı kimin verebileceğini anlayabiliyor mu? |
| Guo et al. · 2017 | Modelin güven puanını olasılık olarak yorumlamadan önce kalibrasyonun neden gerektiğini gösteriyor. | Verilen güven puanı bu ortamda ne anlama geliyor? |
| NODERIQ programı | Ortak dayanaklar, koordinasyon ve insanın karar yetkisi arasındaki ilişkiyi tarif ediyor. | Bir düzeltme, sonraki devir teslimde izlenebiliyor mu? |
Kaynaklar
- NIST: AI Risk Management Framework nist.gov
- Neura Parse: NODERIQ Research Programme neuraparse.com
- Guo et al.: On Calibration of Modern Neural Networks proceedings.mlr.press