Der Roboter steht. Was muss der Mensch jetzt wissen?

„Inspektion wartet.“ Die Meldung erreicht eine beschäftigte Fachkraft. Auf dem Bildschirm stehen ein Bild, viele Ereignisse und die Frage nach der Fortsetzung. Zuerst fehlt die einfache Erklärung: Warum werde ich gebraucht?

Hier kann eine KI-Zusammenfassung helfen. Gefragt ist nicht der gesamte Maschinentag in Kurzform, sondern der Zusammenhang dieses Ereignisses: Was änderte sich, warum wurde pausiert und was kann die Person klären? Das ist auch eine Entwurfsfrage.

Mit der Unterbrechung beginnen

Ein aktuelles Roboterbild deutet auf ein Hindernis. Die Aufnahme von oben zeigt scheinbar einen freien Gang, ist aber älter. Dieser Widerspruch und seine Folge gehören an den Anfang, nicht die ganze Fahrt seit der Ladestation.

Kontext und Verantwortung sind auch Themen des NIST AI Risk Management Framework. Praktisch müssen Aufgabe und offene Entscheidung sichtbar sein. Eine neue Beobachtung anzufordern ist etwas anderes, als Bewegung in den unklaren Gang freizugeben. ^[1]

Ein einfacher Einstieg genügt: „Die Inspektion wartet wegen widersprüchlicher Bilder des Gangs. Der Roboter ist nicht weitergefahren. Vor einer Routenprüfung wird eine aktuelle Sicht benötigt.“ Damit ist der Anlass verständlich.

Die Beobachtung hinter dem Satz zeigen

„Der Gang ist blockiert“ verbirgt mehrere Schritte: Aufnahme, Interpretation und die Anwendungsentscheidung zur Pause. Ihre Trennung ermöglicht, die Interpretation infrage zu stellen, ohne die Beobachtung zu verlieren.

Ein Konfidenzwert ersetzt das nicht. Guo und Kollegen untersuchen die nötige Kalibration solcher Werte. Für die Fachkraft sind Bild, Aufnahmezeit und sichtbarer Ausschnitt hilfreicher als ein unerklärtes „hohes Vertrauen“. ^[3]

Vergleiche im Beispiel drei Fassungen desselben Ereignisses. Einzelaufzeichnungen liefern Teile, die Zusammenfassung verbindet sie. Widerspruch soll erhalten bleiben. Die nächste hilfreiche Frage muss leichter werden.

Abbildung 1

Eine pausierte Inspektion, drei Erklärungen

Lies als hinzugezogene Fachkraft. Was wird ohne eigene Rekonstruktion verständlich?

Eine Situation wählen

EinzelaufzeichnungenVerbundene ErklärungDie Bilder widersprechen sich

1. BeobachtungWas wurde tatsächlich erfasst?
2. InterpretationWas schließt das Modell daraus?
3. EntscheidungWas darf ein Mensch freigeben?

„Bild empfangen. Objekt erkannt. Aufgabe wartet.“

Was hat sich geändert?

Information erscheint in einzelnen Einträgen.

In diesem Beispiel

Das Beispiel zeigt Einträge ohne ihren Zusammenhang.

Bedeutung für die Arbeit

Die Person muss den Anlass selbst finden.

„Die Inspektion pausiert wegen eines möglichen Hindernisses. Eine aktuelle Sicht wird benötigt.“

Was hat sich geändert?

Die Zusammenfassung verbindet Beobachtung und Pause.

In diesem Beispiel

Das zugehörige Bild bleibt zugänglich.

Bedeutung für die Arbeit

Die konkrete Frage wird erkennbar.

„Der Rover sieht ein Hindernis; das ältere Bild von oben klärt die aktuelle Lage nicht.“

Was hat sich geändert?

Aufnahmezeiten und Blickwinkel unterscheiden sich.

In diesem Beispiel

Die Erklärung erhält beide Sichten.

Bedeutung für die Arbeit

Der Unterschied soll geklärt, nicht verborgen werden.

Eine Korrektur soll auch der nächsten Person helfen

Die Fachkraft erkennt reguläre Ausrüstung. Die Korrektur gilt für dieses Objekt, diesen Ort und diese Beobachtung. Beim Ereignis aufbewahrt erklärt sie Pause und Klärung. Die erste Beschreibung still zu ersetzen würde später eine Lücke hinterlassen.

NODERIQ verbindet solche Erklärung und Prüfung mit gemeinsamer Roboterarbeit. Eine Korrektur soll die nächste Übergabe erleichtern. Ob sie das Modell verbessert, ist gesondert zu untersuchen; der Nutzen der menschlichen Aufzeichnung steht für sich. ^[2]

Der nächste Schritt kann klar sein, ohne automatisch zu werden: neues Bild, Routenprüfung oder weiteres Warten. Die Oberfläche sollte die verfügbaren Möglichkeiten und ihre Wirkung erklären. Ein unklarer Fortsetzen-Knopf genügt nicht.

Abbildung 2

Wie die Inspektion einen nächsten Schritt findet

Vom Beleg zum prüfbaren nächsten Schritt

1. 01Entscheidung benennen

   Was erfordert jetzt Aufmerksamkeit?

   ↓
2. 02Grundlage zeigen

   Quelle, Zeit und Widerspruch sichtbar halten.

   ↓
3. 03Nächsten Schritt nennen

   Prüfung und Verantwortung klar benennen.

Eine gute Übergabe spart Zeit

Eine unbeteiligte Person kann Pause, Bild und offene Frage benennen? Zwei Zusammenfassungen derselben Daten so zu vergleichen wäre aussagekräftiger als ein Urteil über ihren professionellen Klang.

Das ist ein Evaluationsvorschlag, kein gemessener Leistungsgewinn. Er gibt dem Entwurf einen menschlichen Zweck: weniger Rekonstruktion, mehr Aufmerksamkeit für die wirklich offene Entscheidung.

Zurück zur unterbrochenen Fachkraft: Sie versteht den Anlass, prüft die Beobachtung und klärt eine konkrete Frage. Danach weiß sie, wie es weiterging. Dieser alltägliche Maßstab ist für KI anspruchsvoll und sinnvoll.

Abbildung 3

Die Forschung hinter dem Beitrag

Zum Weiterlesen	Der hilfreiche Gedanke	Die nächste Frage
NIST AI RMF · 2023	Der hilfreiche Gedanke Verbindet KI-Risikoarbeit mit Kontext, Messung und verantwortlichem Umgang.	Die nächste Frage Erkennt die lesende Person das Risiko und die zuständige Entscheidungsstelle?
Guo et al. · 2017	Der hilfreiche Gedanke Zeigt die Bedeutung der Kalibration vor einer probabilistischen Deutung von Konfidenzwerten.	Die nächste Frage Was bedeutet die gemeldete Konfidenz in diesem Einsatz?
NODERIQ-Programm	Der hilfreiche Gedanke Beschreibt das Verhältnis zwischen gemeinsamen Belegen, Koordination und menschlicher Befugnis.	Die nächste Frage Lässt sich eine Korrektur bis zur nächsten Übergabe verfolgen?

Quellen

1. NIST: AI Risk Management Framework nist.gov
2. Neura Parse: NODERIQ Research Programme neuraparse.com
3. Guo et al.: On Calibration of Modern Neural Networks proceedings.mlr.press