Zusammenfassung. Menschliche Arbeit ist kein reines Videoklassifikationsproblem. Eine nutzbare Roboterfähigkeit muss Wahrnehmung, Handlung, Kontaktzustand und Abweichungen von der Demonstration verbinden. Diese Notiz beschreibt einen praktischen Lernpfad, bei dem Evaluation, Sicherheit und Daten-Governance von Beginn an berücksichtigt werden.

01 / Problem

Physische Fähigkeiten arbeiten im geschlossenen Regelkreis.

Eine Fachkraft führt keine starre Sequenz blind aus. Sie beobachtet Geometrie, Materialzustand, Werkzeugreaktion und Fortschritt, handelt und passt den nächsten Schritt an. Das Lernproblem ist daher sequentiell und teilweise beobachtbar.

Eine Beobachtung zum Zeitpunkt t kann oₜ = {RGB, Tiefe, Pose, Gelenkzustand, Kraft/Moment, Berührung, Kontext} enthalten. Das Modell erzeugt eine Aktion oder einen kurzen Aktionshorizont aₜ:ₜ₊ₕ. Entscheidend sind Synchronität, Kontakt, Unsicherheit und Wiederherstellung.

02 / Erfassung

Demonstrationen benötigen synchronisierten Kontext.

Menschliche Demonstrationen können durch aufgabenbezogene Kameras, Tiefensensoren, Bewegungserfassung, instrumentierte Werkzeuge, Handschuhe oder Teleoperation erfasst werden. Die richtige Konfiguration hängt vom Informationsengpass der Aufgabe ab.

Erhalten werden sollten:
  • zeitsynchrone Beobachtungen und Aktionen;
  • Kamerakalibrierung und Koordinatensysteme;
  • Aufgabenabsicht, Objekt- und Umgebungsmetadaten;
  • Erfolg, Eingriffe, Fehler und Erholung;
  • Einwilligung beziehungsweise Rechtsgrundlage, Zugriff und Löschfristen.
03 / Lernen

Von Imitation zu Aktionsgenerierung.

Behavior Cloning liefert eine direkte Basis: Expertenaktionen aus Beobachtungen vorhersagen. Bei geschickten Aufgaben existieren häufig mehrere gültige Lösungen. Diffusion Policy modelliert multimodale Aktionssequenzen als bedingten Entrauschungsprozess. Vision-Language-Action-Modelle ergänzen semantisches Vorwissen und Sprachsteuerung.

Solche Architekturen ersetzen jedoch nicht die anwendungsspezifische Kalibrierung, Sicherheitsgrenzen, Latenzkontrolle und Validierung.

DemonstrationenEpisodenModelllernenOffline-EvaluationKontrollierter Einsatz
04 / Generalisierung

Diversität ist Teil des Modells.

Open X-Embodiment kombinierte mehr als eine Million reale Robotertrajektorien über 22 Robotertypen in einem gemeinsamen Format. DROID sammelte 76.000 Trajektorien in Hunderten realen Szenen. Die technische Lehre: Breite, strukturierte Erfahrung unterstützt Transfer; enge Datensätze fördern fragile Abkürzungen.

Neben Menge zählen Beleuchtung, Unordnung, Objektvarianten, Verschleiß, Verdeckung, menschliche Eingriffe und unterschiedliche Ausgangszustände. Evaluationssplits müssen verhindern, dass Wiedererkennung als Generalisierung erscheint.

Zwei Roboterplattformen führen bei der plattformübergreifenden Anpassung dieselbe Manipulationsaufgabe aus
Anpassung an RobotersystemeEine nützliche Fähigkeit muss den Wechsel von Roboter, Werkzeug und Betriebskontext überstehen.
05 / Einsatz

Autonomie sollte stufenweise erweitert werden.

Ein gelerntes Modell sollte von Offline-Metriken über Simulation und instrumentierte Labortests zu einem begrenzten Betriebspiloten gelangen. Jede Stufe benötigt Eintritts- und Austrittskriterien.

Aufgabe

Erfolg, Qualität und Zykluszeit.

Robustheit

Leistung unter kontrollierter Variation.

Erholung

Erkennung, Wiederholung und Eskalation.

Sicherheit

Grenzverletzung und Eingriffsspielraum.

Menschliche Aufsicht ermöglicht das sichere Sammeln aussagekräftiger Randfälle. Die Autonomiegrenze erweitert sich erst, wenn die Evidenz dies trägt.

06 / GappAI-Richtung

Eine wiederverwendbare Fähigkeitsebene für reale Arbeit.

GappAI verbindet Expertendatenerfassung, multimodales Lernen, Anpassung an Robotersysteme und Einsatzabsicherung in einem Entwicklungszyklus. Langfristig geht es nicht um ein separates Skript für jede Aufgabe, sondern um übertragbare physische Fähigkeiten.

Dies ist eine Forschungsrichtung und kein Bericht über bereits erreichte Produktleistung. Künftige Veröffentlichungen werden Hypothesen, Versuchsergebnisse und Einsatzevidenz klar unterscheiden.

Literatur
  1. Open X-Embodiment Collaboration. Open X-Embodiment, ICRA 2024.
  2. Khazatsky et al. DROID, RSS 2024.
  3. Chi et al. Diffusion Policy, RSS 2023.
  4. Black et al. π₀, 2024.