Transparency and Dependability for Autonomous Systems - The Symbolic Way

Ein autonomes System ist eine physische oder virtuelle Einheit, die ihre Umgebung wahrnehmen, schlußfolgern und planen sowie agieren kann, um Aufgaben selbstständig auszuführen. Solche Systeme, wie beispielsweise autonome Roboter, müssen eine Balance zwischen Entscheidungsautonomie – der Fähigkeit, in dynamischen, unstrukturierten Umgebungen frei zu agieren – und Zuverlässigkeit finden, um unter allen Bedingungen Sicherheit und Verlässlichkeit zu gewährleisten. Die Entwicklung dieser Systeme stellt aufgrund der Komplexität der Umgebung, der Unsicherheit bei der Wahrnehmung und dem Agieren sowie des Nichtdeterminismus der Interaktion mit der Umgebung eine große Herausforderung dar. Sie erfordern Online-Planung, adaptive Schlussfolgerungen und Echtzeit-Lernen, um mit unbekannten Situationen umgehen zu können. Während maschinelles Lernen die Wahrnehmung und Steuerung verbessert hat, bleibt die Integration in höhere Entscheidungsprozesse schwierig. Die Gewährleistung von Sicherheit und die Verhinderung gefährlichen Verhaltens erfordern eine kontinuierliches Monitoring, Adaption und Verifikation. Das Gleichgewicht zwischen Autonomie und Zuverlässigkeit ist der Schlüssel für den Einsatz dieser Systeme in Bereichen wie Logistik, Fertigung, Katastrophenschutz und Servicerobotik. In diesem Seminar befassen wir uns mit klassischen modellbasierten symbolischen Techniken zur Realisierung transparenter und zuverlässiger Systeme. Diese Techniken behandeln verschiedene Aspekte eines autonomen Systems, wie Hardware, Software-Realisierung und den Wahrnehmungs-Entscheidungs-Handlungs-Zyklus, und ermöglichen deren Modellierung und Überwachung. Darüber hinaus zielen die Techniken darauf ab, transparente Erklärungen für auftretende Probleme oder unerwartete Ereignisse zu liefern. Wir beginnen mit einer symbolischen Betrachtung des Themas und werden später zu subsymbolischen Methoden aus dem Bereich des maschinellen Lernens und großen Sprachmodellen überleiten. Das Seminar behandelt insbesondere die folgenden Themen: Planung und Ausführungsüberwachung, logikbasierte Agentenüberwachung, Erklärungsgenerierung für Fehler in Robotersystemen, Runtime Verification für Behavior Trees, Modellierung und Diagnose autonomer Systeme, lernbasierte Methoden und LLMs für Diagnose, Runtime Verifikation von BDI-Systemen.