A Trustworthy AI for Europe

MaMa (Malfunction Management)*: Es erfolgt eine ausdrückliche Distanzierung von der Veröffentlichung über TUCaN für das WiSe 2024/2025. Auch die derzeitige (Stand 27.02.2025) TUCaN Veröffentlichung mit Auszügen aus dem Modulhandbuch befindet sich in Überarbeitung. Deswegen erfolgt die ergänzende Vorveröffentlichung über Moodle. Dieses klare Bekenntnis für Suboptimalität einer Veröffentlichung entspricht dem CREDO der Autorin in Malfunction Management (MaMa). So what? Es geht um Weltverbesserung durch den Einsatz von Technologien und/oder das Assessment der rechtlichen Grenzen der technischen Use-Cases und Opportunities. Zugrundegelegt wird eine WELTRECHT^2-Perspektive, die durch Nachhaltigkeit durch Technologie und nachhaltiges Recht gekennzeichnet ist. Der avisierte DidaktiKInkubator im Sommersemester 2025 ist deswegen eine Legal-Tech-AI, die auch Nachhaltigkeitsbilanzen der Prompts enthält. A. Didaktischer Lehr-, Lern- und Forschungsinkubator seit 2020 Auch im Sommersemester 2025 bietet das Fachgebiet Öffentliches Recht das Modul „Europäisches (KI) Recht“ an. Bei dem Doppelmodul handelt es sich um Pionierlehre im „Innovationsrecht“ (eigene Terminologie). Die Mitwirkung der Studierenden wie Doktoranden** ist essentiell – für Kritik, die immer Voraussetzung für Verbesserung ist - ist Viola Schmid erreichbar: schmid@cylaw.tu-darmstadt.de B. Doppelmodul – Kein KI-Recht ohne Unionsrecht und kein Unionsrecht ohne KI-Recht! In einer quantitativen Betrachtung sollte die „Geltung" von Recht in 27 EU-Mitgliedsstaaten und für 446 Millionen Unionsbürger Kernausbildungsmaterie sämtlicher Studierender und Cyber Citizen sein. Konsequent setzt die zweiteilige Veranstaltung die Vorlesungen der Professorin zu Europarecht des letzten Jahrzehnts fort. Das Modul besteht aus der Veranstaltung „Europarecht (Recht- & Juristenmanagement)“ sowie „A Trustworthy AI for Europe“. Beide Bestandteile ergänzen sich – deswegen erfolgt auch eine parallele Veröffentlichung bei Moodle. Überzeugung ist, dass jedes Europarechtslehrbuch ohne KI-Recht und jedes KI-Rechtslehrbuch ohne Vermittlung aktueller unionsrechtlicher und deutscher (verfassungs)rechtlicher Entwicklungen in 2024 als unvollständig zu bezeichnen ist. Die Erweiterung des (digitalen) Binnenmarkts (Art. 26 Abs. 2 AEUV) um KIs ist so bedeutsam für die Überlebenschancen der Wirtschaft, der Staaten und der Menschen in der Europäischen Union, dass auch 2025 dieses Postulat erhoben werden kann („sine qua non“-Verhältnis). Aus rechtswissenschaftlicher Perspektive ist spätestens mit dem „AI Act“ aus 2024 (Verordnung (EU) 2024/1689) und der Biden-Executive-Order aus 2023 festzuhalten: Es handelt sich um eine neue Rechtsdisziplin im Werden. Besondere Bedeutung haben erste Gerichtsentscheidungen – unionale wie deutsche. Aus einer bottom-up-Perspektive ist etwa auch die potenziell wegweisende Rechtsprechung des Bundesverfassungsgerichts (zuvor Automated Dataanalysis I/HessenDATA, Urteil des BVerfG vom 16.02.2023 – 1 BvR 1547/19, 1 BvR 2634/20 und zuletzt Bundeskriminalamtgesetz II, Urteil des BVerfG vom 01.10.2024 - 1 BvR 1160/19) verständig einzubeziehen. C. Integration von „KIs“ (Legal Techs) in die integrierte Veranstaltung aus „Vorlesung“ und „Übung“ Seit Wintersemester 2024/2025 wird in der „Übung“ nicht nur eine „(N)Etikette“ für die Integration von KI-Generaten entwickelt, getestet und demonstriert, sondern auch KIs werden beispielsweise mit der Thematik „Was ich (als Cybercitizen) über die KI-VO wissen sollte“ herausgefordert und gefördert. Legal Prompt Engineering, wie die Evaluation der KI-Generate werden und wurden mit Studierenden unterschiedlichster Fachrichtungen (von der Cognitive Science über die (Wirtschafts)Informatik...) projektiert wie eingeübt. Diese Konsultation unterschiedlicher KIs ist derzeit bereits in wissenschaftspopulären Artikeln Standard (Gastbeitrag von Oliver Vetter und Peter Buxmann in der F.A.Z. vom 18.02.2025, Künstliche Intelligenz würde rot oder grün wählen, S. 8). Die rechtswissenschaftliche Arbeit im Sommersemester 2025 plant den Einsatz eines „KI-Systems“, das nicht nur speziell in Bezug auf die KI-VO trainiert ist, sondern auch eine Nachhaltigkeitsbilanz von Prompts und Antworten anbietet (Kontakt mit Anbieter etabliert). Es handelt sich damit um einen „DidaktiKInkubator“, der geeignet ist über die wenigen vorhandenen Kommentare und Lehrbücher hinaus aktuelle Informationen zu generieren. DEMONSTRATOR: Die Guidelines der Kommission zu „KI-Systemen“ vom 06.02.2025 (C(2025) 924 final) sind in diesen Werken nicht enthalten. Die Notwendigkeit kontinuierlich Updates ergibt sich auch aus Rn. 64, Satz 2 der nicht-bindenden Guidelines, die in einer zentralen Frage gerade keine Stellung nehmen: „The analysis on the differences between AI systems and general-purpose AI models is outside the scope of these Guidelines.” *„MaMa“ ist ein Neologismus der Autorin, der angesichts der Herausforderungen der digitalen Transformation für die deutsche Rechtsprechung – von der Justiz zur E-Justiz – 2014 konturiert wurde. Auch rückblickend lässt sich festhalten: Die Forderung nach Malfunction-Management als Rechtsprinzip wie –anspruch hat den test of time („tot“) bestanden. So war etwa auch das deutsche Bundesverwaltungsgericht im April 2023 für mehrere Tage nicht mit dem elektronischen Gerichts- und Verordnungspostfach (EGVP) erreichbar. Siehe für zukunfts(rechts)wissenschaftliches Legal Design in 2014: Schmid zu § 55a und § 173 VwGO in: Sodan/Ziekow (Hrsg.), Kommentar zur Verwaltungsgerichtsordnung, 4. Auflage 2014, § 55a Rn. 26, 38, 39, 64, 87,121; § 173 Rn. 19 Fn. 44. **„Die Verwendung männlicher Sprache erfolgt im Interesse von Klarheit, Kürze und Einfachheit (KKE-Formel). Eine Negation der Existenz weiblicher Kompetenz ist damit nicht verbunden – vielmehr die Bitte, das grammatische Maskulinum nicht auf das biologische Geschlecht zu reduzieren.“