Würzburg, 14.10.2019. Autonome Systeme werfen verschiedene Fragen hinsichtlich der juristischen Verantwortung, der ethischen Gestaltung sowie der technischen Umsetzbarkeit auf. Das Zentrum Digitalisierung.Bayern (ZD.B) lud gemeinsam mit dem Bayerischen Forschungsinstitut für digitale Transformation (bidt), Bayern Innovativ und der Forschungsstelle RobotRecht der Universität Würzburg zu einem Themennachmittag „autonome Mobilität“ ein.

Nur wenige Technik-Themen polarisieren in der medialen und gesellschaftlichen Debatte so sehr wie das autonome Fahren, wobei die individuellen Einschätzungen irgendwo zwischen Faszination und Ablehnung schwanken. Die ZD.B-Themenplattformen Digitalisierung in Bildung, Wissenschaft und Kultur sowie Vernetzte Mobilität beleuchteten das Thema während einer gut besuchten Veranstaltung an der Universität Würzburg gleichermaßen aus den Perspektiven Recht, Ethik und Technik.

Den Nachmittag eröffnete eine juristische Einführung des Gastgebers Prof. Dr. Eric Hilgendorf. Er betonte die Aufgabe des Rechts, technologische Entwicklungen von Anfang an zu begleiten und zu regulieren. Neue Technologien bewegen sich grundsätzlich nie im rechtsfreien Raum, sondern die Grundrechte des demokratischen Rechtsstaats, Strafrecht und Zivilrecht gelten für sie gleichermaßen von Beginn an. Die Frage, wie Technik reguliert werden soll, sei sowohl ethisch als auch juristisch interessant. In der Entwicklung stehen zunächst die ethischen Fragen im Vordergrund, wenn es im Fortgang dann um konkrete Regulierungen gehe, sei die Jurisprudenz gefragt. Anhand von Dilemma-Situationen, den sogenannten Trolley-Beispielen, die auch die Ethikkommission zum Autonomen Fahren untersuchte, veranschaulichte er, dass eine ethisch zumutbare Programmierung autonomer Systeme sehr schwierig ist. Welche Überlegungen und Abwägungen in Einzelfällen zu treffen sind, ob beispielsweise bei einem autonomen Fahrzeug, das in einem intelligenten Parkhaus ein Kind gefährdet, die Vorsatzstrafbarkeit oder Fahrlässigkeitsstrafbarkeit greift, ob es sich um Sorgfaltspflicht oder erlaubtes Risiko handelt, fokussierten seine beiden Korreferentinnen Anna Lohmann und Annika Schömig.

Prof. Dr. Julian Nida-Rümelin, Philosoph an der LMU München und Sprecher der ZD.B-Themenplattform Bildung, Wissenschaft, Kultur unterstrich in seinem Vortrag, dass Künstliche Intelligenz auf keinen Fall die zivile Verfasstheit zerstören dürfe. Er führte aus, dass Software-Systeme keine Agenten darstellen und aufgrund dessen auch nicht haftbar gemacht werden können. Haftbar sind allein die hinter den Systemen stehenden Menschen, seien diese Informatiker*innen, Unternehmer*innen oder Nutzer*innen. Er warnte davor, Kausalität nicht mit Korrelationen zu verwechseln, um nicht den Anschein der genauen Ursächlichkeit zu vermitteln. Zudem gefährdet ein Animismus einen humanistischen Umgang mit der Technik, da eine Vermenschlichung autonomer Systeme die Unterschiede zwischen Mensch und Technik verschleiere. Korreferent Antonio Bikic hob den Aspekt der Verantwortung stärker hervor und präzisierte ihn in Bezug auf autonome im Vergleich zu naturwissenschaftlich beschreibbaren Systemen.

Informatikerin Alexandra Kirsch stellte fest, dass autonomes Fahren an sich kein neues Thema darstelle, da schon 1987 erste autonome Testfahrten durchgeführt wurden. Sie führt aus, an welchem Punkt der Entwicklung die Technik derzeit stehe, so könnten Fahrzeuge, wie sie aktuell im Handel erhältlich sind, lediglich einen assistierten Fahrspurwechsel vornehmen, Geschwindigkeiten anpassen und Hindernisse als solche erkennen, ohne die Spezifikation, um was es sich hierbei handelt. Als die drei zentralen Probleme benennt sie die Komplexität und damit Fehlerhaftigkeit von Software-Systemen, die Wartung und damit einhergehende IT-Sicherheit sowie eine Unzuverlässigkeit, die lediglich auf ein Minimum reduziert, nicht aber ausgeschlossen werden kann.

Sie schloss mit den beiden Thesen, dass die Annahme, autonome Autos seien wie menschliche Fahrer*innen nur besser (oder es bald sein werden), falsch sei. Tatsächlich könne man autonome Fahrzeuge eher mit Excel vergleichen, nur dass sie komplexer und unzuverlässiger seien. Deshalb müssten wir uns nicht auf große technische Neuerungen vorbereiten, sondern vielmehr jetzt entscheiden, wie wir vorhandene Technik für uns einsetzen möchten.

Korreferent Adriano Mannino ordnete die anstehenden technologischen Entwicklungen zwischen den Extremen Utopie und Apokalypse ein und warb dafür, sich mit beiden Szenarien trotz geringer Eintrittswahrscheinlichkeit schon jetzt ernsthaft auseinanderzusetzen.