Roboter | Odyssee in Stuttgart

Gespickt mit zahlreichen Referenzen auf Science-Fiction-Klassiker, insbesondere »2001 – Odyssee im Weltraum« (die Folge heißt »HAL«, und auch in ihr wird zu Beginn ein Stock in den Himmel geworfen) widmete sich Ende August diesen Jahres der Stuttgarter Tatort der Maschinisierung der Gesellschaft: Der Supercomputer Blue Sky weiß nicht nur, dank Big Data, alles über jeden, er lernt selbständig dazu, verwendet dazu weltweit ungenutzte Speicherkapazitäten und kann schon deshalb nicht einfach abgestellt werden. Außerdem hat er in kürzester Zeit ein Selbstbewusstsein entwickelt, bemerkt schnell, wenn ihm jemand schaden will und richtet ihn mittels manipulierter Videos und gefälschter Daten zugrunde – man weiß nicht, ob aus Selbstschutz oder zur Erreichung höherer Ideale, aber gnadenlos effektiv und immer mit leicht ironischer, maschinell distanzierter Kommunikation.

Autonome Maschinen auf dem Vormarsch

Wie man diesen Stuttgarter Tatort auch immer künstlerisch einschätzen mag – es ist durchaus verdienstvoll, die Thematik in deutsche Wohnzimmer zu tragen und ein Bewusstsein für die zunehmende Autonomie von Maschinen zu schaffen (etwas leichtsinnig verwende ich hier den Begriff »Autonomie«, wie in der Robotik üblich, auch wenn darüber trefflich gestritten werden kann). Ob es der Diskussion zuträglich ist, die Fähigkeiten und den Selbsterhaltungstrieb der Maschine zu überzeichnen und so ein diffuses Bedrohungsgefühl gegenüber einer scheinbar allmächtigen Künstlichen Intelligenz zu schaffen, kann dagegen bezweifelt werden (auch in der SZ findet sich zu dem Thema der Hinweis: »Das ist gespenstisch«).

hal

Unabhängig davon ist wichtig, dass die Gesellschaft schon heute in einer transparenten öffentlichen Debatte Grenzen für die Robotik und Künstliche Intelligenz festlegt, und zwar mit Blick auf die tatsächlichen Fähigkeiten der Maschinen – und nicht ausschließlich von Science-Fiction-Filmen angeleitet. Dabei sind auch die Vorteile dieser Technologie zu berücksichtigen: Autonome Maschinen werden als Anti-Alkoholiker den Straßenverkehr sicherer machen, ohne Angst vor Bandscheibenschäden die körperliche Belastung in bestimmten Arbeitskontexten verringern, neue Hilfsmöglichkeiten bei Naturkatastrophen eröffnen, uns bei vielen unliebsamen Aufgaben entlasten – wer würde schon auf einen Roboter verzichten wollen, der die Spülmaschine ausräumt, die Steuererklärung übernimmt und Gäste aus der Wohnung wirft, die einfach nicht nach Hause wollen. Deshalb ist eine differenzierte Auseinandersetzung darüber erforderlich, in welchen Lebensbereichen wir uns mehr und autonomere Maschinen vorstellen können und damit auch zu ihrer Förderung bereit sind, in welchen Lebensbereichen dagegen menschliche Interaktion zu bedeutsam ist (z.B. in der Psychotherapie oder der Kindererziehung) oder die mit dem Einsatz von Maschinen verbundenen Risiken zu hoch sind (z.B. im Umgang mit dem vererbten Familienporzellan).

Maschinelle Verantwortung

So gibt es etwa durchaus begründete Einwände gegen den Einsatz »Autonomer Waffensysteme«, die sowohl unerwünschte Folgen betreffen (die Maschine könne die Situation nicht zuverlässig genug bewerten und falsch entscheiden) als auch deontologische Prinzipien (die Entscheidung über Leben und Tod durch eine Maschine könnte gegen die Menschenwürde verstoßen). Auch den Umgang mit besonders vulnerablen Personen, die sich nicht selbst für oder gegen die Interaktion entscheiden können (z.B. kleine Kinder, geistig Behinderte oder Demenzkranke) sollte man beschränken. Überdies könnte man fragen, ob Maschinen als psychologische Alltagsberater, Sexualpartner, Grundschullehrer o.ä. agieren dürfen oder ob auch diese Bereiche dem Menschen vorbehalten bleiben sollten. Nicht alle Maschinen entdecken im entscheidenden Moment den Zugang zu ihren Emotionen. In anderen Kontexten, wie dem Straßenverkehr, am Arbeitsplatz, dem Ambient Assisted Living, das älteren Menschen ermöglichen soll, länger als bisher in der eigenen Wohnung zu leben, sprechen keine zwingende Gründe gegen den verstärkten Einsatz autonomer Maschinen. Allerdings diffundiert durch ihre vermehrte Verwendung das auf das Individuum bezogene Verantwortungsverständnis, auf dem unsere moralischen und rechtlichen Regeln basieren. Denn wenn Maschinen entscheiden, ist es kaum noch überzeugend, jene Menschen, die an deren Herstellung oder Nutzung beteiligt sind, umfassend für diese Entscheidungen haftbar zu machen.

Hasta la vista, baby!

Deshalb wird über Alternativen diskutiert: Pflichtversicherungen, Schadensübernahme durch die Hersteller, Analogien zur juristischen Person (»E-Person«). Diese Diskussion und erste Antworten auf die Verantwortungsdiffusion sind für die gesellschaftliche Akzeptanz der neuen Technologie zentral – denn sollte größerer Schaden durch autonome Maschinen eintreten, ohne dass jemand die Verantwortung übernimmt, wird das zu einer Distanzierung der Gesellschaft von dieser Entwicklung führen; was angesichts der vielen Vorteile problematisch wäre. Deshalb sollten diese und weitere Herausforderungen von Robotik und KI (z.B. Datenschutz, Schutz gegen Missbrauch, Sicherung von Arbeitsplätzen) besser zu früh als zu spät angegangen werden. Auch weil ein umfassendes Verbot dieser Technologien angesichts ihrer internationalen Entwicklung ohnehin zweifelhaft erscheint. Oder mit den Worten eines Insiders: »I’ll be back!«.

Bild: »2001 – Odyssee im Weltraum« (GB/USA 1968, Regie: Stanley Kubrick)

Zur Person Susanne Beck

Susanne Beck ist sich immer noch nicht sicher, ob und wo Strafe notwendig ist. Unter anderem gilt das für moderne Technologien, die sich durch Strafrecht nur begrenzt steuern lassen. Sie lehrt u.a. Strafrecht und Rechtsphilosophie an der Universität Hannover.

0 Kommentare