Aufmacherbild: (c) Google
Vor einigen Wochen kam ich mit ein paar Forschern auf ein Thema, dass alle verunsichert: was, wenn ein Auto das selber fährt in einer kritischen Situation die Frage entscheiden muss: wessen Leben ist mehr wert? Und dazu alles an Fakten hat, um diese Entscheidung zu treffen…
Das Schreckensszenario sieht so aus…
Wenn man mit Leuten, die schon einige Zeit dabei sind, über digitale Zukunftsszenarios spricht, so von Digisaurier zu Digisaurier, dann gibt es da ein paar sehr heftige Ängste was die Welt von morgen betrifft. Auch bei den Profis…
Ein solches Zukunfts-Szenario trifft das autonome Auto – also zum Beispiel das Google Auto: Eine junge Familie mit zwei kleinen Kindern sitzt in so einem selbstfahrenden Auto. In der Stadt. Ihnen kommt ein LKW entgegen der plötzlich von der Spur abkommt und leicht entflammbares Gut geladen hat. Es gibt keine Chance mehr auszuweichen oder zu bremsen. Der einzige Ausweg: der Gehweg. Aber da ist eine 80-jährige Frau unterwegs, die vermutlich mit tödlichem Ausgang überfahren werden würde beim Ausweichmanöver. Die Alternative: den Crash zulassen – aber LKW gegen Auto heißt: schlechte Überlebenschance für die Familie. Auf jeden Fall schwerste Verletzungen. Und das System hat nur Bruchteile von Sekunden, um zu entschieden, bevor das Entscheidungsfenster vorbei ist.
Die Kosten von Leben und Tod kann man ausrechnen…
Man kann das wirklich alles in Zahlen fassen, in Werte und Kosten – und dann kann eine mathematische Formel, ein Algorithmus in Sekundenbruchteilen solche Fragen entscheiden. Das wissen natürlich die Entwickler bei Google und Tesla, bei Audi und Mercedes die ein selbstfahrendes Auto entwickeln sollen. Nur die Ethik, die ist da schwer reinzupacken in diese Formel. Lediglich die Fakten sind klar – denn in einer mobilen Zukunft könnten die Fahrzeuge über alles Bescheid wissen. Car to car und car to infrastructure heißt das. Und Big Data ist das andere Stichwort. Zusammengenommen heißt das:
- Das Auto weiß, was der LKW gefährliches geladen hat
- Es kennt Konstruktion und Stabilität von PKW & LKW
- Es kann die Crashfolgen ausrechnen
- Es weiß, wer die alte Frau ist, die auf dem Gehweg unterwegs ist
- Es weiß, dass das kleine Auto vollbesetzt ist und…
- …es kann sogar verschiedene Szenarien ausrechnen, wie der Crash ausgeht und wie groß der Schaden jeweils wäre…
Alte Frau oder Familie? Wer will so etwas entscheiden? Wir Menschen reagieren irgendwie intuitiv, instinktiv – wir schätzen nicht ab ob falsch oder richtig. Aber was machen Algorithmen?
Die Mischung in der Entwicklung machts…
Kurz: Eine dramatische Entscheidung. Eine Wahl zwischen Pest und Cholera. Wird das Auto das Richtige entscheiden? Die Cloud das Korrekte veranlassen? Wird der Algorithmus Ethik einprogrammiert haben? Wie soll das alles gehen?
Das alles wird heute und morgen von der Qualität unserer Forscher und Entwickler abhängen. Und von der Zusammensetzung der Forschergruppen. Nicht nur in diesem Bereich.
Innovation, gute Ideen, positives Denken ist natürlich gefragt. Aber es gibt noch eine Gruppe die wichtig ist und die nicht selten aus der Abteilung Digisaurier kommt: Eine Gruppe, die man oft nicht mag in den Innovations-Schmieden dieser Welt. Die Nervensägen, die Bedenkenträger, die Angsthasen… Braucht man die? Ich habe eine extrem gute Antwort darauf gehört.
Ein Hoch auf die Nervensägen!
Ich saß bei verschiedenen Gelegenheiten mit vielen Experten und Forschern zusammen. Und einige lenkten meinen Blick auf den immer schon währenden Kampf bei Technologie und Innovation. Den Kampf zwischen denen, die nach vorne streben und denen die eher bremsen. Ein Satz ist mir im Gedächtnis geblieben…
„Es geht um den Kompromiss zwischen den beiden Kräften. Die müssen sich auf eine Geschwindigkeit einigen. Für erfolgreiche Innovation war immer schon dieser erfolgreiche Kompromiss entscheidend…“
Also: ein Hoch auf die Nervensägen?
Auf eine Art: Ja. Das was man den Deutschen – gerade bei Forschung und Entwicklung – im Gegensatz zu anderen Ländern oft vorwirft, ist die „Behäbigkeit“. Das gründliche immer wieder abwägen, bevor sie entscheiden. Aber wenn es um mehr geht, als die vernetzte Kaffeemaschine, dann ist das genauso wichtig, wie der Mut zu radikal anderen Ideen, zu Innovationen. Oder der Mut einfach mal anzufangen, auch wenn man noch nicht alles im Griff hat. Wenn also einer das völlig autonome Fahrzeug entwickeln will, dann sollte er auf die Balance achten. Das ist eine Frage der Ethik beim autonomen Fahren. Ein Frage der Ethik die sich beispielsweise die deutsche Automobilindustrie stellen muss. Denn im Zweifelsfall ist der eine Moment Nachdenken beim Entwickler wichtiger, als das eilige auf den Markt kommen. Einfach weil es schnell um Leben und Tod gehen kann. Und darum glaube ich, ist Deutschland gar nicht so schlecht in Sachen Forschung und Entwicklung, wenn es um Nachhaltigkeit und Ethik geht. Zum Beispiel in Sachen autonomes Fahren.
Ich will zu diesem Thema für einen weiteren Artikel auf www.digisaurier.de noch einiges recherchieren – wo stehen wir, wo geht es hin? Aber für so einen Text interessiert mich auch vor allem Eure und Ihre Meinung zu dem Thema. Wollen wir selbstfahrende Autos? Ist das eine völlig bescheuerte Idee? Dürfen Fahrzeuge oder Systeme solche wichtigen Dinge wirklich „entscheiden“? Ist die mathematische Entscheidung vielleicht sogar die bessere? Kommentare, Vorschläge? Lesetipps? Ich bin gespannt…
Ein paar Links haben wir auch für euch: zum Thema geschrieben haben Die Zeitung „Die Welt“, die FAZ unter der Überschrift „Fahren nach Zahlen“ und natürlich auch die Webseite Autonomes Fahren.
Aber nicht vergessen: ich brauche Eure und Ihre Meinungen, Lesetipps und Gedanken!
UPDATE: Ich habe einige der in Facebook entstandenen Diskussionen unten in den Bereich Kommentare als „Facebook-Dialog“ eingebunden, damit man die Gedanken auch hier auf einem Fleck finden kann.
Achja: wenn dieser Artikel spannend war – dann freuen wir uns als „Honorar“ über ein Like oder ein Teilen ;-)