Unfallexperten: Uber-Software konnte Fußgängerin nicht identifizieren
Uber-Software reagierte erst 1,3 Sekunden vor dem Aufprall
Im März kam eine Frau bei einem Unfall mit einem Uber-Roboterwagen ums Leben. Laut Unfallbericht war die Software nicht in der Lage, die Fußgängerin zu erkennen.
Washington - Ein Roboterwagen von Uber hat im März eine Fußgängerin tödlich getroffen. Jetzt hat die US-Verkehrsbehörde NTSB in einem vorläufigen Unfallbericht erste Details zum Unfallhergang veröffentlicht. Demnach hat die Software die Frau nicht eindeutig identifizieren können. Zudem ist bei den Autos im Testbetrieb das Notbremssystem abgeschaltet, sodass eine automatische Bremsung nicht möglich war.
Die Frau, die beim Überqueren der mehrspurigen Straße ein Fahrrad schob, sei zwar sechs Sekunden vor dem Zusammenstoß von den Sensoren des selbstfahrenden Autos bemerkt worden, erklärte die NTSB. Die Software habe sie aber zunächst als unbekanntes Objekt, dann als Fahrzeug und schließlich als Fahrrad eingeordnet - und sei zudem unsicher gewesen, in welche Richtung sie sich bewegt.
Erst 1,3 Sekunden vor dem Aufprall sei das Uber-Programm dann zu dem Schluss gekommen, dass eine Notbremsung notwendig sei, erklärten die NTSB-Experten weiter. Doch diese Entscheidung blieb folgenlos: "Uber zufolge sind Notbrems-Manöver abgeschaltet, wenn das Fahrzeug vom Computer gesteuert wird, um ein unberechenbares Verhalten des Fahrzeugs zu vermeiden." Stattdessen setzte Uber darauf, dass der Sicherheitsfahrer in Aktion tritt. Der muss sich aber auf seine Augen verlassen: "Das System sieht keine Warnmeldungen an den Operator vor."
Weder Software noch Fahrer reagierten
Der Hergang des Unfalls im US-Bundesstaat Arizona warf die Frage auf, warum der Wagen weder abbremste noch auswich, obwohl die Sensoren zumindest ein Hindernis erkannt haben müssten. Auch der Mensch am Steuer des Fahrzeugs reagierte nicht und schien laut Videoaufnahmen aus dem Innenraum vor dem Unfall abgelenkt gewesen zu sein. Die NTSB-Experten erklärten, dass die Sicherheitsfahrerin nach eigener Aussage auf einen Bildschirm des Roboterwagen-Systems schaute. Ihre Smartphones seien nicht in Betrieb gewesen. Die Uber-Wagen waren zunächst mit einem Sicherheitsfahrer und einem Ingenieur, der die Systeme überwachte, unterwegs - später wurde auf den Techniker verzichtet.Die Uber-Roboterwagen stehen seit dem Unfall still. Am Vortag kündigte Uber an, die selbstfahrenden Fahrzeuge würden komplett aus Arizona abgezogen werden und ihre Entwicklung in Pittsburgh und San Francisco gebündelt. Zugleich halte der Fahrdienst-Vermittler an der Entwicklung von Technologien für autonomes Fahren fest und wolle die Testfahrten "in naher Zukunft" wieder aufnehmen, betonte eine Sprecherin.
Die NTSB (National Transportation Safety Board) ermittelt bei Flugzeugunglücken und anderen Unfällen, die grundsätzliche Bedeutung auch auf die Gesetzgebung haben könnten. Sie ist sehr einflussreich, obwohl sie formell nur Empfehlungen abgeben kann. Aktuell untersuchen NTSB-Experten auch mehrere Unfälle mit Fahrzeugen des Elektroautobauers Tesla. Dabei geht es um Batteriebrände und die Arbeit des Fahrassistenzsystems Autopilot.
Quelle: dpa
*****
In eigener Sache: Wir verschicken unsere besten News einmal am Tag (Montag bis Freitag) über Whatsapp und Insta. Klingt gut? Dann lies hier, wie Du Dich anmelden kannst. Es dauert nur 2 Minuten.
Da werden noch viele tödliche Unfälle passieren, bis man versteht, das autonomer Straßenverkehr eine Nullnummer ist.
Unter dem aktuellen Bedingungen gebe ich dir recht. Solange man die Sicherheitanforderungen der Technik nicht auf ein Niveau hoch hebt, dass man mit dem Steuerungs- und Sicherheitssystemen vom Atomkraftwerken, Bahn oder Flugzeug vergleichen kann, bleibt das auch so
Es werden noch viel mehr tödliche Unfälle von Menschen verursacht werden, bevor das manuelle Fahren verboten wird.
Autonomes Fahren ist in einigen Jahren garantiert sicherer als jeder menschliche Fahrer.
Das ist doch verrückt! Vollkommen irre. Ich bin mal gespannt, welche Schlussfolgerungen das NTSB daraus zieht und wie deren "Empfehlungen" lauten werden.
Strafrechtlich dürfte das auch noch interessant werden.
Das mit Tesla musste natürlich sein.
Auch die dpa kann den Elon nicht leiden können. Auch sie lebt indirekt von der Werbung. Mir egal. Ich suche mir meine Informationsquellen eh selber. Da sind Reuters und dpa nicht notwendig!
In Zeiten wo Journalismus bedeutet agentur Meldungen zu kopieren habe ich garantiert 0 Mitleid mit den "alten" Medien. Informationen lassen sich heutzutage nunmal quasi kostenlos verbreiten.
1.24 Millionen pro Jahr weltweit
3400 pro Tag
142 pro Stunde
2.4 pro Minute
alle 25 Sekunden ein Verkehrstoter
in den USA?
40'000 pro Jahr
110 am Tag
4.6 pro Stunde
alle 13 Minuten....
und über die Hälfte davon Fussgänger
nur um mal die Dimensionen zurecht zu rücken.
Die Abschaltung der Notbremsfunktion des Fahrprogramms allein ist nicht irre. Oftmals werden bei Testfahrten nur Daten aufgezeichnet. Die Steuerbefehle, z.B. Notbremsungen, gehe dabei ins "Leere", damit keine grundlose Notbremsung durchgeführt wird, falls das Fahrprogramm ein harmloses Hindernis als kritisch einstuft.
Irre ist hingegen, dass der Operator nicht das Fahrprogramm überwacht hat und keine Möglichkeit vorgesehen war, dass das Fahrprogramm den erkannten Zusammenstoß dem Operator mitteilen kann. Das Fahrprogramm selbst hat offenbar korrekt funktioniert im Rahmen seiner Möglichkeiten. In dem Falle war es eine unglückliche Verkettung von Designfehlern und Handlungsfehlern. Das Fahrprogramm gehört in diesem Stadium der Entwicklung offenbar noch auf den Test Track und nicht auf die Straße.
Ich werde ja lieber von Menschen umgebracht, die das Unglück vielleicht noch versuchen zu verhindern. Da reden wir bei dem Blödsinn „autonomes Rumgeeiere“ noch garnicht von Regen, Schnee, Nebel oder anderen Sachen.
Eine Lachnummer durch und durch, initiiert vom „lieben“ Elon. Danke für die umgebrachten Menschen.
Was hat denn der Elon damit zu tun wenn Travis, Garett und Dara Mist bauen?
Er hat dieses schwachsinnige Wettpissen angezettelt.
- Beim Flugzeug hat man riesige Sicherheitsabstände (verglichen mit dem Straßenverkehr).
- Bei der Bahn haben die Schienenfahrzeuge meist per Definition Vorfahrt.
- Bei AKW hat man ein abgesperrtes Geländen.
-> Nirgends wird dort im sicherheitskritischen Bereich in nennenswertem Ausmaß automatische Bildverarbeitung eingesetzt, woraufhin die Maschine ggf. innerhalb von s reagieren muss!
War man an der Entwicklung einer Bildverarbeitung in Produktionsanlagen beteiligt, wo schon auf Hardware-Ebene soviele Störfaktoren wie mögl. vermieden wurden (Blitzlicht gegen sich ändernde Lichtverhältnisse, geschlossene Maschine, Zugang nur für Berechtigte etc.). Trotzdem kann man nur einen rel. kleinen definierten Anteil der mögl. Bilder zuverlässig so erkennen wie gewünscht. Der Straßenverkehr ist das komplette Gegenteil dieser Hardware-Voraussetzungen!
Dazu halt wie o.g. z. B. die Unterschiede bzgl. der Abstände und rechtl. Voraussetzungen wer Vorfahrt hat.
notting
Da hätte die radargestützte Distanzautomatik von Mercedes besser reagiert!
Das Unglück wäre nicht passiert.
Auch Radar-Technik ist nicht wirkl. perfekt: https://de.wikipedia.org/wiki/Tarnkappentechnik
Du kennst diese Szenen aus Filmen wo eine große Glasscheibe über die Straße getragen wird? Je nach dem wie der Winkel ist...
notting
Ok. Wir haben hier also ein System gehabt, welches zwar ein Hindernis erkannt hat, dieses aber erst einmal nicht korrekt einordnen konnte.
Das kann und wird auch in Zukunft vorkommen.
Notbremssysteme sind bei Testfahrten deaktiviert, um ein unkontrolliertes und fehlerhaftes Bremsen zu verhindern - Verständlich, ist ja auch noch ein Mensch dabei zur Absicherung.
1) Dieser hat nicht reagiert / war abgelenkt -> Haftung dürfte in diesem Fall ziemlich klar sein
2) Es war nicht vorgesehen, dass das autom. System einen Hinweis gibt??
Das kann ich jetzt wirklich nicht ganz nachvollziehen!
Und dann, müssen solche Systeme doch eigentlich Redundant arbeiten!
OK, der Computer konnte das Bild nicht identifizieren - aber dann MUSS ein zweites System vorhanden sein, welches z.B. nur die Distanz ermittelt -> und im zweifel eben Maßnahmen einleitet.
Am besten ein System, welches nur mit den einfachsten Mitteln arbeitet, und welche sich bereits etabliert und erprobt haben... Radar, ... usw.