Tödlicher Uber-Unfall: Software-Fehler als Ursache
Ubers Computer glaubte an "Fehlalarm"
Ein Uber-Roboterauto erfasste bei Tests im März eine Passantin. Laut Medienbericht erkannten die Sensoren ein Hindernis, doch der Computer ignorierte die Meldung.
Quelle: dpa / Picture Alliance
San Francisco - Ein Software-Fehler soll den tödlichen Unfall mit einem autonomen Auto von Uber ausgelöst haben. Die Sensoren erkannten ein Hindernis auf der Straße, der Computer stufte die Meldung allerdings als Fehlalarm ein. Das berichtet die Technologie-Website "The Information" unter Berufung auf nicht namentlich genannte "informierte Personen". Uber kommentierte den Bericht unter Hinweis auf laufende Ermittlungen nicht.
Als Folge erfasste der Roboterwagen von Uber bei einer nächtlichen Testfahrt in der Stadt Tempe eine Frau, die die mehrspurige Straße überquerte. Der Unfallhergang warf die Frage auf, warum der Wagen weder abbremste noch auswich, obwohl die Sensoren die Fußgängerin (die ein Fahrrad neben sich schob), erkannt haben müssten. Der Mensch am Steuer des Fahrzeugs reagierte zu spät und schien auf Videoaufnahmen aus dem Innenraum vor dem Unfall abgelenkt gewesen zu sein. Uber setzte daraufhin alle Fahrten mit seinen Roboterwagen aus.
Daten mitunter planmäßig planmäßig ignoriert
Dem Bericht von "The Information" zufolge wurde die Software der Uber-Roboterwagen darauf getrimmt, Sensor-Daten in einigen Fällen zu ignorieren, zum Beispiel, wenn es sich auf dem Weg um ungefährliche Gegenstände wie zum Beispiel eine herumfliegende Plastiktüte handelt.
Das sollte unnötiges scharfes Bremsen verhindern, wenn es in solchen Fällen die Sicherheit gefährden würde. In dem konkreten Fall seien die Einstellungen aber zu weit gegangen und die Software habe nicht schnell genug reagiert, hieß es.
*****
In eigener Sache: Wir verschicken unsere besten News einmal am Tag (Montag bis Freitag) über Whatsapp und Insta. Klingt gut? Dann lies hier, wie Du Dich anmelden kannst. Es dauert nur 2 Minuten.
Ja was jetzt...
Oder doch bereits dort gescheitert
.
Aber schon bezeichnend, wo man sonst/gewöhnlich nicht soviel Doku bei vielen Unfällen hat.
Hier kann man alles aufrollen, inkl.
Schon Sch....(eisse/schön, sucht es euch aus 😉 was so nachweisbar wird damit (!)
Ist klar. Auf jeden umfliegenden Dreck zu reagieren wäre blöd.
Aber kann das die Technik von heute schon differenzieren, was ist was ? Offenbar nicht !
ABER man darf schon in der Öffentlichkeit testen. Klasse.
Erwischt aber wie aufgezeigt halt dann auch keine Dummys !
Verantwortung dafür hat jetzt wer ?
Der Bürgermeister, der seine Straßen dafür frei gibt ?
Uber ?
Software-Ing. ?
Der "Fahrer", weil im kleingedruckten steht.....(!)
PS: Ein Auto-Hersteller ist damit konkret nicht belastet ?
Wer stellt aber wohl noch für UBER Fahrzeuge zur Verfügung nach sowas (?) - wenn das einer Marke hierzulande passieren würde....(!)
Ich hab vor ein paar Tagen für eine Amsel gebremst und ihr damit das Leben gerettet. Mit der zum Unfallzeitpunkt aktuellen Software bremste der Computer im Uber Fahrzeug nichtmal für Menschen... könnte schließlich auch ein Fehlalarm gewesen sein.
Uber baut doch die Fahrzeuge mit eigener Technologie um und legt die vom Hersteller verbaute Technolgie zum Teil lahm - die Hersteller sind da - und müssen auch nicht - eingebunden sein.
Vielleicht gibt es halt bei grösserer Abnahme Rabatte.
Die ganzen Fahrdienstanbieter legen ihre autonomen Systeme ganz bewusst möglichst unabhängig von einem Fahrzeug-Hersteller aus.
Das halt wie wenn ein Kinderschädner einen Mercedes nutzt der er im Zuge eine Flottenvertrags günstiger bekommen hat um ein Kind einzufangen - da kann nun Mercedes auch nichts dafür.
Egal was Sensoren oder der Computer sagen oder melden, hauptverantwortlich ist und bleibt der Fahrer.
und wenn das so auch bei diesen fahrzeugen (rechtlich) geregelt ist - dann bleibt nur hellwach/nicht-abgelenkt am steuer zu bleiben wie bei fahrzeugen ohne all die technik.
was hat man also gewonnen (?)
im gegenteil, total überwacht wird einem selbst der (kleinste menschliche) Fehler der abgelenktheit dokumentiert. "Glückwunsch"
Wenn es mir eine Plastiktüte vors Auto weht, erschrecke ich natürlich, zucke zusammen. Der Fuß steht im nächsten Moment schon auf dem Bremspedal und die Kupplung ist durchgetreten.
Innerhalb der nächsten halben Sekunde entscheidet sich (natürlich unterbewusst und reflexartig), ob ich das Bremspedal voll durchtrete, bzw. selbst wenn, ob ich es wieder lupfe, weil ich - nun - erkenne, dass es doch nur eine Plastiktüte war.
Stattdessen einfach draufzuhalten (wenn´s so war), das kann´s eigentlich nicht sein...
Lieber einmal zu oft gebremst, als einmal zu wenig. 😱
Wenn mir eine Plastiktüte entgegen geweht kommt, tue ich gar nichts, denn ich weiß, dass nur eine leere Plastiktüte mir entgegen geweht werden kann. Derart gefüllte Plastiktüten dass sie mir gefährlich werden könnten bewegen sich ganz anders und normalerweise herrscht dann auch Sturm 😉
Tja, und genau DAS ist der Grund, warum Mercedes, Audi und Co in der Theorie schon seit über 10 Jahren Autonom fahren KÖNNTEN, es aber nicht tun. Die Fehlalarme, die es bei einem Menschen nicht gibt (wenn dieser Aufpasst und bewusst Auto fährt), darf es bei einem Computer eben auch nicht geben - tut es aber.
Das ist ja schon seit Monaten der Kernvorwurf an Uber, dass die Software mit den von den Sensoren gemeldeten Werten nichts rechtes anzufangen weiß 🙄
Ändert sich was? Oh ja, nun hat man der Software zusätzlich noch einprogrammiert, dass sie gewisse Daten "bewußt" ignorieren soll.
Was passiert also: ein mitsamt Fahrrad die Straße querender Mensch und eine Plastiktüte sind für diese Software ein und dasselbe und schon mal gar kein Grund um zu bremsen.
Irgendwie ist mir die Denke der Verantwortlichen von Uber äußerst unsympathisch 😤😤😤
Man könnte jetzt sarkastisch sagen.
In 100.000 Autos fahren ca. 10 Idioten rum.
Wenn aber 10 Idioten die Software für autonome Autos programmieren, dann fahren 100.000 idiotische Autos rum. 😆
nur mal nen Vergleich. 😉
autonom bremst erst, als die "Gefahr" vorbei ist
human bremst in dem Moment, wo die Gefahr da ist
Wenn dir eine Plastiktüte von rechts oder links ins Sichtfeld geweht wird, wirst auch du hoffentlich bremsen, denn in diesem Moment erkennst du nur die Bewegung, dass seitlich etwas auf die Fahrbahn kommt.
In diesem Moment, in dem sich die Plastiktüte im peripheren Sichtfeld befindet, kann das auch ein Kind oder Wildschwein oder... Radfahrer sein, denn als Plastiktüte hast du das Objekt da noch nicht wahrgenommen.
Und ja, ich weiß, du schriebst "entgegen". 🙄
Da würde auch ich nicht plötzlich bremsen, da ich die Plastiktüte schon mehrere Sekunden gesehen und identifiziert hätte.
Vors Auto weht´s einem die Dinger aber nunmal gerne seitlich.
Die Reaktionszeit die dem Fahrer zugemutet wird die volle Kontrolle zu übernehmen ist klar definiert- davor ist der Hersteller haftbar, danach der "Fahrer"...
ein wilschwein wäre mir egal daher ist der vergleich mit einem kind recht abseits.
und gerade für kinder hat man (sofern man aufmerksam fährt) optisch induziert extrem schnelle reaktionen.
und die sind nicht mit der reaktion auf eine windbewegte plastiktüte vergleichbar.
soll heißen wir haben -augen-hirn- sehr präzise identifikationsmöglichkeiten die ein kameraauge eben nicht hat.