NTSB: Autopilot speelde rol in fatale Tesla-crash

Auteur: , 47 Reacties
crash

De Feds van de National Transportation Safety Board (NTSB) trekken hun conclusies.

Na een flinke periode van onderzoek heeft de NTSB geconcludeerd dat zowel menselijke fouten als Autopilot een rol hebben gespeeld in het dodelijk ongeval van Joshua Brown dat plaatsvond op 7 mei 2016. Brown knalde op een truck die niet herkend werd door de autonome piloot.

De NTSB heeft de zaak onderzocht en nu haar conclusies bekend gemaakt. Ze leggen de schuld deels neer bij menselijke onachtzaamheid, maar ook deels bij Autopilot. Een Management Summarry van het rapport vind je HIER. Een bloemlezing van de conclusies die specifiek met Autopilot te maken hebben:

  • 3. The Tesla’s automated vehicle control system was not designed to, and did not, identify the truck crossing the car’s path or recognize the impending crash; consequently, the Autopilot system did not reduce the car’s velocity, the forward collision warning system did not provide an alert, and the automatic emergency braking did not activate.
  • 5. If automated vehicle control systems do not automatically restrict their own operation to those conditions for which they were designed and are appropriate, the risk of driver misuse remains.
  • 6. Because driving is an inherently visual task and a driver may touch the steering wheel without visually assessing the roadway, traffic conditions, or vehicle control system performance, monitoring steering wheel torque provides a poor surrogate means [nadruk toegevoegd] of determining the automated vehicle driver’s degree of engagement with the driving task.
  • 7. The way that the Tesla Autopilot system monitored and responded to the driver’s interaction with the steering wheel was not an effective method of ensuring driver engagement.

De NTSB verwijt het systeem dus niet per se dat het de truck niet opmerkte, omdat het daarvoor technisch gezien simpelweg niet ontwikkeld is. Wat het systeem wel verweten wordt is dat het ‘zijn eigen limitaties niet kent’. Met andere woorden, Autopilot zou alleen actief mogen zijn in situaties waar het de zaken kan handelen en zichzelf moeten uitschakelen als er een witte truck oversteekt. De interpretatie daarvan is lastig, want wat gebeurt er als het systeem zich uitschakelt en hoeveel tijd gaat daar overheen?

Duidelijker is het verwijt dat het monitoren of de bestuurder het stuurwiel vastpakt níet als een afdoende garantie wordt gezien door de NTSB dat de bestuurder ook daadwerkelijk actief betrokken is bij het (niet) besturen van zijn auto. Wijlen Joshua zelf krijgt van de NTSB overigens het verwijt dat hij niet goed genoeg op zat te letten achter het stuur en dat hij teveel vertrouwde op Autopilot.

Uit dit alles blijkt dat de schuldvraag samenhangt met hoe je naar Autopilot kijkt. Technisch gezien is het slechts een hulpmiddel voor de bestuurder, die nog steeds zelf moet opletten dat er niks fout gaat. Aan de andere kant heeft Tesla het systeem Autopilot genoemd…

Concluderend doet de NTSB wat aanbevelingen aan het Department of Transportation (DOT) om dit soort ongevallen in de toekomst beter te kunnen onderzoeken en aan de National Highway Traffic Safety Association (NHTSA) om ervoor te zorgen dat autonome systemen zich beperken tot datgene doen wat ze kunnen. Wat dit alles voor implicaties heeft voor eventuele rechtszaken tegen Tesla (want ‘Murica) en de (nabije) toekomst van de autonome auto zal moeten blijken.

Image-Credit: Florida Highway Patrol



47 reacties

Hoe moet het systeem een situatie herkennen wanneer het niet werkt?:/ Klinkt alsof Autopilot hernoemd en flink beperkt gaat worden.
@flutterby: daarom hebben de grote merken, ja Tesla is niet groot, dus allemaal de functie dat de AP uit gaat als je stuur niet aanraakt. De reden is simpel: als Audi, MB of BMW dit niet gedaan had, dan hadden we nu naar tientallen doden in de statistiek zitten kijken, waarbij AP misschien een rol speelde. Maw: class action waardige rechtszaken, klanten die geld terug willen, etc.
@bitd: maar blijkbaar is het stuur vasthouden dus niet voldoende. Je kunt ook je hand op het stuur leggen en ondertussen alsnog naar de molentjes in de weilanden gaan zitten staren
@gulli: precies, dan is het je eigen fout en niet de AP
Je kan zeggen wat je wil, maar daar had je met een Hummer H2 geen last van. En die kon je in 6 minuten opladen.
@willeme: een H2 kan niet tegen een plots overstekende vrachtwagen aanbotsen?
@stfu: die gaat er doorheen.
@stfu: jawel, maar was daarna rustig doorgereden 😉
Autonoom rijden. Slechte en vooral overbodige ontwikkeling. Niet alle technische hoogstandjes zijn per definitie toevoegend van waarde.
@tge1: Autonoom is op zich geen slechte ontwikkeling, het zijn die half bakken systemen zoals dat van tesla die gevaarlijk zijn.
@robert110: types zoals jij zeiden dat in 1980 over computers
@thierryvth: Ik ben benieuwd wat jij denkt dat ik voor een type ben dan.
@thierryvth: onzin
Jij bent vast ambtenaar

Geen verstand van techniek!!!
@robert110: haha. Er zijn al 40% minder aanrijdingen met auto’s met Autopilot. Mij heeft het ook wel eens een aanrijding voorkomen.
@stfu: Het zal best een beetje werken, anders zullen ze het niet durven te verkopen. Maar het blijkt gewoon (en niet alleen uit deze situatie) dat het niet 100% werkt, en dan moet je het gewoon niet aan de gewone consument verkopen, want al plak je er 100 waarschuwingsstickers op dan nog weet je gewoon dat mensen er niet fatsoenlijk mee om kunnen gaan. En als je het dan toch aan de gewone consument verkoopt, dan vraag je als fabrikant gewoon om problemen.
En er zijn honderden systemen die je de consument gewoon kan laten testen, automatisch parkeren of lane assist bijvoorbeeld, maar een systeem als autopilot gewoon niet.
En dan kan het 40% minder ongelukken opleveren en dan kan jij er nog zulke goede ervaringen mee hebben, er is een dode gevallen, mede door autopilot. En dat is gewoon een dode teveel.
En ik ben echt niet tegen autonoom vervoer, graag zelfs, niet voor mij maar voor de mensen die autorijden niets interesseert. En ik snap ook wel dat dat stukje bij beetje moet worden getest voordat we 100% autonoom vervoer hebben. Maar ik heb geen zin om volgende week een tesla onder mijn aanhanger vandaan te peuteren omdat er een of andere Willem Jan op zijn telefoon zat te pielen en vertrouwde op een stuk software wat toch niet 100% bleek te werken.
@robert110: “er is een dode gevallen, mede door autopilot. En dat is gewoon een dode teveel.” Dat staat buiten kijf. Maar laten we dan mensen ook maar niet achter elk stuur zetten, want 95+% van de ongelukken komt door mensen zelf. AP is een hulpmiddel, als de bestuurder gewoon had opgelet had ie zelf ook op de rem kunnen drukken (wat ie niet had gedaan). Hij zocht wel vaker de grenzen op w.b. AP en leek vaak totaal niet op te letten. Vind ik niet dat je dan AP een halfbakken systeem kunt noemen. En zeggen dat het voor mensen is die niet van autorijden houden.. Je weet echt niet waar je het over hebt. Dus als je smorgens in de file rijdt of op de A2 constant 100 km/u rijdt maar zelf constant het stuur vast houdt hou je van autorijden? En ik let niet minder op met AP, maar misschien zelfs meer (ook meer om mij heen). Ik voel me veel relaxter als ik ermee rijd en ergens aankom.
@stfu: Dat is een gevaarlijke stelling. Er zijn wellicht 40% minder ongelukken met auto’s die een AP hebben. Dat wil echter niet zeggen dat dat puur door die AP komt. Dat zijn auto’s die sowieso al allerlei veiligheids gerelateerde opties hebben als line assist, dode hoek waarschuwing, parkeersensoren, afstandhoudende cruise controle en auomatische noodstop. Daarbij zijn ze nieuwer, en vaak ook beter onderhouden.

De naam autopilot komt uit de luchtvaart. In de luchtvaart zorgt een AP er voor dat de workload van de crew lager wordt. En daardoor hebben ze meer hersencapaciteit over voor het navigeren, communiceren, monitoren van systemen of het handelen bij een noodgeval. Ik denk dat je zo ook een AP moet bekijken in een auto. Het neemt een deel van de workload weg bij de bestuurder. Maar het is nog lang geen waterdicht en veilig systeem waar je als bestuurder blind kan op vertrouwen.
@tge1: waarom slecht? Ik vind het juist goed. Snelweg rijden is stomvervelend (zelfs 180 op de Autobahn vind niet leuk meer). Eigenlijk is het verspilde tijd. Je zou die tijd in de auto beter met iets anders zoals een boek lezen, studeren, gitaar spelen, p****o kijken, facebook trollen of wat dan ook kunnen vullen. Op die manier kan het een verrijking van je leven worden. Zeker ook omdat met meer en meer autonome voertuigen het steeds veiliger zal worden.
@tge1:

Onzin, Het is een prima ontwikkeling. Alleen moeten we oppassen dat we niet op de zaken vooruit gaat lopen. Het is nog lang niet uitontwikkeld.

Op de relatief kleine groep liefhebbers van autorijden na vinden veel mensen het gewoon een noodzakelijk iets. Die nutteloze tijd achter het stuur zitten kan nuttig gebruikt worden.
Daarnaast blijft de mens een waardeloze bestuurder. Nog steeds vallen er gigantische hoeveelheden slachtoffers doordat we onszelf niet de baas kunnen. Er wordt gedronken, te hard gereden, te weinig afstand gehouden, geen ruimte gegeven, door rood gereden etc etc etc.

Autonome auto’s zijn gewoon nog niet klaar, zo simpel is het. Maar als je verder durft te kijken zijn er ook bergen goede punten aan. Files worden minder doordat de auto’s zich niet laten leiden door wat er tussen de benen bungelt, reactiesnelheden aan drastisch omhoog waardoor volgafstand korter kan en samenvoegen van verkeersstromen soepeler. Verbruik van auto’s kan drastisch naar beneden door een rustiger verkeersbeeld en voortschrijdend inzicht. Verkeer kan automatisch verdeeld worden over aanwezige wegennetten naar draagvlak.

Autobezit kan verdwijnen doordat vervoer een dienst kan worden. Dit maakt gigantische hoeveelheden ruimte vrij in stadcentra en dergelijke waar niet langer honderden tonnen blik staan weg te roesten voor het grootste deel van de dag. Wat weer leidt tot meer nuttige publieke ruimte waar we leuke dingen mee kunnen doen.

Het lost ook meteen het bereikprobleem op van de huidige generatie elektrische auto. In het ophaal en wegbreng schema kan gewoon gepland worden wanneer de auto naar een laaddepot teruggaat. Nu zijn er geen miljoenen laadpalen nodig om elk huis, bedrijf en winkelcentrum te voorzien samen met alle bijbehorende infrastructuur. Netbelasting kan veel beter gestructureerd worden waardoor we makkelijker over kunnen op hernieuwbare bronnen en minder pieklast op systemen zetten door allemaal om half 6 de stekker in te pluggen als alle zonnepaneeltjes net hun energieopbrengst kwijtraken.

Gigantische kostenposten vallen weg doordat verkeersborden, stoplichten en wegbelijning niet langer nodig is, alles kan geautomatiseerd.

Ja dat al betekenen dat zelf rijden ook gaat verdwijnen. Eerst zal het steeds duurder worden en uiteindelijk waarschijnlijk verboden. Ja dat vind ik ook jammer (ook al zou je dat misschien niet denken). Maar reëel gekeken biedt het gigantisch veel mogelijkheden. En nee, de bovenstaande schets komt vast niet allemaal uit, en wat wel uit komt doet dat ook niet in de komende tijd. Maar alleen al om de verkeersslachtoffers is het het waard. En daarvoor hoeft de autonome auto niet perfect te zijn, enkel beter dan de mens nu is. En gezien de nieuwswaarde van ongelukken waar autonomie de oorzaak kan zijn (en vaak niet blijkt te zijn) lukt dat aardig
@timberleek:
Ik vind het een nutteloze ontwikkeling. Als je alle menselijke invloeden uit ons dagelijks leven gaat verwijderen veranderen we langzamerhand allemaal in gedresseerde aapjes. Eenvoudig omschrijving, maar ik wens mijn zelfbeschikking zoveel en zo vaak mogelijk te behouden.
@tge1: Wanneer je de triviale aspecten van je leven kan automatiseren blijven de belangrijke en complexe aspecten over. Je bereikt precies het omgekeerde dan waar jij bang voor bent.
@bassx:
Wat voor complexe dingen doe je verder dan? Werkplaatsen zijn tegenwoordig ook veelal dicht geautomatiseerd. Je leventje thuis vaak ook (smartphone, tablet, tv on demand, thuisbezorgd.nl, electrische fiets, online winkelen etc etc.). We worden met de dag luier en asocialer. Als je dan ook nog eens niet meer hoeft te rijden…..
@tge1: dat luier en associaler worden is een keuze. Met meer vrije tijd zou je ook steeds sportiever en gestudeerder kunnen worden. Ik wijt het associaler worden dan ook meer aan de (a)sociale media, waar elke mening en elke onzin ge-uit wordt dan aan automatisering.
@tge1: Het feit dat tot op de dag van vandaag nog niets de Turing test heeft doorstaan geeft aan dat sociale bezigheden uiterst complex zijn, om maar een voorbeeld te noemen.
@bassx:
Precies, sociale bezigheden worden ook alleen maar complexer omdat we met zijn allen steeds asocialer worden.
@bassx: Tesla, Apple, Google en andere partijen zijn er niet in geïnteresseerd om ons leven te verrijken. Ze zien dat uur dat je alleen in de auto zit voornamelijk als een manier om je extra te laten shoppen (via hun sites), sociale media te laten bijwerken (via hun sites) etc etc. Zijn dat nou belangrijke en complexe aspecten?
@tge1: overbodig? Als autonoom rijden er eenmaal is dat wordt het een revolutie vergelijkbaar met (mobiel) breedband internet.
Bestuurder blijft naar mijn idee ten alle tijden verantwoordelijk in dergelijke situaties. Hopelijk zorgt dit er meteen ook voor dat die mensen die achterin hun eigen Tesla zitten te filmen hoe de auto “zelf rijdt”, daarmee stoppen omdat het systeem schijnbaar toch niet zo waterdicht is…..
Sowieso wordt ik moe van al die mensen die met van alles bezig zijn in de auto behalve autorijden, autopilot of niet.
@volvologisch: daarom werden ook steeds meer restricties opgelegd door Tesla vanwege dat soort filmpjes. Zo schakelt AP op een gegeven moment de hele rit uit als je niet het stuur af en toe vast houdt wanneer ie het vraagt e.d. Tesla heeft het misschien overschat in het begin maar de bewustzijn van dit soort zaken is wel een stuk beter geworden. Helaas moet daar af en toe een mens voor sterven maar het helpt uiteindelijk wel.
-edit: dank u, is inmiddels gefixt-
Zit een klein beetje in het vakgebied.. Het grote probleem van dit soort IT concepten, vergelijkbaar met mobiele telefoons maar bijvoorbeeld ook wifi standaarden is dat het belang van de leverancier eindig is. Na 10 jaar kost het de leverancier serieus veel geld als het al mogelijk is om dit soort systemen veilig te houden. Binnen de IT hebben we daar nu nog geen afdoende oplossing voor. Vandaar dat iedere telefoon bijna te hacken is in een paar minuteren, idem voor WIFI en hebben we best wat uitdagingen bij het beveiligen van industriele IT systemen zoals dijk bewaking (SCALA). Zodoende een dikke nee tegen dit soort systemen. Stel Tesla wordt gehacked, men deactiveerd wereldwijd alle rem-systemen en sluit gelijktijdig de beheerders van Tesla (een tijdje) buiten. Weet je hoeveel doden dat kan opleveren? Ik ben groot fan van Musk zijn ideeen, maar auto’s kunnen niet verantwoordelijk worden zolang we dit niet goed kunnen beveiligen en nee dat kunnen we echt niet, trust me.
Sorry voor de moraalridders, maar ik ben eigenlijk wel blij… dit zal weer een flinke tik uitdelen naar het autonoom rijden waardoor het als het goed is nog langer gaat duren…
@spykerboy: dus iedere keer dat een automobilist een fout maakt en een ongeluk veroorzaakt is volgens jouw redenatie een argument voor het autonome rijden.
Autonoom rijden is een goede ontwikkeling, maar nog lang niet uitontwikkeld. Omdat het nog niet uitontwikkeld is mag het imo nog niet als autopilot verkocht worden, want dat is het simpelweg niet. Geef het een andere naam, ontwikkel het door en druk de mensen op het hart dat ze aub op moeten blijven letten (lijkt me logisch, maar soit.)

Tot slot begrijp ik niet hoe je tegen autopilot kunt zijn (of zelfs blij kunt zijn dat dit dodelijke ongeval heeft plaatsgevonden, ga eens goed bij jezelf te rade…). Als je het niet blieft, koop het dan vooral niet. Blijkbaar is er een enorme markt voor, anders zouden de grote merken het niet doorontwikkelen.

Mijn 0.02, kom maar op met je shitstorm.
@2wheeler: dat wordt allang gezegd tijdens proefritten, afleveringen en wanneer je AP voor het eerst aanzet.
@stfu: dat vermoede had ik al, maar nog nooit met een Tesla gereden, dus wist het niet zeker.
@2wheeler: Probeer het eens ;)
Jammer dat AB niet vermeldt dat de fam van de man NIET de schuld op Tesla schuiven.
@stfu: maar dat is toch niet relevant wat de familie vindt? Zelfs als zijn familie het maar een idioot vond en blij is dat ze van hem af zijn of dat de familie van louter verdriet niet meer kan nadenken, gaat het er om neutraal en onbetwistbaar vast te stellen of er verwijtbare oorzaken aan het ongeluk ten grondslag liggen en of er verbeteringen gemaakt kunnen worden,
Tsja, lastige afweging. Ik snap wel dat je minder oplet als autopilot 90% van de tijd zn werk goed doet. Misschien een idee voor Tesla dat autopilot automatisch uitschakelt op het moment dat een gelijkvloerse kruising word genaderd.
@wijsneus: AP moet je vooral gebruiken op de snelweg en lange N wegen.
@stfu: Dat snap ik. Maar mensen zijn vaak dom. Tesla zou dat soort mensen in bescherming kunnen nemen door AP onbeschikbaar te maken op wegen/straten als de weg niet geschikt is voor AP doordat er bijvoorbeeld gelijkvloerse kruispunten zijn. Met behulp GPS, wat software en digitale navigatiekaarten zou je al heel goed in kunnen schatten of de weg geschikt is.
Voor alle mensen die denken dat de Autopilot per direct de nek moet worden omgedraaid: u staat historisch in hetzelfde rijtje als mensen die het tegennatuurlijk vonden dat mensen gingen vliegen en mensen die vonden dat er een mannetje met een vlag voor een automobiel moest uit rennen om de bevolking te waarschuwen voor het gevaar. Het gaat gewoon gebeuren. En ja, er gaan nog veel mensen dood door fouten in het systeem. Per saldo zal AP het autorijden veiliger maken. En mensen zullen het systeem net zo gaan vertrouwen als de chauffeur van de bus waar mensen zonder problemen in stappen.
@pomoek: Je laatste zin weet ik niet. Ik denk dat het nog heel lang duurt voordat de chauffeur de bus uit is. Om verschillende redenen. Ten eerste denk ik dat het nog heel lang duurt voordat een AP kan beslissen zoals een mens kan. Daarnaast geloof ik wel dat een AP op de snelweg of N-weg het best over kan nemen. Maar in drukke (binnen)steden met overal fietsers, voetgangers, gebieden met slechte gps ontvangst of signaal verstoring (tussen hoge gebouwen), of bergweggetjes met afgronden. Ik denk dat ook in de bus nog lang een chauffeur gaat zitten. Alleen zou zijn hoofdtaak meer monitoren zijn dan rijden zelf.
Aangezien Elon Musk de aanstichter en klikspaan is van de VAG dieselgate zou ik als ik VAG was de Tesla compleet onderuit halen met hun veiligheids gadgets. Weg met Elon
Net goed

Geef een reactie:

Je moet ingelogd zijn om reacties te posten, registreren kan HIER (ook via Facebook).