Bundes-autoriteit: Tesla’s Autopilot aanzienlijk gevaar

Auteur: , 35 Reacties

Experts van het Bundesanstalt für Straßenwesen (BASt) hebben het Bundesverkehrsministeriums ingelicht dat zij Tesla's AutoPilot beschouwen als een gevaar voor lijf en leden van de Bundes-burgers.

Tesla

Onlangs vond er bij onze oosterburen weer een ongeval plaats met een Tesla Model S. Op de A24 tussen Berlijn en Hamburg haalde een snelle toerbus met een zwik Denen erin de Tesla in. Toen de bus voorbij dacht te zijn aan de elektro-mobiel stuurde de buschauffeur weer terug naar zijn oorspronkelijke rijstrook. Daarbij kwam het echter tot contact met het geesteskind van Elon Musk.

De 50-jarige Brandenburger die achter het stuur zat van de Model S raakte gewond bij het ongeval en gaf aan dat AutoPilot geactiveerd was. Tesla reageerde zoals we inmiddels van ze gewend zijn in dit soort gevallen. Een woordvoerdster van het merk claimt dat het ongeluk niet te voorkomen viel, omdat de bus in dit geval simpelweg tegen de auto aangereden is.

“We can only do so much to prevent an accident.”

In principe heeft ze daar wellicht wel een punt. Doch het incident staat niet op zichzelf en wellicht mede door de bitse reacties van de Amerikaanse pionier staat de veiligheidsdiscussie onder hoogspanning.

Na het incident heeft het Bundesanstalt für Straßenwesen (BASt) in opdracht van het Duitse ministerie van Verkeer wat tests gedaan met AutoPilot. Daaruit bleek dat de Model S de bestuurder níet verwittigt van een gevaarlijke situatie als het die situatie zelf niet kan counteren. Bijvoorbeeld als een toerbus je pardoes de pas afsnijdt. Tevens zou het systeem aan de achterkant onvoldoende in staat zijn objecten waar te nemen tijdens inhaalacties. Tenslotte zou ook de noodremfunctie niet voldoende werking hebben. Het onderzoek komt na de update die Tesla onlangs uitvoerde aan AutoPilot naar aanleiding van eerdere incidenten.

Toch wel een aantal serieuze claims dus, die BASt neergelegd heeft bij minister Alexander Dobrindt. Die laatste ziet echter nog geen reden om de Tesla in de ban te doen, tot ergernis van kwaliteitspublicatie Der Spiegel. Dit magazine spreekt zelfs van een cover-up, omdat Dobrindt in plaats van de circa 3.000 volgens hen levensgevaarlijke Tesla’s die in Duitsland rondrijden van de weg te halen er juist voor kiest om het merk belastinggeld te geven voor onderzoek met AutoPilot in grote steden.

Dobrindt en zijn ministerie claimen echter dat er nog geen absolute duidelijkheid is over de (on)veiligheid van AutoPilot, omdat er nog meerdere onderzoeken lopen. Hij geeft ook aan dat ze in conclaaf gaan met onze eigen RDW die de typegoedkeuringen van Tesla’s voor heel Europa voor hun rekening nemen. Wordt dus ongetwijfeld vervolgd. Nou ja, dit verhaal dan in ieder geval, Tesla misschien niet.



35 reacties

Tja ik mis ook wel eens een bus. Kan gebeuren toch daar ben je mens voor. Oh wacht….
De bus ging dus te vroeg naar rechts? Snap niet hoe tesla’s autopilot daar schuldig aan kan zijn. Van mij hoeft al dat autonoom rijden niet zo, maar in dit geval is dat niet de boosdoener lijkt mij.
@bartteeuwen:
iedere automobilist heeft wel eens een ongeluk vermeden door op een fout van iemand anders te reageren (zoniet komt dat moment nog). als een “autopilot” dat niet kan is het dus een onbetrouwbaar ding.
@super: En vele meer is dat ook niet op tijd gelukt… dus jouw conclusie is dan dat alle automobilisten van de weg moeten? Daarbij is het systeem, zoals Tesla volgens mij ook keer op keer heeft uitgelegd, een HULP bij het autorijden. Dat betekent dat hij acties kan ondernemen terwijl de bestuurde de regie moet houden (en zelf kan ingrijpen). Soms is dat misschien zelfs wel voor situaties die diezelfde bestuurder over het hoofd had gezien. Maar voorlopig ligt de verantwoording nog steeds bij die bestuurder.
@kees66:
zoek es strawman op het interwebs, en volgende keer nog meer woorden in caps schrijven, word je argument nog sterker.
Het is perfect veilig, mits correct gebruik…
@stanny: De mens is bewezen mega-mega-slecht in het controleren van geautomatiseerde processen.

De constructie dat Tesla wel effectief, volledig de auto bestuurd, kijken, remmen, gasgeven, sturen.. maar 0,0 % verantwoordelijk is voor het handelen van de auto is een slechte.
@stanny:
ja, met een draaiende kettingzaag jongleren is ook perfect veilig, mits correct uitgevoerd.
@stanny: Inderdaad. Ik betreur het dan ook dat Autoblog vrolijk meedoet aan het steeds uitvergroten elk incident met de Autopilot. Een systeem dat uiteindelijk voor een veel veiliger verkeer gaat zorgen. Met autopilot had die bus namelijk niet te vroeg van baan gewisseld.
Ik kijk uit naar het moment dat iedereen met autopilot rijdt. Al die korte lontjes op de snelweg die dan gewoon ontspannen een filmpje kunnen kijken. Figuren die nu niet durven op te trekken op de invoegstrook en met 60km/u invoegen op de snelweg, dat dan over moeten laten aan het systeem. En gewoon bumper aan bumper rijden omdat een computer vele malen sneller in kan grijpen dan een mens.

Maar tot die tijd is (zoals @kees66 ook al opmerkte) het systeem een hulp. Het wordt eigenlijk getest door de rijders van een Tesla.
Gewoon de Autopilot functie uitschakelen van die rijdende iPhones op last van de overheid totdat Tesla met een oplossing komt, nu beginnen ze een beetje op VAG te lijken
@raoufff: software 8.0 met extra functies voor de radar is net uitgegeven in Europa. Alles via update.
@raoufff: er zijn videos op jijbuis etc. te vinden waarbij Tesla’s met AP zelf een uitwijk-manouvre uitvoeren omdat er een kamikaze-idioot/prutser links of rechts zat. Er is een video waarbij een AP wagen een vrachtwagen weet te ontwijken die “em ff drin drukt”.

Nu is deze wagen ge-“sideswiped” van schuin achteren door een bus. Wat hat de Tesla moeten doen deze keer? Een dot gas (stroom) geven om aan de bus te ontkomen? Misschien kon dat niet.

Tesla geeft al sinds dag 1 van AP dat het heel moeilijk is om alle mogelijke “corner-cases” af te dekken.

En voor de 10000000 keer: het is GEEN zelfrijdend systeem. Je moet zelf op blijven letten. Het is slechts “level 2”. Dat is nog heel ver weg van level 4.

Overigens: de afsluitende zin van het artikel laat wederom het ware karakter van AB zien. Tesla moet dood van AB.
Tesla heeft zijn zaakjes, als dit onderzoek klopt, nog niet voldoende op orde. Als ik het zo lees is het allemaal redelijk goed oplosbaar. Zoals anderen hierboven ook al zeggen zijn dit fouten die ook door mensen gemaakt worden. Ik zou nu nog niet in een autonome auto gaan rijden. Maar er zijn toch wel al in, relatief korte tijd, enorme stappen genomen. Over een jaar of 5-10 is het denk ik veiliger dan analoog autorijden.
Afgesneden worden op de snelweg is dus het klassieke voorbeeld van een fout van de andere bestuurder die een mens heel goed op kan vangen. Als je ziet dat de bus naar rechts gaat terwijl die nog naast je zit (en dat zie je als je naar voren kijkt dus altijd) gaat immers instinctief het stuur mee naar rechts.

Dit is ook precies wat ik op autopilot tegen heb. Statistisch gezien maakt autopilot wellicht minder fouten. Maar de fouten die een computer maakt (jaja, de programmeurs) zijn dusdanig anders dan fouten die een mens maakt dat het zeer onvoorspelbaar is. Nu moet men dus niet alleen rekening houden met typische fouten van een menselijke bestuurder maar ook nog eens met typische fouten van computers.
via Android app
@lekbak: er is al een voorbeeld dat de Tesla uitweek voor een afsnijdende vrachtwagen.
-edit: dank u, is inmiddels gefixt-
Man man man, een bus rijdt die Tesla van de weg en nou is die Tesla gevaarlijk?! Die knuppel achter het stuur had moeten opletten en ingrijpen. Als ‘ie in een BMW had gezeten was het waarschijnlijk net zo fout gegaan.
De Duitse auto-lobby slaat weer toe was een betere titel voor dit stuk en de hele “discussie”.

“Wij hebben het niet maar we kunnen het wel beter dus moet de kop van degene die zijn nek uitsteekt er maar af.. pakt ook goed uit voor de concurrentie positie van de Duitse industrie dus aan de slag beste betaalde onderzoekers. Tut wofur wir euch bezahlen.
Dit is een mooi voorbeeld van lobby-werk door de Duitse auto-industrie om Tesla de pas af te snijden. De bus is een prima metafoor.
@dick1980: busje komt zoooooo…
Misschien moet men eerst de levensgevaarlijke oplossing in de Mercedes e klasse verbieden. Maar die wil men liever niet onderzoeken.
via Android app
@pramm: of die van Volvo. Ik vond het in die auto doodeng itt mijn Tesla.
@pramm: wat is er zo gevaarlijk aan de e-klasse. Daar heb ik nog niets over gehoord of gelezen.
@mashell: dat je er nog niets over hebt gelezen komt waarschijnlijk omdat het maar weinig wordt gebruikt. Gebruikers vinden het nogal gevaarlijk. Diverse tests geven dit ook aan. Het systeem zet zichzelf uit zonder heldere vermelding of waarschuwing. Heeft echt aan beide zijden wegmarkeringen nodig om te voorkomen dat de verkeerde lane wordt gebruikt.

Als je even Googled op een vergelijking zie je er meerdere.

Het ergste is dat Mercedes in de vs dit adverteerde als autonoom level 4, terwijl het amper level 2 betreft. Die add moest mb herroepen.

http://www.thedrive.com/tech/4591/the-war-for-autonomous-driving-2017-mercedes-benz-e-class-vs-2017-tesla-model-s?xid=the-drive_socialflow_twitter
@pramm: In deze alinea wordt het probleem mooi geformuleerd, ondanks dat de auteur dit zelf niet door heeft.
“Disengagement? Press the button on the wheel or tap the brakes. Unlike with Autopilot, placing your hands on the wheel and steering doesn’t instantly disengage Drive Pilot. I suppose this is intended as a method of allowing the user to guide Drive Pilot by making course corrections, but instead it resulted in an unwanted and stressful upper arm workout, without which I’d have been killed.”
Bij Tesla schakelt het systeem uit als je de handen aan het stuur hebt, bij Mercedes blijft het aan. De kern van de zaak is, bij dit soort assistent systemen (level 2) mogen de handen helemaal niet van het stuur. Die moeten aan het stuur blijven! Je moet ten alle tijden zelf de controle houden. Doordat de handen van het stuur moeten bij Tesla wekt het suggesties (level 4) die het systeem niet kan waarmaken.
@mashell: ik vind het erg knap van je dat je dit toch weer negatief uiteen weet te zetten voor Tesla. Waarschijnlijk nog nooit met het systeem gereden. In een artikel dat duidelijk aangeeft dat je bij Mercedes echt je handen niet van t stuur moet halen, omdat t systeem erg matig functioneer en het veelal ook echt nodig is om snel in te kunnen grijpen door falen, terwijl gebruik van het systeem als rijssistent bij Tesla niet tot onveilige situaties leidt.
De bus is schuldig aan het ongeluk en de autopilot niet, die heeft het ongeluk niet veroorzaakt.
De tesla heeft dus geen ongeluk veroorzaakt maar ook niks gedaan om een ongeluk te voorkomen.
Dit lijkt me niet af te schuiven als een fout van de autopilot maar meer als iets wat ook geen pluspunten verdient dus zou ik het raar vinden dat je op basis hiervan de autopilot zou kunnen verbieden want het is niet de schuld van de autopilot.

Als uiteindelijk uit de zaak komt dat de tesla schuldig is zou dat niet goed zijn voor het wegverkeer want dan gaat straks iedereen halverwege weer terug naar rechts met de smoes dat die ander maar zou moeten uitwijken/remmen.
@flevocarspotter: wat is dat nou weer voor rare gedachten kronkel? Als we een niet goed functionerend autonoom systeem van Tesla verbieden dan gaat iedereen elkaar van de weg rammen? Natuurlijk niet. Degene die een ander van de weg ramt blijft schuldig en heeft grote problemen als deze dat moedwillig doet.
Het probleem is een heel ander. Wat zou een mens doen als deze auto rijdt, wordt ingehaald door een bus, ziet dat de bus het knipperlicht naar rechts aan doet en naar rechts beweegt terwijl deze er nog niet helemaal voorbij is. De mens zou zowel op de claxon als op het rempedaal rammen. Beide als reflex en poging om het ongeluk te voorkomen. En dat is wat een echt autonoom systeem ook moet doen. Maar zover zijn die autonome systemen nog niet. Dat vergt een heel ander niveau van sensoren en software om dat mogelijk te maken. Zolang die er niet zijn mag je het systeem niet als autonoom rijden verkopen. En dat is wat Tesla doet en wat Tesla rijders er mee doen. Daar zit de fout.
Als je voor een verkeerslicht staat, jouw licht wordt groen, dan kijk je over het kruispunt voordat je oprijdt. Komt er op de dwarsweg iemand het hoge snelheid aan, dan wacht je met oprijden want die wagen met hoge snelheid zou wel eens door rood kunnen gaan. Dat niveau van beslissen moeten we ook in autonome systemen gaan krijgen. Zolang dat er niet is, moet Tesla (net als de andere fabrikanten) de software zo maken dat het systeem alleen ondersteund en alleen werkt als de bestuurder ook oplet. En natuurlijk de naam veranderen zodat iedereen weet dat het een geavanceerde assistent is maar geen automatische piloot.
Ja als de tegenpartij zeer plotseling tegen je aan rijd en remmen niet meer helpt kan de auto pilot er weinig aan doen.
Bundes-autoriteit: Tesla’s Musk aanzienlijk gevaar
Die mannen van Pontiac hadden begin jaren ’80 al een zelfrijdende auto, en die kon helemaal alleen rijden. Eat that Elon.
Mooi systeem dat autopilot alleen is de naam verkeerd gekozen. Wanneer ze het drive-assist oid genoemd hadden was er niets aan de hand geweest.

Echter is het Musk en zijn Tesla alleen te doen om naamsbekendheid en hebben ze deze fout voorlief genomen
Ik stel voor om dit grondig te onderzoeken en die 5 jaar dat het onderzoek duurt voorlopig maar zowel de autopilot van Tesla als het inhalen door touringcars te verbieden.
Inhalende touringcars (ja, Flixbus ook jullie) zijn best wel een plaag geworden op de Duitse autobahn.
@mashell wat ik probeer te zeggen is dat bij dit ongeluk de tesla weinig te verwijten valt omdat de schuld bij de bus ligt en dat als uiteindelijk gezegd wordt dat de tesla (ook) schuld heeft omdat hij niks heeft gedaan om het ongeluk te voorkomen dat mensen dan heel roekeloos gaan rijden omdat de ander dan maar moet remmen en als ze dat niet doen ze een ongeluk veroorzaken.
Ik vind dus dat de tesla niks te verwijten valt en het zou beter zijn als de ap wel kon remmen in deze situatie maar je kunt het niet verbieden omdat de ap dit niet kan
Blijf van mening dat autonoom rijden wel kan maar alleen met behulp van een mainframe.

Geef een reactie:

Je moet ingelogd zijn om reacties te posten, registreren kan HIER (ook via Facebook).