Elon Musk heeft niet meer zo’n boude uitspraken over Full Self Driving.
Elon Musk heeft veel beloftes waargemaakt. Om eerlijk te zijn: meer dan ondergetekende verwacht had. Maar op sommige vlakken, blijft de grote leider van Tesla toch een beetje Theranosesque. De visionair is duidelijk een man die dingen kan laten gebeuren. Maar ook zijn kwaliteiten, of liever gezegd die van zijn werknemers, kennen grenzen.
Zo is daar de niet aflatende saga rondom Full Self Driving. Al toen men het nog alleen maar had over Autopilot, claimde Elon Musk dat Tesla’s volledig autonoom konden rijden. Dat kwam hem op veel kritiek te staan van regelgevers. Vooral nadat enkele ongelukkige Tesla-bestuurders er onzacht achter kwamen dat dat autonoom rijden toch zijn limieten had.
Na wat geharrewar trok Tesla enkele claims over autonoom rijden terug, maar alsnog bleef Musk dingen beloven die zijn engineers niet waar konden maken. Een beetje zoals bij TopGun, schreef zijn ego cheques uit die zijn bedrijf niet kon cashen. Zo zouden er eind 2019 een miljoen robo-taxi’s rondrijden. Drie jaar later, hebben we ze nog niet gezien.
Wel komt Full Self Driving regelmatig in het nieuws, maar niet altijd om goede redenen. Het systeem heeft duidelijk nog vaak ‘ingrepen’ nodig en af en toe komt het tot een kablabber. Eentje waar Tesla dan niet altijd even lekker op reageert. Zo werd een medewerker die een crash met Full Self Driving online zette, keihard ontslagen. Sommigen vinden dat logisch, want je gaat niet de vuile was van het bedrijf waar je voor werkt buiten hangen. Maar in het kader van transparantie over fouten en gevaren, is het ook wel enigszins cynisch.
Nu het eind van het jaar weer nadert, werd Musk door wat journalisten gevraagd hoe het er nu voorstaat met Full Self Driving en autonoom rijden. Musk is nu, nadrukkelijk voorzichtiger in zijn uitspraken:
Well, there’s this debate of what’s the interventions per mile and maybe safety interventions per mile. Like we’re not saying that that’s quite ready to have no one behind the wheel. It’s just that you will almost never have to touch the control, vehicle controllers. So, like when I came to Giga Texas from a friend’s house today, I never touched any of the controls already here.
And then there is a longer process called the march of 9s, which is how many 9s reliability do you need before you could really be comfortable saying that the car could drive with no one in it? And there’s some subjectivity as to how many 9s you need. But I think we’ll be pretty close to having enough 9s that you’re going to have no one in the car by the end of this year. And certainly, without a question, that’s in my mind next year.
Elon Musk, remembers the march of theTitans9s
Mocht je het afvragen: de March of the 9s is een theorie die als volgt werkt. Stel dat een auto 99,999 procent ‘veilig’ is qua autonoom rijden. Dan crash je dus nog steeds elke 100.000 kilometer gemiddeld een keer. Als je nu erin slaagt ‘nog een 9 op te schuiven’ naar 99,9999 procent veilig, dan crasht een auto nog maar eens per een miljoen kilometer. Maar goed, het klinkt eigenlijk interessanter dan het is, want uiteindelijk zal het volk niet geven om ‘9s’ maar om hoe vaak ze gaan crashen.
Musk stelt nu dus ten doel dat men misschien eind dit jaar of ergens volgend jaar een systeem heeft dat veiliger is dan een mens het zou kunnen doen. Maar keiharde claims over zelfrijdende auto’s, die maakt Musk niet meer…
Is het realistisch, en dan ook eens hoeveel veiliger, om van autonoom rijden te verlangen dat het veiliger is dan een menselijke chauffeur…dus per 100.000km crashen is dat veilig genoeg als mensen dit gemiddeld elke 50.000km doen? Het zou 2x zo goed zijn….
Ja. Je moet FSD kunnen vertrouwen. Ik zou graag “slapend” naar mijn werk gaan in de Tesla.. Maar niet als ik 1x per 100.000 km crash.. En ook niet eens per 1000.000..
Ga eens na hoeveel vliegtuigen uit de lucht zouden vallen als de automatische piloten die veiligheids marge hadden.. Of treinen.. Of een lift of roltrap..
In Nederland leggen we jaarlijks 120 miljard km af in auto’s…
echter gaan we nooit de level van onderhoud aan auto’s besteden als dat we dat doen bij vliegtuigen…die hebben ook zoveel meer redundante systemen en nog steeds zitten er piloten om errors op te vangen….in uw vergelijking zijn 99,999% van de gevlogen kilometers op automatische piloot alleen de snelweg stukken en dat u achterin het vliegtuig in slaap kunt vallen moet u niet verwarren met dat de piloten dat ook kunnen doen….kortom nee het is niet realistisch om dat te denken dat we dat level gaan halen….ik ben er ook niet over uit of we ooit FSD moeten gebruiken in dat geval hoor…stel alleen die vraag…
Bij dichte mist zijn piloten “verplicht” te landen op autmatische piloot. En ja er zitten er 3 in in de meeste gevallen die elkaar “controleren”. Daarom geloof ik persoonlijk ook iets minder in de haalbaarheid van FSD in Tesla. Te weinig dubbele systemen.. Met alleen camera’s.. waardoor al eens een chopper is aangereden met 2 achterlichten (FSD dacht dat het een auto was die ver weg reed). Ik vraag me serieus af of je met alleen camera’s mensen kunt overtreffen.
Vliegtuigen kunnen al lang zonder piloten, alleen durven mensen dan (nog) niet in te stappen ;-). En bij Airbus “overruled” het vliegtuig je als je hem zou willen “overtrekken”.
En 737 Max overrulede de piloten. Tesla krijgt het nooit sluitend (of legaal) met alleen camera’s en dat weten ze zelf ook wel. Maar als je het 99,99% sluitend krijgt met camera’s en je voegt dan lidar ter ondersteuning toe dan gaat het aantal negens snel groeien.
Is er regel en/of wetgeving die verbied om alleen met camera’s te werken voor autonome systemen?
Hier in Europa min of meer wel ja. De normen voor veiligheid (iso 26262) schrijven voor dat de ingezette techniek aan de actuele stand der techniek moet voldoen en voldoende redundantie moet hebben. Omdat Lidar gangbaar is voor deze toepassingen en precies het soort missers kan voorkomen dat FSD nu nog heeft kan Tesla eigenlijk FSD niet legaal zonder Lidar in Europa op de markt brengen.
Het bijzondere is natuurlijk dat ze in de VS ondanks de extreme claimclutuur die wagens wel zonder laten rondrijden. Dat kan zomaar echt helemaal verkeerd gaan voor Tesla.
Ja klopt. Boeing had ook een ontwerpfout:
“De 737 MAX verzamelde echter maar van één sensor informatie (Angle-of-Attack-sensor, AoA), die bij een storing verkeerde informatie aan het MCAS-systeem gaf. Piloten waren tijdens hun omscholingstraining maar amper op de hoogte gebracht van het systeem. Toen het MCAS-systeem de neus van het vliegtuig meerdere keren naar beneden drukte, wisten ze niet hoe ze dit konden verhelpen. Het resulteerde in twee grote ongelukken met vele doden als gevolg.”
bron: upinthesky.nl
Ja, ze kunnen het zeker, maar inderdaad doen we het niet o.a. vanwege dezelfde legal battles die je ook bij auto’s zal hebben. Wie is er dan straks verantwoordelijk, Airline? ATC? Vliegtuigbouwer? Motoren leverancier? Onderhoudspartij?
Maar bij vliegtuigen wordt dat onderhoud ten minste nog echt afgedwongen en ik hoop dat je begrijp dat APK nowhere near dit niveau haalt.
Je vraag is terecht, je kan beter de getallen weglaten want daar gaat het niet om, je vraag is namelijk als een autonoom systeem veiliger rijd dan een mens maar nog steeds ongelukken veroorzaakt, gaan we dit accepteren?
Het is namelijk niet mogelijk om een autonoom systeem te hebben dat geen ongelukken veroorzaakt omdat je continu berekende risico’s neemt in het verkeer. Als je ervan uit moet gaan dat de banden op elk moment kunnen springen, dat alle andere deelnemers zwaar gedrogeerd zijn enz dan kan je niet meer rijden.
Gaan we dat dan accepteren? Het antwoord is nee omdat we doorgaans geen empathie hebben voor machines. Dat een mens eens een slechte dag heeft accepteren we, dat een machine eens een slechte dag heeft, dat gaan we niet accepteren wat meteen een bom legt onder het autonoom rijden.
eens, ben ik bang…misschien als we ooit AI gaan hebben die we dezelfde rechten als mensen gaan geven 😉
Eigenlijk wel een goeie toevoeging op autoverzekeringen… heb nu al een paar jaar m’n max 75% no claim korting.
inmiddels al zeker ruim over de 2miljoen schadevrije km’s. Word tijd voor een 9s korting
“But I think we’ll be pretty close to having enough 9s that you’re going to have no one in the car by the end of this year. And certainly, without a question, that’s in my mind next year.”
Ik vind het best hoopvol nog van hem.. Met een systeem met beperkte redundancy.. En geen Rader.. Je zou ook kunnen vragen als journalist: als het volgend jaar niet lukt, lukt het dan überhaupt nog wel? Hyundai en Google hebben al volledig zelfstandige auto’s.. Maar gebruiken wel meer techniek dan alleen camera’s.. En nog een beperkt gebied..
Leuk YT kanaal om te volgen over FSD. Bizar dat ze op zijn minst al zover zijn gekomen!
https://www.youtube.com/c/WholeMarsCatalog
Zelf denk ik dat we volledige FSD (in NL iig) niet zo snel gaan zien, maar het zou wel mooi zijn als er een mooie oplossing zou komen zodat je in ieder geval de saaie snelweg kilometers iets anders kan doen. Dan rij ik de binnendoor wel lekker zelf!
Iets met auto’s die communiceren en autonoom rijden (kan dan ook wat dichter op elkaar, dus hoeft er minder asfalt bij). Houden we één rijstrook voor de mensen zonder FSD, de conservatievelingen die stuurbekrachting al te modern vonden of de mensen die lekker genieten van saaie snelweg kilometers haha!