Tesla-rijders negeren en masse het advies wat Elon Musk hen geeft, aldus de grote baas zelf.
Er wordt wel eens gezegd dat Tesla een soort religie is met Elon Musk als leider. Dat de magie van Tesla een geloof is, ofzo. Volgens de grote leider zelf is het gros van de Tesla-rijders echter niet dagelijks op een matje richting Mekka aan het bidden om Elon Musk te eren.
FSD
Dat concludeert Musk wanneer het gaat om de bètaversie van FSD: Full Self Driving. Dat is de doorontwikkeling van Autopilot en datgene wat Tesla’s autonome technologie laat zien. Officieel is FSD dus nog niet op de markt: je kunt elke nieuwe Tesla met voorbereiding voor FSD bestellen, maar krijgt het pas wanneer het uit bèta is. Gebruikers kunnen echter zich aanmelden voor de bèta, maar dan wordt wel eerst je rijstijl geanalyseerd en moet je bewijzen dat je geen brokkenpiloot bent. Genoeg bestuurders wisten zichzelf echter in de bèta van FSD te rijden en zijn nu volop aan het testen.
Geheimhouding
Het idee was wel om de Tesla-rijders met de FSD bèta een geheimhoudingsverklaring (NDA) te tekenen. Daarin zou staan dat ervaringen niet naar de media mocht en delen op sociale media ‘slim’ moet gebeuren.
[…] share on social media responsibly and selectively … consider sharing fewer videos, and only the ones that you think are interesting or worthy of being shared […]
De NDA voor Full Self Driving, via Vice
Elon Musk: “Tesla-rijders luisteren niet”
Elon Musk zegt dat de meeste Tesla-rijders met de bèta van FSD niet naar hem of dit advies luisteren. “They’ll just ignore it anyway”. Musk zegt dat het nut van die NDA ongeveer nul is momenteel. Die NDA was bedoeld om te voorkomen wat er nu wel gebeurt: er worden bugs gedeeld in FSD waar de auto een verkeerde beslissing maakt. Dat is het doel van de bèta: dat soort bugs juist delen met Tesla zodat ze het kunnen fixen. In plaats van je TikTok-volgers er blij mee maken.
Elon Musk sprak dus uit dat Tesla-rijders dit veelal lijkt te negeren. Een duidelijke emotie daarover wordt niet duidelijk, maar het lijkt zo klaar als een klontje dat die NDA wel ergens voor bedoeld was. (via Business Insider)
>er worden bugs gedeeld in FSD waar de auto een verkeerde beslissing maakt
>and only the ones that you think are interesting or worthy of being shared
Die Musk begrijpt zijn eigen NDA niet eens… Al die kilometers dat het goed gaat zijn oninteressant en saai, die waar het fout gaat zijn interessant en moeten gedeeld worden. Als Tesla bang is voor reputatie schade dan moeten ze hun beta testers beter betalen en strengere NDA’s laten tekenen.
@mashell: Betaalde beta-testers en een betere NDA… dat klinkt als test engineers. Nee, dan zou Tesla wel akelig veel op een traditionele fabrikant gaan lijken met een test- en validatieafdeling, en dat is natuurlijk niet disruptief genoeg.
@vaakbenjetebang: waarom betalen voor iets wat je gratis kan krijgen? Persoonlijk denk ik niet dat de foutjes er schadelijk zijn en misschien juist wel goed. Wanneer de AI te goed wordt verliezen bestuurders hun aandacht om te corrigeren. We kennen hier allemaal de verhalen van (bewust) slapende bestuurders in Tesla’s.
@flutterby: waarom daarvoor betalen? Nou, omdat zoals @frank2b ook al aangeeft, de medeweggebruikers ongevraagd mede risico lopen. Het minste wat je dan als fabrikant zou moeten doen, is min of meer getrainde professionals achter het stuur zetten.
@vaakbenjetebang: die medeweggebruikers lopen meer risico van de oudere auto zonder automatisch remsystemen en afgeleide bestuurders.
Laatste een mooi uitspraak dat wanneer je 90% van de verkeersdoden bespaard met autonomie dan zal die 10% je nog aanklagen en die 90% weet niet eens dat hun leven gered is.
@flutterby: En daar zit het hem. Van elkaar accepteren we dat we elkaar het leven uit rijden door onkunde en ook wel eens door domme pech. Dat is een gegeven, weliswaar een triest gegeven, maar het is niet anders. Dat we dat met goede, uitontwikkelde hulpsystemen en zelfrijdende voertuigen kunnen verbeteren is zeker. Dat we het helemaal kunnen uitbannen is nog helemaal niet zo zeker, en al zeer zeker niet met de krakkemikkige software die nu in auto’s zit. En ja, ook Tesla FSD is zonder meer krakkemikkig. Wellicht het minst slecht van allemaal, maar nog bij lange na niet goed genoeg om aan iedereen en zijn moeder zomaar mee te geven en op de openbare weg los te laten. Echt niet. En nee, daarvoor hoef ik er niet in gereden te hebben. Je hoeft maar te kijken naar de nog altijd veel voorkomende phantom brakings op een productie-Tesla (of andere auto) anno 2021 op een willekeurige snelweg. Dat zijn allemaal systemen die in principe al een flink aantal jaren op auto’s gemonteerd worden, waar aardig wat data van is, waar meerdere iteraties op gemaakt zijn en die eigenlijk niet zo gek veel hoeven te kunnen. Laten we wel wezen: een portaal met een reflecterend verkeersbord op een klaarlichte dag NIET aanzien voor iets waar je voor moet remmen is wel even van een andere orde dan feilloos kunnen bepalen of die in het zwart geklede voetganger wel of niet wil oversteken in het schemerdonker. En toch lukt het op dit moment geen enkel merk om zelfs maar op een snelweg, waar iedereen grofweg dezelfde kant op rijdt, een feilloos ACC+AEBS te maken. En zo lang dat niet lukt, hoef je zo’n auto echt nog niet los te laten in een woonwijk met om het even welke bestuurder achter het stuur. Testen doe je op testterreinen, en valideren kun je pas daarna op de openbare weg met professionals achter het stuur. De echte FSD, van welk merk dan ook, is nog heel, heel ver weg.
En dat van die 90% en 10%: mooi verhaal, maar statistiek zegt niets over het individu. En als jouw (wellicht hypothetische) dochtertje wordt doodgereden door een zelfrijdende auto van welk merk dan ook durf ik je alvast te voorspellen dat je geen genoegen zult nemen met die percentages en de droge verklaring van de CTO: ‘we hebben 9 andere meisjes niet doodgereden, laat dat u tot troost strekken’. Dan procedeer je waarschijnlijk tot je er zelf dood bij neervalt, als je al het fatsoen kunt opbrengen om die CTO niet op te zoeken en hem met een botte brandweerbijl in mootjes te hakken.
Als die Tesla’s dood en verderf zouden zaaien, zouden ze morgen al van de weg afgehaald worden. Spreek er gerust schande van en heb er een mening over, maar zoek ook voor de grap even op hoeveel ongelukken FSD Beta tot nu toe heeft veroorzaakt. The grand total: 0. Ondertussen is het statistisch haast onvermijdelijk dat FSD inmiddels wel een paar levens gered heeft, want hoeveel mensen zitten er tegenwoordig immers niet te appen in hun niet-zelfrijdende autos? Maarja, als CEO krijg je alleen kritiek, geen bedankjes.
@vaakbenjetebang: de FSD beta draait misschien op dezelfde hardware maar heeft verder niets te maken met Autopilot in Europa. Je kan het vergelijken met Linux installeren op een Windows PC. Je conclusies op basis van Autopilot in Europa zeggen dus niets over de FSD beta.
Telkens maar weer kleine kindertjes erbij betrekken. Met zo’n argument “win” je natuurlijk altijd want wie hierop reageert is een onmens. Slaat natuurlijk op niets of moeten we alle auto’s van de baan nemen dan? Misschien een lijstje aanleggen van de mensen die overtredingen maken en deze levenslang van de weg bannen want je weet maar nooit.
FSD moet gewoon testkilometers maken en wie hem krijgt, moet enorm gemonitord worden en zelfs hard bestraft worden door de wet. (Slapen, achterin zitten, tamper devices,..) helemaal akkoord. Wees gerust, die kindertjes zijn veel veiliger met FSD beta op de weg dan met al die appende wappies en petjes op de baan.
Uiteindelijk zal FSD zich netjes aan de snelheid houden en dus het verplicht eventuele ingrijpen eenvoudig maken. Het is niet dat ie met 50 km/u door een zone 30 gaat knallen wat zonder FSD wel gebeurt soms.
Ik bedoel maar, je 9 jarig kind moest dan maar eens net in de buurt zijn.
Ik ben ook tegen een globale uitrol voorlopig maar heb niets tegen een uitrol naar een beperkte groep die dus gemonitord wordt.
Tiktok en haar volgers neemt toch niemand serieus dus ik zie het probleem niet.
Musk blijft een eindbaas ,peroid
@monsieurleloure: absoluut een eindbaas. En die hyperloop vergeef ik hem dan
Wat is er met hyperloop? Er zijn toch volop initiatieven wereldwijd met dit soort technologie, die vorm van transport komt er echt wel.
@cloverleaf: die hyperloop komt er wel hoor. Niet elke ontwikkeling hoeft onder Musk zijn toezien te gebeuren.
Niet alleen de bestuurders zijn de betatesters, de overige verkeersdeelnemers zijn dat ook.
En ik heb geen NDA getekend. Ik wil zelfs helemaal geen betatester zijn.
Bestuurders blijven bestuurders, of ze nu rijhulpsystemen gebruiken of niet.
@frank2b: Helemaal mee eens!
Precies. Ik snap niet eens waarom je gratis zou meedoen als beta tester. Dit product wordt echt niet voor jouw ontwikkeld. Het is alleen maar gericht om de huidige beroepschauffeurs overbodig te maken. En denk maar niet dat het verschil in kosten voor een taxi rit zonder chauffeur in jouw portemonnee blijft, nee die dienst wordt zo geprijsd zodat het maar een paar euro goedkoper is zodat ‘we’ weer iemand miljardair maken. Want dat hebben we toch liever, dat het geld naar miljardairs gaat ipv jan modaal.
@geen1234: Tesla is niet de enige die zich met autonomie bezig houd. Als daar straks concurrentie ontstaat gaan de prijzen vanzelf omlaag. Daarnaast denk ik dat de meeste consumenten liever kiezen voor een auto met chauffeur dan zonder bij gelijke prijs en wanneer ze met de Robotaxi willen gaan concurreren met zelf sturen moet de prijs fors omlaag. Uiteindelijk is het geen kwestie van overnemen van de taxi markt maar met name het (explosief) groeien van deze markt.
Heeft iemand nog een exemplaar liggen van Elon Musk dekbedovertrek, maat 240×200.
Mag ook gebruikt zijn, ik vraag dit voor een vriend.
Klopt, hele kast vol! Musk himself stuurt ze altijd naar me op, geweldige vent.
@raoufff: maakt het uit als er onverklaarbare vlekken in zitten?
Belangrijke toevoeging aan het artikel: Musk heeft die NDA niet bedacht, hij kwam er later achter dat die er was. Vervolgens heeft hij inderdaad wel gezegd dat hij ‘m onnodig/onzinnig vond. Quote: “Yeah, I don’t know why there’s an NDA. We probably don’t need it. I feel like we’ll just be ignoring it anyway, so I don’t think it matters,”
Belangrijk, als in ‘ik ben niet echt betrokken bij de FSD ontwikkeling’?
Nou van mij mag je wel hoor. Het laatste waar ik achter kan staan is iemand de mond snoeren.
Nou nee, dit is: Belangrijk, als in: ‘wees niet bang voor die NDA, we zullen je er niet op pakken’. Want daar is zo’n NDA natuurlijk voor: de beta-FSD-optie weghalen bij mensen die zich niet aan de de NDA houden. Eventueel zouden die mensen zelfs aangeklaagd kunnen worden wegens contractbreuk – maar als je even nadenkt dan weet je dat Tesla dat nooit zou doen omdat dat veel teveel de nadruk zou leggen op de tekortkomingen van het systeem.
Musk zal ongetwijfeld de ontwikkeling van FSD nauwkeurig volgen, maar betrokken bij de ontwikkeling zal hij niet zijn. En blijkbaar heeft de juridische afdeling in zijn wijsheid bedacht dat er een NDA nodig is voor de betatesters, dat staat natuurlijk sowieso los van de software-ontwikkeling.
Had-ie wat anders verwacht dan?
Niet om het een of ander, maar zelf is Musk er ook niet vies van om dingen op social media te zetten die eigenlijk ergens anders gemeld moeten worden…
Volgens mij heeft hij in dat interview ook expliciet gezegd dat FSD nog niet werkt. Ik kan me nog herinneren dat hier een of ander petje wel wilde wedden ‘dat Musk zelf beschikte over een FSD auto’. Tjonge hoe blind kan je iemand volgen en/of adoreren.
“FSD could make the worst decision at the worst time” heeft ie gezegd als waarschuwing om wel goed op te blijven letten.
Musk rijdt daadwerkelijk al jaren Model S met daarop de nieuwste (vaak nog niet uitgebrachte) versies van FSD.
Je moet ongelofelijk veel data hebben voor full-self-driving. Er zijn zoveel scenario’s mogelijk dat je enorm veel testrijders moet hebben. Ik vind het wel een interessant onderwerp en denk er wel eens over na toevallig.
Wat nou als je een bruin/beige kartonnen zak van de McDonalds of kartonnen doos op de snelweg ziet liggen. Herkent ie dat als blok/massief voorwerp? Herkent hij het als kartonnen zak? Gebruikt hij de camera of ook de radar? Gaat de auto afremmen of ontwijken? Bij welk formaat kartonnen doos (schoenendoos?) rijdt de auto door en wanneer besluit de auto te gaan remmen/ontwijken, is er een omslagpunt?
Staat overigens geheel los van Tesla, hebben andere automerken (ooit) ook vast last van. Ik ben gewoon benieuwd wat algoritmes leren/overnemen of juist anders doen dan mensen. Misschien ontwijken mensen putdeksels, zou gaaf zijn als algoritmes dat aanleren en ook zouden doen. Maar je hebt gewoon zo ongelofelijk veel scenario’s dat je heel veel data nodig hebt. Extreem weer, dieren, voorwerpen, gaten in de weg, water (diepe plassen), eerst the known unkowns en uiteindelijk the unknown unknowns programmeren, succes.
Inderdaad erg interessante technologie, en hoe meer je er van weet, hoe meer je gaat merken hoe lastig het is het menselijk brein te simuleren.
Nu gaan al die auto fabrikanten zelf het wiel opnieuw uitvinden. Want stel je voor dat ze wat minder marge maken, wanneer ze het gezamenlijk gaan ontwikkelen.
Een beter milieu houdt ook in, stoppen met het onnodig energie verspillen zoals 10 bedrijven die hetzelfde doen. Maar nee die knuppels blijven gewoon doorgaan op de oude voet, niets geleerd in de afgelopen 1000 jaar. En dan heb je ook nog ‘sukkels’ die dit soort ‘leiders’ eindbaas noemen.
@geen1234 Zou je zelf eens in een Tesla willen rijden? Is dat het
Ik heb ooit die lotus versie gehad voor een halve dag, daarnaast begin ik al te zeuren bij bmw dat de deurvergrendeling knopjes hetzelfde waren als in de 5 serie, dus ik denk niet echt dat ik jaren lang in het interieur van een Tesla kan overleven. Maar eerlijkheidshalve begin ik ook te merken, dat ik minder om auto’s geef tegenwoordig.
De prijs kwaliteit verhouding bij Tesla is gewoon slecht. Ik wil waar voor mijn geld, en als je bij Tesla koopt, gaat gewoon veel van je geld weg in giga factories of wat dan ook. Het zit iig niet in het product dat ik koop. Daarom zal Tesla denk ik altijd afvallen.
@geen1234 chapeau voor serieuze antwoord op mijn ietwat gekscherende vraag 😉. Goed weekend.
Nadeel aan alles gezamelijk doen, is wel dat je op 1 paard wed. Je gaat 1 pad uitdiepen.
Terwijl in de praktijk wel blijkt dat veel verschillende methodes allemaal hun sterke punten hebben.
Zat technieken zijn in het verleden afgeschoten nadat ze in het begin superieur leken.
Ben overigens wel voor meer samenwerking, maar alles op 1 hoop gooien is niet perse beter
Natuurlijk, alles vereist zijn individuele benadering. Kijk hoe de Europese ruimtevaart is geregeld. De makers van de corona vaccins zijn allemaal van mening dat het resultaat niet mogelijk was geweest zonder de mensen die testen. Als al die mensen die gratis testen (dus ook die beta testers van Tesla) dat nu alleen zouden doen onder voorwaarde dat de resultaten openbaar en vrij toegankelijk zijn, krijg je een veel efficientere samenleving.
@geen1234 ,
FF bekkie he
Dezelfde data gebruiken mensen ook om te rijden. Een “ervaren chauffeur” heeft dus veel data verzameld bijvoorbeeld. Tesla heeft FSD in principe al uitgevonden, alleen alle data ontbreekt nog.
Tesla is door hun grote hoeveelheid data de leider en zijn moeilijk in te halen.
Nu veel mensen de “Beta Button” hebben en FSD kunnen gaan proberen (als de auto bepaald heeft dat je netjes rijdt) komt er veel meer data binnen, meer dan enig ander..
Enne, het wordt niet “geprogrammeerd” in de traditionele zin. Het zijn zelflerende neural netwerken.
Echter heeft de mens hierin ook een hoop data die niet met autorijden te maken heeft.
In dit specifieke voorbeeld, wij herkennen een rondwaaiende mcdonalds papieren zak, weten dat de zak geen issue is. Hij waait rond, dus hij is leeg –> geen issue.
Die auto ziet “enkel” een bruin object. Uit pure aantallen van incidenten zal het systeem uiteindelijk een idee krijgen van wat de bedoeling is. Maar door “levenskennis” kunnen kleine verschillen voor ons soms duidelijk zijn.
Niet perse onmogelijk, wel veel specifieke ‘kennis” om in een dataset te bouwen.
@timberleek: waarom zou een camera geen verschil kunnen zien tussen een bruin object en een papieren tas? Een iPhone kan al verschillende hondenrassen herkennen.
Zo bedoel ik mijn punt niet.
Die hondenrassen herkennen is eenzelfde voorbeeld. We hebben enorme stapels foto’s in die systemen gestort waar het systeem van “leert”.
Dat is bij een FSD achtig systeem niet anders.
Het is meer dat er stiekem enorm veel kleine dingen die wij mensen weten door opvoeding, onderwijs en ervaring. Allemaal zijn ze ook aan een systeem te leren, maar dit is enorm veel werk. Niet onmogelijk, maar wel een reden waarom dergelijke systemen gewoon tijd nodig hebben.
FSD achtige intelligentie is zoveel meer dan alleen lijntjes en stoplichten herkennen
@timberleek: klopt en daarom zet Tesla de volgende stap om deze lessen ook toe te passen in hun TeslaBot. Comma.ai heeft bijvoorbeeld een hele andere aanpak om autonomie te bereiken en zien het begrijpen van de wereld als veel minder belangrijk.
Ja en dat sysmteempje is gemaakt door mensen. En dat moet dus onwijs veel data nog vergaren. In het eerste voorbeeld wat ik noemde, kartonnen doos of pastic zak, je hebt 1000’en verschillende zakken en dozen en de inhoud kan verschillen, en het systeem moet dan nog een keuze maken..
Maargoed, als je er nooit mee werkt dan denk je dat die black box die AI en Machine Learning heet heel ver is, maar niets is minder waar 😂
@rogerzz: Mensen maken dat onderscheid ook niet in secondes en is niet relevant. Wat relevant is hoe het object zich beweegt want daaruit kan je de massa inschatten en of het risico van uitwijken waard is. Een mens kan die inschatting amper maken.
De film Sully over de landing op de Hudson rivier geeft hier ook een interessant kijk op. Soms heb je niet de tijd om de juiste beslissing te maken en is geen beslissing juist de verkeerde beslissing. Een computer kan in korte tijd veel meer opties overwegen en zijn zelfs preventief in het algoritme ingebouwd.
Tesla heeft FSD niet uitgevonden, ze zijn bezig met de ontwikkeling ervan. Volgens mij zijn andere bedrijven er al decennia eerder mee begonnen.
En die neural netwerken bestonden toen ik ging studeren, dus niets nieuws.
Dat klopt, niets nieuws onder de zon enkel is er nu veel meer compute, en data wat vroeger niet was.
Door de massale interesse en investeringen evolueert deze “discipline” natuurlijk nog steeds.
@rogerzz: in principe zou het algoritme de verkeerssituatie mee moeten nemen. Zo zie je de FSD beta ook prima buiten de lijntjes rijden op het moment dat het veiliger is.
Voor de papieren zak is het een kwestie of het kan herkennen of het een zak is, maar zelfs dan is het de vraag wat er in de zak zit. Uiteindelijk zal je als mens zijnde een papieren zak ook altijd proberen te ontwijken. Gelukkig werkt FSD trouwens in 4 dimensies door ook tijd mee te nemen. Een zak die beweegt is minder gevaarlijk als een statische zak.
Moderne versie van het boek 1984…..
Zonder twijfel dat de filmmakers van James Bond eindeloos inspiratie kunnen halen uit deze verschrikkelijke man. Hij bezit alle eigenschappen van hun slechteriken, het afgedwaalde genie dat de wereldmacht wil overnemen met vreemde technologie waar niemand het gevaar van ziet maar de absolute verknechting tot doel heeft, en de genadeloze vernietiging van al diegenen die niet mee gaan in zijn logica. Het is vooral duidelijk dat iedereen naar hem moet luisteren, dat komt altijd terug. Tenandere, a Quantum of Solace in 2008 ging al deze richting uit, er zit zoveel waarheid over ‘de groene god’ in deze film nb.
@kevertje: Tony Stark is gebaseerd op (onder andere) Elon Musk en ook in Salvation (Netflix) zijn duidelijk overeenkomsten te zien.
Ik weet het ;-). Er wordt heel mooi in gesuggereerd hoe overheden meestappen in het verhaal, want zie ‘deze man heeft de oplossing’. Daar gaat het over. Dat het verkeerde genie uiteindelijk een blik olie moet uitdrinken in de woestijn, is heel symbolisch, vrees ik.
@kevertje: Het grappige in de werkelijkheid is dat de huidige federale administratie van de VS niet eens Tesla durft te noemen als speler in de transitie naar elektrische rijden en ze zelfs uit subsidie probeert te behandelen als een buitenlandse producent, dat terwijl NASA praktisch verliefd is op SpaceX en zelfs geen tweede partij kiest omdat die zoveel meer kosten.
Met dat domme gezwam van hem op Twitter is het ook niet heel vreemd dat er niet naar hem geluisterd word.
Agent: Zo meneer u bent van achteren aangereden op de snelweg en diegene achter u heeft het over een brake-check… Kunt u dit toelichten? “Bestuurder”: Ik mag er niets over zeggen… daarvoor moet ik u doorverwijzen naar Tesla..