Dat beweren onderzoekers.
Tesla-baas Elon Musk gelooft niet dat LiDAR het antwoord is op autonome auto’s. Ook zijn aanstaande Cybercab krijgt niet het laserlichtsysteem waar bijvoorbeeld Volvo wel in gelooft. In plaats van LiDAR gebruikt Tesla camera’s met AI-software om autonoom te rijden. En laat nou net met die manier een probleempje zijn. Volgens onderzoekers kunnen zelfrijdende auto’s last krijgen van epilepsie door politieauto’s.
Dit beweren geleerden van de Ben-Gurion Universiteit van de Negev in Israël en van het Japanse bedrijf Fujitsu. De onderzoekers hebben gekeken naar de reactie van het AI-systeem achter de camera’s wanneer zij in aanraking komen met zwaailichten. De reden voor het onderzoek ligt deels bij Tesla. De zelfrijdende Tesla’s met Autopilot zijn tussen 2018 en 2021 zestien keer tegen een stilstaande auto met zwaailicht gereden.
”Digitale epilepsie”
Het onderzoek probeerde aan te tonen dat zwaailichten de reden zijn achter de crashes. De uitkomst: zelfrijdende functies die afhankelijk zijn van camera’s zijn niet te vertrouwen wanneer de auto in buurt van zwaailichten komt. De onderzoekers noemen het fenomeen ”een digitale epilepsieaanval” waarbij de AI-systemen die objecten op de weg detecteert niet altijd effectief is door de zwaailichten. Dit zou voornamelijk in het donker het geval zijn. Lang verhaal kort: door de zwaailichten van politieauto’s, ambulances en brandweerauto’s weet het AI-systeem van zelfrijdende auto’s niet zeker of hij een auto voor zich ziet en kan daardoor epilepsie krijgen.
Volgens de onderzoekers zorgt dit kwaaltje voor een ”significant risico”. Autonome auto’s zouden hierdoor ”kunnen crashen in de buurt van hulpdiensten” en nog erger ”gebruikt kunnen worden door kwaadwillenden bij zulke ongelukken”. Stel je voor dat een politieachtervolging niet door kan gaan omdat er een gestoorde Cybercab zichzelf tegen een politieauto parkeert.
Enige nuance
De studie van de onderzoekers beweert echter niet dat de systemen van Tesla onveilig zijn. Zo zijn er geen Tesla-tools gebruikt bij de tests. In plaats daarvan kochten de onderzoekers vijf verschillende rijhulpsystemen van Amazon. Denk aan camera’s die je op je auto kunt plakken en zorgen voor een piepje wanneer je dreigt te botsen.
Alsnog is de onderzoeksuitkomst geen goed teken voor de zelfrijdende Tesla’s met AI-camera’s. En dit is niet het enige probleem dat Musk heeft. Een Gigafactory doet vieze dingetjes en een staatskorting lijkt alleen voor Tesla’s te verdwijnen.
Bron: Wired
Dat camera systemen verblind kunnen raken door veel licht was nog niet algemeen bekend.
Trump schaart deze berichten bij “not true”. Hij heeft ‘alternative facts’ en Musk kan door.
Dus zonder gebruik te maken van de door Tesla gemaakte algoritmes, weet dit onderzoeksinstituut te concluderen hoe Tesla’s camera’s bepaalde situaties interpreteren? Bijzonder… Ik ben zeker geen Tesla-fanboy, maar durf toch wel te concluderen dat dit onderzoek nogal rammelt. Het lijkt me dat de onderzoekers nogal last hadden van confirmation bias.
En ze bieden meteen een oplossing aan: een software framework dat ze zeer ontoepasselijk ‘Caracetamol’ hebben genoemd – oftewel de onderzoeksresultaten zijn ‘lichtelijk’ commercieel gedreven.
Dit in combinatie met dat redelijk wat tesla’s de voertuigen van hulpdiensten hebben geramd (en ze hierdoor onder de loep liggen van de NHTSA) maakt het wel redelijk plausibel.