De autopiloot aan boord van Tesla-auto's was te foppen door stickers op het wegdek te plaatsen. Op die manier werd de auto onder andere gedwongen om van rijstrook te veranderen, ontdekten onderzoekers van het Tencent Keen Security Lab.

De onderzoekers hebben Tesla van de bevinding op de hoogte gebracht. Tesla heeft het probleem inmiddels via een software-update opgelost.

Het probleem zat in de software waarmee een Tesla camerabeelden en andere sensorische informatie samenbrengt tot een coherent overzicht van de weg. Een Tesla gebruikt daarbij een neuraal netwerk, een programma dat patronen herkent, om te bepalen wanneer de auto van rijstrook moet wisselen.

Volgens de onderzoekers is dat problematisch, omdat het momenteel nog gemakkelijk is om een neuraal netwerk te foppen door ruis aan te brengen in de informatie die het ontvangt. Ze voerden verschillende tests uit om te kijken in hoeverre dit een probleem is bij de rijassistent van Tesla, Autopilot.

Netwerk signaleerde wegmarkering door witte vlekjes

De onderzoekers voegden digitaal kleine witte vlekjes toe aan de camerabeelden die de Tesla van het wegoppervlak maakte, grofweg in één lijn. Het neurale netwerk concludeerde daaruit dat er een wegmarkering was die een andere rijstrook aanduidde.

Zo kon de Tesla bijvoorbeeld naar een verkeerde rijstrook worden gestuurd.

Onderzoekers konden ook regensensor misleiden

Ook lukte het om een wegmarkering juist helemaal van de sensors te 'verwijderen' door er fysiek witte stickers op te plakken die de vorm van de markering aantastten. Omdat het neurale netwerk van een Tesla getraind is om ook beschadigde wegmarkeringen te signaleren, waren de benodigde stickers echter zo groot dat ze in het echt door een menselijke chauffeur herkend zouden worden.

De onderzoekers wisten daarnaast met grote stickers de regensensor van de Tesla te misleiden. De stickers bevatten grote vlekken die op willekeurige plekken waren geplaatst. Het neurale netwerk van de regensensor raakte daardoor in de war, kwam tot de conclusie dat het regende en zette de ruitenwissers aan.

Kijk voor meer informatie over Tesla op AutoWeek.nl