Teslas autopilot kan lett lures, finner ingeniører

Ingeniører ved Consumer Reports (CR) sa denne uken at de "enkelt" var i stand til å lure Teslas autopilotsystem til å tro at noen satt i førersetet, noe som betyr at bilen kunne kjøres uten noen bak hjul.

CR-ingeniører utførte demonstrasjonen på en privat vei med et Tesla Model Y-kjøretøy. Den ideelle forbrukerorganisasjonen sa at de bestemte seg for å gjennomføre testen etter å ha hørt om Lørdagens dødsulykke i Spring, Texas, som involverer en Tesla Model S som tilsynelatende ikke hadde noen bak rattet.

Teslas autopilotsystem, og også dens nylig utgitte premium Full Self-Driving (FSD)-modus, er førerassistentsystemer og tilbyr ikke helt autonom kjøring. Tesla advarer sjåfører om å alltid være årvåkne når kjøretøyet er i en av disse modusene.

CR-ingeniører tok Model Y på flere turer på tvers av organisasjonens halvmile testbane. De fant ut at til tross for at det ikke var noen bak rattet, klarte ikke kjøretøyet å sende ut en advarsel eller på noen måte indikere at førersetet var tomt. Teamet sa at det tok en rekke enkle trinn for å lure Autopilot, som inkluderte å plassere en liten vektet kjede på rattet for å simulere vekten av en sjåførs hånd.

"I vår evaluering klarte ikke systemet bare å sørge for at sjåføren var oppmerksom, men det kunne heller ikke fortelle om det var en sjåfør der i det hele tatt." sa Jake Fisher, CRs seniordirektør for autotesting, som utførte eksperimentet.

Fisher la til at han trodde Tesla «faller bak andre bilprodusenter som GM og Ford som, på modeller med avanserte førerassistentsystemer, bruker teknologi for å sikre at sjåføren ser på vei."

Disse systemene bruker kameraer for å sikre at noen sitter i førersetet og overvåker veien foran, mens Teslas system bruker en serie med sensorer designet for å sikre for eksempel at føreren har minst én hånd på rattet. Hvis den ikke merker noen hender på rattet, sender Teslas system ut en rekke hørbar advarsler, som, hvis de ignoreres, vil føre til at kjøretøyet stopper gradvis. Men en rekke videoer på sosiale medier de siste årene har, i likhet med CRs test, vist at det er mulig å lure systemet, slik at en Tesla kan kjøres uten noen bak rattet.

På sin nettside ber Tesla sjåførene om å være på vakt til enhver tid, og sier: "Nåværende autopilotfunksjoner krever aktiv sjåførovervåking og gjør ikke kjøretøyet autonom," og også: "Når du bruker autopilot, er det ditt ansvar å være våken, holde hendene på rattet til enhver tid og opprettholde kontroll over bil."

Model S krasj

To menn på 59 og 69 år døde i forrige helgs Model S-ulykke i Texas da kjøretøyet traff et tre og brant i brann. En av passasjerene ble funnet i passasjersetet foran og den andre i et baksete. Etterforskere ser fortsatt på årsaken til ulykken for å finne ut om Model S var i autopilotmodus da den forlot veien. Det er også mulighet for at en av passasjerene ble kastet, eller flyttet, fra førersetet rundt treffpunktet.

Som svar på krasjet tvitret Tesla-sjef Elon Musk at kjøretøydataloggene «gjenopprettet så langt» viste at Autopilot var ikke aktivert på ulykkestidspunktet, og at bilens eier ikke hadde kjøpt FSD. Etterforskere er angivelig planlegger å forkynne ransakingsordrer på Tesla for å få data fra krasjet.

California-baserte Tesla har tidligere blitt kritisert for måten den merker sine førerassistentsystemer, som noen har antydet kan villede sjåfører til å tro at deres Tesla er fullstendig autonom.

Redaktørenes anbefalinger

• Ford elbilsjåfører kan bruke 12 000 Tesla Superchargers fra og med 2024
• Tesla Model 3 vedlikeholdskostnader: Hva kan du forvente?
• Tesla vil fikse vindusprogramvare på 1 million av sine amerikanske biler
• Tesla tilbakekaller 130 000 amerikanske biler på grunn av sikkerhetsproblem med berøringsskjerm
• Se Elon Musks høyhastighetsstart på Teslas Model S Plaid-leveringsarrangement

Oppgrader livsstilen dinDigitale trender hjelper leserne å følge med på den fartsfylte teknologiverdenen med alle de siste nyhetene, morsomme produktanmeldelser, innsiktsfulle redaksjoner og unike sniktitter.