Hackers kunnen een Tesla-auto tot 80 km per uur laten versnellen

0
Luister naar dit Artikel

Hackers hebben meerdere Tesla-auto’s gemanipuleerd om met 80 km per uur te versnellen. De onderzoekers hielden het Mobileye EyeQ3-camerasysteem van de auto voor de gek door een snelheidslimietbord aan de kant van een weg subtiel te veranderen op een manier die een persoon die voorbij reed bijna nooit zou opmerken.


Steun World Unity: alleen via uw maandelijks of eenmalige gift kunnen we de website draaiende houden en de leugens aanpakken. Deze steun is keihard nodig in deze zware economische tijden. Klik hier om te Doneren


Deze demonstratie van het cyberbeveiligingsbedrijf McAfee is de nieuwste indicatie dat kwaadaardige machine learning mogelijk autonome stuursystemen kan vernietigen, wat een beveiligingsuitdaging vormt voor diegenen die de technologie willen commercialiseren.

Mobileye EyeQ3-camerasystemen lezen snelheidslimiettekens en voeren die informatie in voor autonome rijfuncties zoals de automatische cruise control van Tesla, aldus Steve Povolny en Shivangee Trivedi van het Advanced Threat Research-team van McAfee.

De onderzoekers plakten een kleine en bijna onmerkbare sticker op een snelheidslimietbord. De camera las het bord als 85 in plaats van 35, en tijdens het testen versnelden zowel het 2016 Tesla Model X als het Model S van dat jaar tot 80 km per uur.

Dit is het laatste in een toenemende berg van onderzoek waaruit blijkt hoe systemen voor machine-learning kunnen worden aangevallen en voor de gek gehouden in levensbedreigende situaties.

In een 18 maanden durend onderzoeksproces repliceerden Trivedi en Povolny een groot aantal vijandige machine-learning aanvallen, waaronder een studie van UC Berkeley professor Dawn Song die stickers gebruikte om een ​​zelfrijdende auto te laten geloven dat een stopbord een snelheidslimiet van 45 mijl per uur bord was. Vorig jaar lieten hackers een Tesla de verkeerde rijstrook in het verkeer binnen rijden door stickers op de weg te plaatsen in een tegenaanval die bedoeld was om de machine-learning algoritmen van de auto te manipuleren.

“Waarom we dit van tevoren bestuderen, is omdat je intelligente systemen hebt die op een bepaald moment in de toekomst taken gaan uitvoeren die nu door mensen worden uitgevoerd,” zei Povolny. “Als we niet erg nauwkeurig zijn over wat de aanvallen zijn en erg voorzichtig zijn over hoe de systemen zijn ontworpen, dan heb je een steeds groter wordende vloot van onderling verbonden computers die een van de meest impactvolle en verleidelijke aanvalsmiddelen zijn.”

Naarmate autonome systemen zich verspreiden, strekt het probleem zich uit tot algoritmen voor machine-learning die veel verder gaan dan voertuigen: een onderzoek uit maart 2019 toonde aan dat medische machine-learning-systemen voor de gek werden gehouden om slechte diagnoses te stellen.

Het McAfee-onderzoek is vorig jaar aan zowel Tesla als Mobileye EyeQ3 bekendgemaakt. Tesla reageerde niet op een verzoek om commentaar van MIT Technology Review, maar erkende de bevindingen van McAfee en zei dat de problemen niet zouden worden opgelost in die generatie hardware. Een woordvoerder van Mobileye bagatelliseerde het onderzoek door te suggereren dat het gewijzigde teken zelfs een mens zou misleiden tot het lezen van 85 in plaats van 35. Het bedrijf beschouwt het bedriegen van de camera niet als een aanval, en ondanks de rol die de camera speelt in de cruise control van Tesla, was het niet ontworpen voor autonoom rijden.

“Autonome voertuigtechnologie zal niet alleen vertrouwen op detectie, maar zal ook worden ondersteund door verschillende andere technologieën en gegevens, zoals crowdsourced mapping, om de betrouwbaarheid van de informatie die wordt ontvangen van de camerasensoren te waarborgen en robuustere redundanties en veiligheid te bieden,” aldus de Woordvoerder van Mobileye in een verklaring.

Tesla is sindsdien overgestapt op eigen camera’s op nieuwere modellen en Mobileye EyeQ3 heeft verschillende nieuwe versies van zijn camera’s uitgebracht die in voorlopige testen niet gevoelig waren voor deze exacte aanval.

Er zijn nog steeds een aanzienlijk aantal Tesla-auto’s die met de kwetsbare hardware werken, zei Povolny. Hij wees erop dat Teslas met de eerste hardwareversie niet kan worden opgewaardeerd naar nieuwere hardware.

“Wat we proberen te doen, is dat we echt proberen het bewustzijn voor zowel consumenten als leveranciers te vergroten van de soorten fouten die mogelijk zijn,” zei Povolny: “We proberen geen angst te verspreiden en zeggen niet dat als je in deze auto rijdt , deze zal versnellen en door een barrière rijden of er een sensatie verhaal van maken. ”

Bronnen:

MIT Technology Review

Share.

Comments are closed.

In tegenstelling tot de reguliere media hebben wij geen inkomsten uit advertenties en ook ontvangen wij geen subsidies van de overheid. Om te bestaan zijn wij volledig afhankelijk van de donaties van onze lezers!

Een gulle donatie verzekert dat we ook in 2024 iedereen van het echte nieuws kunnen blijven voorzien!


<< Klik hier om te doneren >>

 

Misschien later