“V prepojenom svete je kybernetická bezpečnosť pre vašu bezpečnosť rovnako dôležitá ako brzdy” povedal bývalý CEO automobilky Jaguar Land Rover, Sir Ralf Speth. Automobilový priemysel sa vyznačuje zložitým dodávateľským reťazcom. Preto si vyžaduje komplexný prístup k informačnej bezpečnosti. Primárnymi aktívami, ktoré treba chrániť, sú projekty alebo konštrukčné informácie, prototypy, prepojenia v rámci siete dodávateľského reťazca, a osobné údaje zákazníkov. Do popredia vystupuje potreba ochrany big data a prevádzkových údajov spojených s novými konceptmi digitalizácie a vývojom autonómnych vozidiel. Práve posledné sa stáva najväčšou výzvou pre kybernetickú bezpečnosť, čo ukazujú aktuálne údaje za rok 2020:
Väčšina kybernetických útokov prebieha vzdialene (76 %), 16 % fyzicky. Polovica útokov je vedená útočníkmi so zlým úmyslom („black hat hackers“).
Najčastejšie je hacknutá automobilka Tesla, za ňou nasledujú tradiční výrobcovia vozidiel. Hackeri uprednostňujú prémiové autá.
Očakáva sa, že autonómne vozidlá budú ešte častejšie čeliť útokom.
30 % spoločností nemá zavedený program kybernetickej bezpečnosti produktov a špecializovaný bezpečnostný tím pre výskum a vývoj.
63 % spoločností testuje zraniteľnosť menej ako polovice hardvéru, softvéru a iných technológií.
82 % všetkého zdrojového kódu je viac ako 4 roky zastarané.
49 % základu zdrojového kódu (CodeBase) má pri statickej analýze vysoké zraniteľnosti.
Zdroj: Spoločnosť Vector, https://www.vector.com/int/en/
Európska agentúra pre kybernetickú bezpečnosť ENISA poukazuje v najnovšej štúdii na potenciálne riziká spojené so zložkami umelej inteligencie zodpovednými za replikovanie úloh, ktoré predtým riešili ľudskí vodiči.
Ide napríklad o snímanie okolitého prostredia alebo rozhodovanie o správaní sa vozidla. Tieto komponenty umelej inteligencie sa už len z vlastnej podstaty neriadia rovnakými pravidlami ako tradičný softvér. Práve technika tzv. strojového učenia (machine learning), ktorá stojí za úspechom umelej inteligencie, sa spolieha na pravidlá, ktoré sú založené na štatistickej analýze rozsiahlych súborov údajov.
To umožňuje automatizáciu otvárajúcu nebývalé kognitívne schopnosti. Zároveň to však prináša nové príležitosti pre potenciálnych útočníkov, ktorí môžu využiť veľkú zložitosť systémov umelej inteligencie vo svoj prospech. Zabezpečenie systémov UI vyžaduje, aby sa špecifické problémy týkajúce sa umelej inteligencie zohľadnili spolu s tradičnými rizikami kybernetickej bezpečnosti v rámci celého dodávateľského reťazca zapojeného do ich vývoja a integrácie s inými systémami vozidiel.
ENISA poukazuje najmä na tieto všeobecné miesta zraniteľnosti a bezpečnostné výzvy v autonómnom riadení vozidiel:
Nežiaduce strojové učenie
Ide o techniku strojového učenia, ktorá sa pokúša narušiť modely strojového učenia poskytnutím klamlivého vstupu. Príkladom takejto techniky môže byť vloženie falošného biometrického znaku do biometrického autentifikačného systému, klamanie systémov na rozpoznávanie tváre alebo prevzatie kontroly nad systémom hlasového rozhrania pomocou skrytých hlasových príkazov, ktoré sú pre človeka nezrozumiteľné.
Nežiaduce príklady počítačového videnia
Nežiaduce príklady sa zvyčajne vytvárajú pridaním malého množstva starostlivo vypočítaného šumu k prirodzenému obrazu. Tento druh útoku môže oklamať najmodernejšie vysoko výkonné modely rozpoznávania obrazu, pričom je pre ľudí často nepostrehnuteľný.
Fyzické útoky na autonómne vozidlá založené na umelej inteligencii
V posledných rokoch vzrástol počet fyzických útokov na komponenty umelej inteligencie v poloautonómnych vozidlách. Patria sem aj útoky, ktoré sa zameriavajú na funkcie rozpoznávania dopravných značiek autonómnymi vozidlami. Ďalším príkladom bol výskum spoločnosti McAfee, ktorým sa dokázala možnosť oklamať vozidlo Tesla pri zrýchľovaní nad povolenú rýchlosť. Postačilo prilepiť asi 5 cm dlhej čiernej pásky na časť číslice na dopravnej značke s rýchlostným limitom 35 mph (56 km/h) pričom systém predpovedal rýchlostný limit 85 mph (137 km/h).
V roku 2019 štúdia Tencent Keen Security Lab na zisťovanie bezpečnostných chýb vo vozidle Tesla okrem iného poukázala na slabiny, na základe ktorých sa spustili automatické stierače premietaním hluku na elektronický displej umiestnený pred vozidlom, a tým sa oklamal vizuálny senzor systému. Vedci tiež skúmali systém detekcie jazdných pruhov. Preukázali, že po aplikácii škvŕn na čiaru jazdného pruhu už systém vnímania nemusí detegovať čiaru a tiež, že v testovacom prostredí dokázali vytvoriť falošné jazdné pruhy umiestnením určitých nálepiek na cestu.
Vedci z americkej Cornell University tiež preukázali, že systémy predvídania uhla natočenia volantu autonómneho vozidla sú zraniteľné voči útokom počas jazdy.
Záverom
Automobilový priemysel v najbližších rokoch čakajú veľké výzvy v spojitosti s bezpečnosťou autonómnych vozidiel. Odstránením najbežnejšej príčiny dopravných nehôd – ľudského vodiča – sa od autonómnych vozidiel očakáva zníženie dopravných nehôd, najmä smrteľných nehôd. Pre vodičov, cestujúcich a chodcov však môžu predstavovať úplne iný druh rizika. Dôraz na kybernetickú bezpečnosť by mal byť preto rovnako dôležitý ako testy kvality bŕzd.
Vo WISE3 sa intenzívne venujeme oblasti informačnej a kybernetickej bezpečnosti vrátane spolupráce s viacerými technologickými partnermi, čím prinášame našim klientom právne služby s vyššou pridanou hodnotou.
