Ohrožení autonomního řízení: Bezpečnost v popředí

Autonomní vozidla už dávno přestala být jen nedostižnou hudbou budoucnosti. Tyto automobily, které vyžadují interakci s řidičem čím dál tím méně, můžeme v současné době vídat dokonce i na českých silnicích. Progres v inovacích autonomního řízení můžeme pozorovat každých pár měsíců. Obdobně jako se vyvíjely a zdokonalovaly první automobily, potažmo elektromobily, stejně tak se zdokonaluje i autonomní řízení. Lze konstatovat, že technologický vývoj autonomních vozidel je poměrně rychlý.

K jejich neoddiskutovatelným přednostem patří schopnost brzdit, zrychlovat a udržovat předem navolenou rychlost, případně „vyhlížet“ nečekané vkročení neopatrného chodce do vozovky. Pomyslné klacky mu pod kola hází snad jen zákonodárci. Ti se pochopitelně snaží shodnout na tom, jak správně nastavit systém odpovědnosti v případě dopravních nehod. Stanovení pravidel navíc znesnadňuje fakt, že existuje hned několik úrovní autonomního řízení, která definují stupeň interakce řidiče s automobilem.

Úrovně autonomního řízení

Výše zmíněné úrovně automatizace lze členit do šesti stupňů, které jsou definovány standardem SAE J3016.

Pod pojmem nultá úroveň autonomního řízení si nemusíte představovat nic jiného než auta, která brázdila silnice pár desítek let dozadu. Do této kategorie by s nadsázkou mohlo spadat téměř cokoliv, co má kola a volant. Z této škatulky je nedostane ani automatická převodovka nebo výstražné systémy, jejichž účelem je pouze upozornit.

Auta spadající do první kategorie se kromě senzorů pyšní i schopností zareagovat, například upravením rychlosti jízdy nebo asistovaným brzděním. Pokud vás jako první napadla Tesla, je vaše domněnka správná. Tesla Autopilot nebo Pilot Assist od Volva jsou ideálním příkladem druhé úrovně autonomního řízení. Oproti první úrovni zvládnou tyto automobily dělat několik samostatných rozhodnutí najednou. Mezi ně patří například i udržování v jízdním pruhu. Autonomní režim je možné spustit jen v určitých podmínkách a řidič stále musí na vše dohlížet. Použití autonomního řízení je v podstatě omezeno na dálnice, a to často jen na ty, které jsou ve zcela ideálním stavu.

Čtěte také: Uloz.to a autorské právo

Automobily spadající do kategorie třetí úrovně autonomního řízení dokáží zrychlovat, brzdit a třeba i předjíždět bez potřeby zásahů ze strany řidiče. Zároveň dokáží zareagovat na dopravní nehodu na silnici a bezpečně se jí vyhnout. V situacích, kdy vozidla druhé úrovně autonomního řízení vyžadují od řidiče, aby měl alespoň prsty na volantu, se třetí úroveň bez tohoto zcela obejde. Řidič tak nemusí mít vůbec ruce na volantu či nohy na pedálu. To však platí pouze pro specifické situace. Někteří výrobci vnímají právě moment předání kontroly řízení zpět do rukou řidiče jako problémový. Proto se například Volvo rozhodlo třetí úroveň zcela přeskočit. Opírají se o data z výzkumů, podle nichž potřebuje člověk až dvě minuty na to, aby se přeorientoval z předchozí aktivity a byl schopen se znovu 100% věnovat řízení. Z bezpečnostního hlediska je to podle CEO Volva Hakana Samuelssona zcela vyloučeno.

Ve Wolfsburgu se ovšem na tuto problematiku dívají trochu jinak. Podle Profesního sdružení odborníků z oblasti leteckého, automobilového a dopravního průmyslu (SAE) čtvrtá úroveň označuje vozidla, která dokáží bezpečně řídit i v případě, že řidič nereaguje na podnět, aby převzal řízení. Když nezareaguje, dokáže autonomní řízení vozidlo bezpečně odstavit. Takováto situace může nastat například v nedobře zmapovaném terénu.

Jedná se o vozidla, která nevyžadují absolutně žádnou interakci s řidičem, snad až s výjimkou zadání cílové destinace a zastávek v průběhu cesty. Prvních vozidel s podporou čtvrté úrovně autonomního řízení bychom se měli dočkat už v roce 2021.

Budoucí možnosti a rizika

Budoucí možnosti dopravy bez řidičů a rizika s tím spojená. To bylo jedno z klíčových témat konference sdružení silničních dopravců Česmad Bohemia minulý týden v Praze. Podle Zdeňka Hanzálka z ČVUT může autonomní doprava zajistit lepší využití silnic a křižovatek a snížení emisí. Problém je ale zatím například ve spolehlivosti softwaru a kamer při špatném počasí.

Hanzálek také zmínil dilema kojenec versus babička. „Když bude jasné, že auto nestačí před přechodem zastavit, na jedné straně bude přecházet babička na druhé matka s dítětem. „Když nebudeme řídit, tak budeme ty schopnosti postupně ztrácet a bude velmi složité zasáhnout v krizové situaci. Návyky se prostě ztratí,“ doplnil psycholog z Karlovy univerzity Martin Pospíchal. Jako nejrizikovější proto vidí třetí úroveň automatizace (viz škála pod článkem), kdy auto fakticky jezdí samo, ale řidič musí být schopen aktivního zásahu.

Čtěte také: Rizika pro jakost vody

S automatizací zároveň podle Pospíšila ztratí vozidla funkci symbolů, například symbolu mužství (podobně jako indiáni měli koně), symbolu dospělosti nebo symbolu úspěchu a bohatství.

Přísliby autonomní mobility shrnul pod hesla vyšší bezpečnost, méně starostí, nová lepší práce pro řidiče, ušetřený čas a mobilita pro všechny, tedy například i pro seniory, kteří už obyčejné auto řídit nemohou. Naopak obavy se týkají přílišné závislosti na stroji, ztráty práce, ztráty řízení jako zábavy, neboť lidi obvykle řízení baví. Otázkou je také morální zodpovědnost za škody a úmrtí.

„Kdo vlastně bude ručit za to, co to auto udělá? Je kolem toho spoustu diskusí, tyto otázky budou velmi komplikované,“ uvedl David Chleboun z Mercedes-Benz Trucks Česká republika. „Osmdesát až devadesát procent nehod nákladních vozidel způsobují chyby řidičů. Asi vám nemusím povídat o tom, jaká je dnes kvalita řidičů a co všechno za tím volantem vůbec dělají,“ řekl Chleboun, který věří v autonomní logistiku.

Jejím předchůdcem by se mohl stát i takzvaný platooning, tedy jízda kamionů ve vláčku, kdy jen ten první má řidiče. Mercedes dnes už vyrábí auta na stupni 2 (škála pod článkem), mohou tedy sama řídit, ale mají volant.

Například Zdeněk Hanzálek z ČVUT odhaduje, že samostatné vozítko schopné prošmejdit všechna zákoutí Prahy bude k dispozici v roce 2035.

Čtěte také: Pracovní rizika

Funkční bezpečnost a bezpečnost zamýšlené funkcionality

Právě bezpečností a vyhodnocením rizik se zabývá disciplína zvaná funkční bezpečnost podléhající normě ISO 26262 v aktuálně druhém vydání z roku 2018. Jedná se o verzi adaptovanou pro potřeby automobilového průmyslu, která vychází z obecné normy funkční bezpečnosti IEC 61508 pro libovolné E/E (elektrické/ elektronické) systémy. Norma funkční bezpečnosti pro automobilový průmysl je obecně aplikovatelná na jakékoliv E/E systémy ve vozidle. Primárním cílem funkční bezpečnosti je zajistit správnou funkci systému i v případě selhání jeho elektrických či elektronických komponent, a tím minimalizovat riziko ohrožení zdraví lidí. Neomezuje se pouze na hardwarové části systémů, ale bere v potaz i jejich softwarové komponenty. Je tedy vhodná pro užití v celkovém kontextu embedded systémů. Definuje rovněž požadavky na procesy, metody a nástroje používané v rámci životního cyklu systému. Životnímu cyklu E/E systémů se přitom tato norma věnuje ve své celistvosti, od specifikace přes návrh, implementaci, validaci po výrobu, údržbu a vyřazení z provozu.

V kontextu automatizovaného řízení je její užití o to relevantnější, že selhání systémů, které mají bezprostřední kontrolu nad vozidlem, může vést k přímému ohrožení zdraví účastníků silničního provozu.

V kontextu bezpečnosti systémů vozidel s prvky automatizovaného řízení je důležitým doplňkem funkční bezpečnosti i standard pro „bezpečnost zamýšlené funkcionality“ SOTIF (Safety Of The Intended Functionality). Tento standard je opět úzce spjat se zajištěním absence neúměrného rizika, zabývá se však jinými možnými příčinami selhání než funkční bezpečnost. Zatímco funkční bezpečnost se věnuje zachování bezpečnosti v případě, že dojde k selhání nějakého prvku systému, ISO 21448 se věnuje bezpečnosti v případě, že funkcionalita/systém funguje tak, jak byla navržena, ale přesto vede k nebezpečné situaci. Nebezpečí hledá v nedostatcích při návrhu funkcionality nebo pramenících z předvídatelného nesprávného užití funkcionality/systému. Ač je tedy cíl tohoto standardu a jeho požadavků totožný s ISO 26262, dívá se na možná nebezpečí z jiného úhlu pohledu.

Relevantnost této normy je primárně v kontextu úrovně 1 a 2 v tabulce definovaných úrovní automatizace ří-zení, je však aplikovatelná také pro vyšší úrovně automatizace. V současné době se jedná o standard, který má nejpřímější návaznost na trend automatizovaného řízení a poskytuje podporu při vývoji těchto systémů.

Hlavním benefitem autonomních vozidel není ani tak pohodlí řidiče, ale především snaha o vyšší bezpečnost jízdy. Bylo by ale bláhové předpokládat, že si samořídící auta poradí s jakoukoli situací, ve které se ocitnou.

Například se nenechají rozptylovat spolujezdcem, lépe si poradí s horším počasím, neberou drogy ani nepijí alkohol. IIHS konstatuje, že „Chyby řidičů hrají roli prakticky ve všech haváriích.“ Ve více než devíti z deseti případů je právě řidičská chyba posledním článkem v řetězci událostí vedoucích k nehodě.

Analýza tedy naznačuje, že asi třetina nehod byla důsledkem chyb, které by automatizovaná vozidla neudělala, protože na rozdíl od řidičů nemají ovlivnitelné vnímání.

Systémy by tedy měly při rozhodování mezi požadavkem řidiče a dalšími faktory (např. dopravními značkami či situací na místě) rozhodnout ve prospěch vyšší bezpečnosti.

Autonomní vozidla se také budou muset řídit nejen dopravními předpisy, ale měla by se přizpůsobit dalším podmínkám silničního provozu a implementovat jízdní strategie, které zohledňují nejistotu ohledně toho, co udělají ostatní účastníci silničního provozu.

Legislativní výzvy a odpovědnost

Nástup autonomního, tedy plně automatizované řízení má dalekosáhlé právní následky. Dosud byl ve hře pouze živý řidič, aktivně sledující okolní provoz, s rukama na volantu a nohama na pedálech připravený zasáhnout. To on nese trestní odpovědnost v případě zavinění kolize s vlakem na nechráněném přejezdu, za sražené chodce nebo zranění či usmrcení osob v jiných vozidlech, do nichž naboural. To on rozhoduje, jak se v kritických situacích zachovat - zda dát přednost vlastnímu přežití i za cenu ohrožení jiných účastníků silničního provozu, nebo se naopak obětovat a třeba strhnout vlastní vůz do propasti, aby v ní neskončil protijedoucí školní autobus.

V případě autonomního řízení má rozhodnout samotný automobil, přesněji jeho výrobce, jenž do řídící jednotky vozidla vloží program s příslušným algoritmem. Tedy příkazy, jak se v dané situaci zachovat. Automobilka tím přebírá zodpovědnost za následky.

Samořiditelná vozidla dosud slepě dodržují pravidla silničního provozu, takže je může vyvést z míry třeba banální přednost zprava. Naivně totiž čekají, až ostatní účastníci provozu před hranicí křižovatky zcela zastaví. Leckdy se nedočkají. Během testů se navíc ukázalo, jak nesnadné bývá přejíždění mezi dálničními pruhy u sjezdu. Málokdo byl totiž ochoten křižující automat pustit. Tomu po zjištění nebezpečně krátkých odstupů okolních vozidel nezbylo, než pokračovat v jízdě a pokusit se uspět na dalším exitu.

Donald Nurma, renomovaný odborník z University of California, k tomu říká: „Zásadním problémem zůstává přílišná bezpečnost automobilů s autonomním řízením. Musíme jim dodat určitou porci agresivity, přičemž správná míra je věcí kulturních zvyklostí v té které zemi.“ Jenže automobilky se samozřejmě bojí negativní mediální kampaně. Proto váhají s převzetím plné odpovědnosti za instalaci softwaru vědomě naprogramovaného k „páchání“ menších přestupků k zabránění dalekosáhlejším negativním důsledkům. Nová doba zkrátka vyžaduje hluboké legislativní změny.

Například Kalifornie, která se k autonomnímu řízení dosud chovala nejvstřícněji, po nedávných kolizích osobních vozidel Google vyžaduje zachování plně funkčního pracoviště řidiče. Ten by měl být kdykoliv schopen korekcí. S tím pochopitelně neladí představy konstruktérů a designerů třeba o volantu přiklápěném k přístrojové desce, aby v kabině nepřekážel.

Testování v běžném provozu tak americké technologické společnosti jako Google nebo Microsoft i automobilky včetně značky Mercedes-Benz přesunuly do jiných států USA. Zkouškám autonomního řízení vychází vstříc čím dál více zemí světa, například Německo, Švédsko, Japonsko nebo Čína. Toyota s Nissanem slíbily uvedení běžně prodávaných autonomních osobních a lehkých užitkových vozidel nejpozději k tokijské olympiádě 2020.

Algoritmy strojového učení s otevřeným zdrojovým kódem, jako jsou například ty, které se používají v rámci veřejného cloudu, by mohly představovat velká bezpečnostní rizika pro autonomní vozidla.

V praxi totiž bude množství dat produkovaných autonomními vozidly znamenat jeden z největších informačnětechnologických skoků blízké ibudoucnosti. Předpokládá se, že každý takovýto vůz by mohl okolo roku 2030 vytvářet až 10 TB dat denně a všechny vozy dohromady za den až 1 ZB. To by tedy znamenalo, že automobilky a mnozí z jejich dodavatelů již nebudou pouze vyrábět automobily, ale stanou se také IT specialisty, kteří budou muset mít i svá specializovaná oddělení zaměřená na vývoj softwaru.

Na veřejných cloudových platformách je dnes k dispozici široká škála algoritmů užitečných pro různorodé aplikace v oblasti umělé inteligence (AI) a strojového učení. Uživatelům umožňují třeba výrazné zefektivnění analýzy velkých objemů dat.

V případě autonomních dopravních prostředků však cloud může být dvousečnou zbraní, protože právě jeho silné stránky, tedy jednoduchost a snadná dostupnost, by se za určitých okolností mohly stát i rizikem. O algoritmech ve veřejném cloudu můžeme hovořit jako o svého druhu „černých skříňkách“, protože jejich uživatelé mají často jen málo informací o tom, jak byly vytvořeny. A i když informace mají, algoritmy pro strojové učení mnohdy mají mnohdy i stovky tisíc řádků a firmy prostě nemají čas, lidské zdroje ani peníze na to, aby si mohly dovolit revidovat každý takovýto program řádku po řádku. V praxi to může znamenat hrozbu.

Umělá inteligence by mohla mít potíže i s interpretací jiných klíčových dopravních prvků, jako jsou třeba semafory. Aby proto automobilky mohly vůbec uvažovat o minimalizaci těchto rizik, měly do nejmenších detailů rozumět kódování algoritmů, které používají.

Příslušné administrativní orgány na národních úrovních i na úrovni EU budou nepochybně tváří v tvář těmto rizikům přijímat potřebná opatření a v příštích letech pravděpodobně zavedou předpisy a zákony, které budou potenciální nebezpečí autonomních vozidel adekvátně řešit. Na mezinárodní úrovni již například bylo schváleno nařízení UNECE WP29 o automobilové kybernetické bezpečnosti.

Nejdůležitějším aspektem příslušných předpisů bude samozřejmě zajištění bezpečnosti cestujících. K tomu, aby vůbec autonomní vozidla mohla jezdit po veřejných komunikacích, bude nutné stanovit soubor bezpečnostních prvků, které budou zcela základní a jednotné a o jejichž případných modifikacích se zkrátka nebude moci vůbec diskutovat.

Můžeme však vznést otázku, kdo vlastně v posledku ponese odpovědnost za případné nehody, bude-li software řídící kritické bezpečnostní funkce pocházet z veřejného cloudu.

Odpovědnost bude nejspíše vždy padat na hlavy výrobců autonomních vozidel, kteří do nich vloží kódy mající podobu „černých skříněk“, aniž provedli jejich důkladnou revizi.

V každém případě platí, že veřejný cloud je a bude užitečným pomocníkem ve fázi zahájení inovací - je to totiž způsob, jakým mohou firmy testovat svou databázi s pomocí již existujících odladěných algoritmů a realizovat pilotní projekty za účelem ověření nových konceptů. Konstruktéři automobilek se tak mohou díky veřejnému cloudu učit od těch nejlepších a využívat řady inovací, třeba v rozhraních pro programování aplikací (Application Programming Interface - API).

Veřejný cloud je výpočetní služba zahrnující poskytování serverů, úložišť, databází, sítí, softwaru, analytických nástrojů a tzv. inteligentních funkcí a distribuovaná prostřednictvím internetu. Na rozdíl od cloudu privátního firmám umožňuje nevynakládat velké prostředky na nákup, správu a údržbu vlastní hardwarové a aplikační infrastruktury. Za veškerou správu a údržbu systému totiž zodpovídá externí poskytovatel cloudových služeb. Veřejné cloudy jde také nasadit rychleji než místní infrastruktury a s téměř neomezenou škálovatelností.

tags: #ohrožení #autonomního #řízení #bezpečnost

Oblíbené příspěvky:

• Proč má vaše auto vysoké emise na volnoběh?
• Aktivity ochránců přírody v Ústí
• Výběr ideálního odpadkového koše
• Ekologické studie T. Horkého
• Škody způsobené chovem krav