Pozor na to, co v autě říkáte. Chyba AI hlasového asistenta může vyjít draho!

Hlasové ovládání nabízí čím dál více automobilek. Některé integrují své systémy, jiné se spoléhají na integraci hlasových asistentů společností Google nebo Apple, ale hlavní je, že ne vždy hlasový asistent plně pochopí, co po něm žádáte.

V lepším případě skončí chyba asistenta úsměvem nad jeho nepochopením, občas může jeho chyba být frustrující, ale fatální pochybení je spíše výjimkou. Hlasové ovládání klíčových funkcí vozu by totiž nemělo být možné.

Zahraniční zdroje ovšem nyní informují o fatální chybě, kdy u vozu Lynk & Co Z20 na základě pokynu pro hlasové ovládání zhasly světlomety. Naneštěstí se tak stalo při jízdě v noci a hlavně při dálniční rychlosti, což vyústilo v náraz vozu do středové bariéry.

Navíc nejde o další poplašnou zprávu, jak tomu občas bývá. Existuje totiž videozáznam nehody pořízený na palubní kameru a k nehodě samotné se vyjádřila také automobilka, která okamžitě vydala aktualizaci softwaru. Ta by měla v budoucnu podobným chybám zabránit.

Ptáte se, co se stalo? Řidič vozu si chtěl pomocí hlasového asistenta vypnout čtecí lampičku. Jenomže hlasový asistent slyšel „světlo“ a rozhodl se vypnout hlavní světlomety namísto vnitřního osvětlení. Po aktualizaci je takový úkon možné učinit jen manuálně. Majitel se před nárazem několikrát pokusil světla zapnout, to však asistent vyhodnotil správně a neumožnil úkon provést.

Anomálie, nebo běžná chyba?

Tato nehoda vyústila v rozruch mezi majiteli; nejen majitelé vozů značek Lynk & Co se rozhodli své hlasové asistenty otestovat a výsledky jsou alarmující. Zatímco systémy obvykle blokují přímé příkazy „vypnout světlomety“, použití obecnějších pokynů, jako „vypnout všechna světla“, může obejít bezpečnostní omezení a vypnout vnější osvětlení i během jízdy.

Poukazuje to na zásadní problém v moderní snaze vše ovládat minimalisticky a bezdotykově. Eliminace fyzických tlačítek je běžný jev, například v plně elektrických modelech značky Volvo je světlomety možné ovládat pouze skrz centrální displej. Ani mezi jinými automobilkami takové řešení není výjimkou.

Když však dojde k softwarovým chybám nebo chybám v rozpoznávání sémantiky, řidiči se v nouzových situacích často ocitají bezmocní. V případě zmíněného modelu Lynk & Co Z20 je ovládání světel taktéž v infotainmentu; pokud by došlo například k jeho zamrznutí, což se může stát, nebylo by možné světlomety ovládat vůbec.

Ačkoli svítá naděje na návrat fyzických ovladačů do moderních automobilů, riziko špatného vyhodnocení hlasového povelu umělou inteligencí bude existovat i nadále. Je na automobilkách a nezávislých bezpečnostních konsorciích, aby dohlédly na kvalitní zabezpečení klíčových funkcí nezávisle a nesvěřovaly životy svých zákazníků plně umělé inteligenci.

Autor: Jiří Landa

Zdroje: Drive,cnEVpost