Zamestnanci Tesly varovali pred Autopilotom. Musk to nebral vážne

Smrť Joshuu Browna, ktorý prišiel o život v Tesle S s aktivovaným Autopilotom, rozpútala veľkú mediálnu búrku a debatu o tom, či je autonómne riadenie vôbec bezpečné. Je to pochopiteľné, ide totiž o prvú potvrdenú nehodu s fatálnymi následkami, za ktorou má stáť samoriadiace vozidlo. O problém sa zaujímala aj CNN, ktorá vyspovedala bývalých zamestnancov Muskovej automobilky, ktorí na systéme autonómneho riadenia priamo pracovali. A tí poskytli veľmi znepokojivé informácie.

Vplýva z nich, že šéf automobilky tlačil na vývoj Autopilotu spôsobom, ktorým ignoroval prakticky všetky obavy z jeho možného zlyhania. Musk tvrdil, že prípadné chyby technológie sú zanedbateľné v porovnaní s potenciálnym prínosom pre bezpečnosť, pretože autonómne riadenie zredukuje riziká vyplývajúce z ľudského faktora. Takže teraz tu máme jedného mŕtveho a neznámy počet zachránených životov. Lenže takto sa uvažovať nedá.

Poukazovala na to aj spotrebiteľská organizácia Consumer Reports, ktorá Teslu žiadala a žiada o obmedzenie funkcií jej Autopilotu. Systém totiž sľubuje svojim názvom viac, než v skutočnosti dokáže. Je to len inteligentnejší adaptívny tempomat, nič viac. Medzičasom sa ku kritike pridalo aj švédske Volvo. Musk však všetku kritiku tvrdošijne odmieta. A bolo to tak už počas vývoja. Podľa bývalého inžiniera Tesly Erica Meadowsa tlačil na čo najrýchlejšie spustenie programu s tým, že by zamestnanci nemali kvôli obavám spomaľovať vývoj.

Foto: ABC

Tesla - autopilot Hyperaktívne presadzovanie novej technológie zo strany šéfa spoločnosti skončilo smrteľnou nehodou majiteľa jedného z vozidiel vybavených Autopilotom.

Medows už v polovici roka 2015, teda pár mesiacov pred príchodom systému na trh, informoval šéfa automobilky o tom, že súčasná technológia, ktorou Tesla disponuje, nedokáže zaručiť dostatočnú bezpečnosť. To sa však stretlo s tvrdou kritikou nadšeného Muska. Dva mesiace na to bol Medows prepustený pre „slabú výkonnosť“. Opisuje, že počas skúšok systému, keď sedel sám za volantom, ho zastavila polícia pre podozrenie z jazdi v opitosti. Jeho skúšobné vozidlo nezvládalo totiž v autonómnom režime Autosteer ostré zákruty.

Vedel, že ženie systém na limit schopností, ale to len preto, že si uvedomoval, že to isté budú robiť jeho užívatelia. To sa aj stalo. Po príchode Autopilotu na trh začali na internete kolovať šialené videá, kde boli majitelia Tesly S schopní počas jazdy preliezť na zadné sedadlo a ponechať riadenie plne v réžii elektroniky. Ta im pritom v ničom nebránila, pretože systém nepožaduje mať ruky na volante. Madows tvrdí, že sa po celý čas bál, aby niekto nezomrel. Musk však spochybňoval aj názory ďalších zamestnancov.

Tí napríklad poukazovali na to, že senzory Tesly nie sú vhodné ani len na autonómne parkovanie a diaľkové ovládanie, že sú schopné prehliadať malé objekty, napríklad psov alebo mačky, alebo prehliadnuť to, že pod vozidlom už nie je cesta. Takže môže pri parkovaní skončiť pokojne v priekope. Musk sa však oháňal argumentom, že keď si predstaví rýchlosť vozidla pri parkovaní, tak by mohlo byť nebezpečné len pre „mačku v kóme“ a že riziko je zanedbateľné v porovnaní s tisíckami mŕtvych, ktorí padnú za obeť pri nepozornom vychádzaní z parkovísk a garáží.

Určité argumenty ale Musk predsa len prijal. Pôvodne totiž chcel, aby jeho vozidlá jazdili z bodu A do bodu B úplne bez zásahu vodičov a v režime autonómneho riadenia Autosteer chcel dokonca dovoliť, aby mohli vodiči sledovať videá, čo iní výrobcovia striktne odmietajú. To však až po veľkom odpore zo strany zamestnancov. Ako ukazuje prípad Medowsa, niektorým to bolo osudné a firmu museli opustiť. I tak nie je všetko v poriadku. K téme sa vyjadril aj Raj Rajkumar, jeden z pionierov vývoja autonómneho riadenia.

„Hovoriť, že Tesla je pri presadzovaní autopilota hyperaktívna, nestačí.“ Sám je vraj so zamestnancami Tesly v kontakte a pravidelne ich upozorňuje na riziká. Podľa neho sa však správajú alibisticky. Muskov systém riadenia jednoducho pripomína princíp „skreslenej reality“ Steva Jobsa či extrémne nároky Ferdinanda Piecha pri presadzovaní naftových motorov v USA, čo viedlo ku kauze Dieselgate. Lenže zamrznutý smartfón ani Volkswagen emitujúci zakázané množstvo oxidov dusíka vás na rozdiel od Autopilota, ktorý v skutočnosti nie je autopilotom, nezabijú.