Deväť z desiatich nehôd na cestách je spôsobených ľudským faktorom. To je dôvod, prečo sa také veľké nádeje vkladajú do autonómneho riadenia. Predpokladom je, že senzory vozidiel s autopilotmi identifikujú riziká rýchlejšie a presnejšie ako vodiči. A to aj preto, že umelá inteligencia nebude nikdy „unavená“. Jesicca Cicchino, viceprezidentka pre výskum amerického poisťovacieho inštitútu IIHS, však tvrdí, že to samo osebe stačiť nebude. Podľa štúdie, ktorá vychádza z analýzy 5 000 dopravných nehôd v USA, registrovaných úradom pre bezpečnosť cestnej premávky (NHTSA), by v skutočnosti umelá inteligencia dokázala predísť len časti z nich.
Aby bolo možné odhadnúť potenciál autonómneho riadenia pre bezpečnosť, analýza kvantifikovala nehody spôsobené ľudským faktorom. Napríklad zníženou pozornosťou, náhlymi zdravotnými problémami, mikrospánkom, rozrušením, zhoršenou viditeľnosťou, neskorým zaregistrovaním prekážky, vplyvom omamných látok či nesprávnym odhadom. Ukázalo sa však, že nehody spôsobené týmito príčinami tvorili len jednu tretinu zo spomínaných 5 000 dopravných incidentov, pri ktorých boli volané záchranné zložky. Pri zostávajúcich dvoch tretinách by autonómne riadenie nebolo schopné pomôcť.
IIHS tvrdí, že veľkú časť ostatných nehôd spôsobili zlé rozhodnutia vodiča alebo privysoká rýchlosť. Tu by autopilot pomohol len za predpokladu, že by bol naprogramovaný tak, aby bezpečnosť jednoznačne uprednostnil pred rýchlosťou, komfortom a najmä preferenciami posádky. IIHS tiež upozorňuje na limity samotnej technológie, ktorá má síce lepšie oči ako ľudskí vodiči, ale chýba jej intuícia. To môže byť dôvodom, prečo autopilot zrážke nielenže nezabráni, ale dokonca môže haváriu spôsobiť v situácii, kde by vodič zareagoval správne. Ako príklad uvádza IIHS nehodu testovacieho autonómneho vozidla spoločnosti Uber.
Toto vozidlo pred dvoma rokmi v Arizone zabilo 49-ročnú chodkyňu Elain Herzbergovú. Senzory autopilota chodkyňu na krajnici zaregistrovali neskoro, softvér autonómneho riadenia nepredpokladal, že vkročí do cesty a navyše, keď sa tak stalo, systém sa jej nesnažil ani len vyhnúť. Pomlčme o tom, že nereagoval ani testovací jazdec. Bol to jasný dôkaz toho, že umelá inteligencia má pred sebou ešte dlhý vývoj. IIHS si myslí, že aby autonómne autá splnili očakávania z pohľadu bezpečnosti, budú sa musieť riadiť nielen dopravnými predpismi, ale naučiť sa predvídať správanie ostatných účastníkov cestnej premávky. A to môže byť naozaj nevyspytateľné.