Maşinile autonome Cruise au fost suspendate după un accident grav, iar investigaţiile au relevat lacune în algoritmi şi în identificarea copiilor pietoni

De mai mulţi ani industria auto ne spune că suntem la doar un pas de a avea maşini autonome răspândite pe larg pe străzi, care se vor conduce fără vreo intervenţie umană. Tesla a fost un catalizator al acestei dezvoltări prin lansarea sistemului Autopilot, dar acesta e oricum un sistem de asistenţă, nu unul înlocuitor al şoferului, chiar dacă unii proprietari adorm în maşină şi lasă totul pe seama lui. Pe lângă asta, însă, în California există de mai mult timp maşini care sunt chiar sunt autonome şi se conduc singure pe străzi, în rol de robotaxi. Două dintre aceste servicii sunt Cruise şi Waymo, şi ele au fost autorizate să opereze în San Francisco, iar Waymo operează şi în Phoenix, Arizona.

La început, acestea era lăsate să circule doar noaptea, în condiţii de trafic mai liber, după care li s-a permis să circule şi ziua. Iar oamenii pot chema un asemenea taxi printr-o aplicaţie, care vine fără şofer şi efectuează toată călătoria doar cu pasageri, fără a avea pe cineva la volan. E ceva ce funcţionează deja, deşi încă în oraşe şi perimetre limitate. Totuşi, acum cei de la Cruise au parte de cea mai gravă criză de încredere în tehnologia lor, după un accident grav şi mai ales după descoperirile făcute de ancheta după acel accident.

Anterior, au mai existat incidente cu maşinile Cruise, care păreau bizare. În aprilie 2022, o maşină condusă autonom a fost oprită de un echipaj de poliţie pentru că nu-i funcţiona un stop, iar această a părut că vrea să fugă de poliţist, când de fapt a mers să parcheze după intersecţie, pentru că i s-a părut că poliţistul a oprit-o într-un loc periculos. În iulie 2022, maşinile Cruise au format un ambuteiaj enorm după ce s-au pornit în număr mare spre acelaşi client. În aprilie 2023, maşinile au fost suspendate temporar după ce una a lovit un autobuz articulat, pentru că nu înţelegea că un autobuz poate fi şi articulat. Iar în august 2023 un automobil Cruise, cu un pasager în interior, a lovit o maşină de pompieri, care circula cu girofar.

Toate astea nu opriseră maşinile e circulaţie, până nu a venit un accident şi mai grav. O maşină Cruise a lovit o femeie care traversa o stradă neregulamentar, într-o zonă mai întunecoasă şi slab circulată, şi fusese lovită de o altă maşină şi proiectată spre automobilul Cruise. Maşina a încercat să frâneze, dar n-a putut evita impactul. Până aici pare un accident obişnuit, însă în acest caz maşina a ajuns peste femeia rănită cu una din roţi, a târât-o câţiva metri şi a rămas peste ea. Ea striga după ajutor, cerând maşinii să dea înapoi pentru a o elibera. Şi dacă orice şofer ar fi avut imediat instinctul să facă asta sau ar fi auzit pietonul strigând după ajutor, softul celor de la Cruise n-a ştiut ce să facă şi a ţinut maşina blocată peste pieton, până la venirea salvatorilor.

După acest accident, toate maşinile Cruise au fost scoase din circulaţie, iar autorităţile au demarat o investigaţie în algoritmii softului acestor maşini, pentru a estima ce alte situaţii de risc mai pot apărea, în care maşinile ar răspunde la fel de absurd. Şi aici anchetatorii au descoperit ceva şi mai îngrijorător — existau documente interne care anunţau că softul maşinii are probleme cu identificarea pietonilor copii, din cauza înălţimii mai mici ale acestora. Uneori aceştia puteau fi identificaţi drept pietoni, însă nu şi drept copii, iar astfel nu era declanşat vreun algoritm care să manifeste prudenţă sporită faţă de aceştia, în aşteptarea că aceştia ar putea aveau traiectorii neobişnuite. Compania ştia că maşinile sale nu identifică corect copiii pietoni, şi ştia că există riscuri sporite pentru aceştia, dar totuşi a lăsat maşinile să circule pe străzi.

Testele anchetatorilor au arătat că o maşină Cruise a identificat mascota unui copil pe marginea drumului la o viteză de 45 km/h, dar maşina nu a frânat la o viteză mai mică, ba chiar l-a lovit cu oglinda sa, cu aceeaşi viteză. Şi, desigur, aici e o problemă şi în acest soft, dar şi în faptul că cei de la Cruise ştiau de aceste probleme şi totuşi au decis să lase 950 de maşini autonome să circule pe străzi, fără o siguranţă că una din ele nu va comite o asemenea eroare. Acum investigaţiile continuă, maşinile rămân suspendate, iar cineva din interiorul companiei va avea cu siguranţă de răspuns în faţa anchetatorilor. Cert e că toată situaţia ridică noi semne de întrebare despre cât de mult ne putem bizui, de fapt, pe maşinile autonome.