Dilemă. Un om sau un computer a provocat moartea a doi pasageri ai unei mașini Tesla inteligente?
Întrebarea e simplă. Răspunsul e ceva mai complicat. Un om sau un computer a provocat moartea a doi pasageri ai unei mașini Tesla inteligente?
S-a întâmplat spre sfârșitul lunii trecute și ar fi putut trece la prima vedere drept o altă știre despre un alt accident auto – o Tesla Model S a ieșit de pe șosea, s-a izbit violent de un copac dintr-o suburbie din Houston, cei doi bărbați aflați la bord pierzându-și viața.
Pentru a stinge incendiul izbucnit imediat după impact, pompierii au folosit peste 110.000 de litri de apă, iar epava mistuită de flăcări a dezvăluit un mister care i-a surprins, deopotrivă, pe șoferii de Tesla, investitorii și oficialii companiei: la volan nu se aflase nimeni.
Autonomie și nu prea
„Suntem 100% siguri că nimeni nu se afla pe scaunul șoferului, conducând vehiculul respectiv în momentul impactului“, declara pentru postul local de știri KHOU unul dintre polițiștii sosiți la fața locului, care au găsit un corp pe bancheta din spate și un altul pe scaunul din dreapta șoferului. Autoritățile spun că berlina mergea cu viteză mare, a ratat un viraj și a lovit apoi copacul frontal.
Tesla, Inc. nu a făcut nicio declarație oficială și nici nu a răspuns la întrebările puse de mass-media. Compania nici măcar nu are un departament de PR. Însă CEO-ul său, Elon Musk, a oferit câteva indicii, reușind doar să ridice și mai multe semne de întrebare. „Proprietarul mașinii nu cumpărase pachetul Full Self-Driving al Tesla“, a scris Musk într-un tweet, o opțiune suplimentară de 10.000 de dolari, încă în fază beta, cu un nume care promite mult, dar oferă mai puțin.
Tesla a promovat mult timp ideea că mașinile sale vor putea într-o bună zi să-și ducă pasagerii la destinație fără nicio intervenție umană. În 2016, de exemplu, Musk anunța că, în decurs de un an, șoferii de Tesla vor putea să meargă de la Los Angeles la New York „fără a atinge volanul nici măcar o singură dată“. Și mai spunea tot atunci că noile mașini ale companiei sunt dotate cu hardware-ul necesar pentru „conducerea complet autonomă“ și că ar mai fi nevoie doar de software pentru ca aceasta să devină realitate.
Primele versiuni de software au fost lansate în același an, la un preț de 3.000 de dolari. Între timp, prețul a crescut la 10.000 de dolari. „Full Self-Driving“ este însă mai degrabă un artificiu de marketing, criticat și contestat de experții industriei auto.
În cazul unei mașini complet autonome, oamenii nu sunt altceva decât o „încărcătură“ care stabilește o destinație. Mașina rulează independent pe întreaga durată a drumului, indiferent de condiții, iar orice intervenție umană este exclusă. Tesla încă e departe de așa ceva. Deocamdată, Full Self-Driving (FSD) este doar un alt nume pentru o versiune mai complexă a de pe acum clasicului Autopilot.
Operațional din toamna lui 2015, Autopilot este un sistem avansat de asistență a șoferului, o combinație de software, camere video, radar și senzori, grație căreia mașina poate rula independent, urmărind indicatoarele rutiere, marcajele de pe asfalt și celelalte vehicule participante la trafic. În plus, poate să găsească locuri libere de parcare, să parcheze singură sau să avertizeze șoferul printr-un zgâlțâit al scaunului dacă deviază de la cursul de pe banda sa.
Dar chiar și așa, Autopilot nu transformă o Tesla într-o mașină complet autonomă. Potrivit prezentărilor companiei, pilotul automat este un sistem avansat de asistență a șoferului, menit să crească siguranța și confortul la volan, dar care necesită în continuare supravegherea „activă“ – ceea ce înseamnă că șoferul trebuie să își țină permanent mâinile pe volan, pentru a putea interveni în cazul în care apar situații neprevăzute sau erori de funcționare. Cerință valabilă și în cazul FSD.
(Prea) ușor de păcălit
În cazul accidentului de la Houston, datele de bord recuperate de Tesla „arată până acum că pilotul automat nu a fost activat“, mai scria Musk.
Dacă lucrurile stau într-adevăr așa, e și mai greu de înțeles de ce proprietarul mașinii s-a mutat pe locul din spate imediat după ce a scos-o de pe aleea casei, așa cum spune cumnatul acestuia că ar fi făcut. Credea că a pornit pilotul automat, dar, de fapt, nu a reușit să o facă? A fost activat inițial, dar s-a decuplat în cele doar câteva sute de metri pe care a apucat să le parcurgă până la producerea accidentului?
Un răspuns oficial vom avea doar la finalul anchetei demarate de National Highway Traffic Safety Administration (NHTSA), însă până atunci ar putea trece și câțiva ani. O posibilă și imediată explicație ar putea veni de la un experiment realizat de cei de la Consumer Reports (CR), care au încercat să afle imediat după accident dacă ar putea păcăli o Tesla Model Y să meargă pe pilot automat, chiar dacă la volan nu se află nimeni.
Testul a avut loc pe o pistă închisă și a fost condus de Jake Fisher, senior director al centrului de teste auto al CR. Înainte de a intra în mașină, Fisher a închis centura de siguranță și s-a așezat peste ea, pe sca-unul șoferului. (Ca măsură suplimentară de siguranță, pilotul automat se decu-plează dacă este desfăcută centura de siguranță a șoferului în timp ce vehiculul este în mișcare.) A început să ruleze cu aproximativ 25 de kilometri pe oră și a activat Autopilot, după care a setat la zero viteza de deplasare. Mașina s-a oprit, dar pilotul automat a rămas activat. A prins apoi cu o curea o greutate de volan, pentru a înșela senzorii că presiunea pe care o detectează este exercitată de mâinile șoferului, și s-a mutat pe locul din dreapta. Când a crescut din nou viteza, mașina a pornit, urmând marcajele de pe asfalt.
„Mașina a parcurs în mod repetat pista noastră, fără a observa că nu se află nimeni pe scaunul șoferului, fără a observa că nu există nimeni care să atingă volanul. A fost un pic înspăimântător când ne-am dat seama cât de ușor a fost să dejucăm măsurile de siguranță, în mod clar insuficiente, după cum am reușit să dovedim“, spunea Fisher, avertizând că „oricine folosește Autopilot fără a se afla pe scaunul șoferului se pune pe sine și pe ceilalți în pericol iminent“. Și nici măcar atunci lucrurile nu sunt 100% sigure.
În primăvara lui 2018, Joshua Brown, un fost pușcaș marin, se afla la volanul unei Tesla S, pe care îi plăcea s-o alinte Tessy, și se îndrepta pe Autostrada 27 spre Williston, Florida. Mașina era pe Autopilot și a intrat în plin într-un autocamion care a virat brusc la stânga în fața sa. Brown a murit pe loc, devenind prima victimă a unui accident în care a fost implicată o mașină inteligentă.
Potrivit declarațiilor oficiale de pe blogul Tesla, accidentul s-ar fi produs în „circumstanțe extrem de rare“. Iar când spun asta, cei de la Tesla se referă la faptul că, în momentul schimbării neașteptate de direcție a camionului din fața sa, mașina lui Brown a intrat sub remorcă, în spațiul dintre roțile acesteia. Dacă l-ar fi lovit din spate sau frontal, inclusiv la viteză mare, sistemele sale de siguranță ar fi putut preveni rănirea gravă a pasagerului.
Omul sau mașina?
După un an de investigații, The National Transportation Safety Board (NTSB) a publicat un raport de 500 de pagini în care se arată că Brown și-ar fi luat mâinile de pe volan pe perioade lungi, în ciuda avertismentelor repetate ale sistemelor de siguranță de a nu face așa ceva. Lipsa de reacție a șoferului a fost pusă inițial pe seama faptului că s-ar fi uitat la un film pe un DVD portabil, ipoteză pe care familia sa a respins-o ca fiind „în totalitate falsă“.
Este însă sigur că senzorii lui Tessy nu au putut repera un camion cu o remorcă cu 18 roți. Iar asta, într-o zi cu cer senin. Ironic, cu aproximativ o lună înaintea accidentului fatal, Brown postase pe YouTube o înregistrare video făcută din interiorul mașinii sale în care se vede cum Tessy îl avertizează în momentul în care o autoutilitară încearcă să-l depășească fără să se asigure, pentru ca apoi să încetinească și să vireze la dreapta, evitând astfel un impact lateral.
Răspunsul lui Musk la demonstrația făcută de Consumer Reports a venit printr-un nou tweet, prin care susținea că Autopilotul mașinii din Houston nu ar fi putut fi activat într-un mod similar, deoarece strada pe care a avut loc accidentul nu avea niciun fel de marcaje, iar pilotul automat nu funcționează în lipsa acestora.
În replică, un proprietar de Tesla a postat un videoclip care demonstrează contrariul. „Tesla mea activează Autopilotul chiar și atunci când nu există marcaje pe drum. Aș putea sfârși oricând într-un copac“, comenta Sergio Rodriguez imaginile filmate de la bordul mașinii sale.
Până în momentul de față, în atenția National Highway Traffic Safety Administration (NHTSA) au ajuns 28 de accidente în care au fost implicate diferite modele produse de Tesla. Investigațiile s-au încheiat în doar 4 cazuri (dintre care unul mortal), toate, cu șofer la volan.
Așa cum se întâmplă de fiecare dată când un accident Tesla face furori, valoarea acțiunilor companiei a scăzut și de data asta precipitat. Presat de întrebările investitorilor, Adam Jonas, un analist al băncii Morgan Stanley, a publicat la scurt timp după accident o notă în care scrie că nu există motive de îngrijorare, prognozând în continuare o creștere semnificativă a titlurilor Tesla. Într-un viitor nu prea îndepărtat, crede Jonas, noile modele de Tesla vor fi 100% autonome și nici măcar nu vor mai avea volan. Cheia siguranței, continuă el, este îndepărtarea completă a oamenilor din ecuația complicată a traficului.
Ideea (radicală) că autoturismele vor fi mai sigure atunci când oamenii nu vor avea niciun control sau capacitatea de a interveni în conducerea lor e împărtășită de mulți specialiști din industrie, în opinia cărora un sistem cu inteligență artificială (AI) care funcționează pe baza datelor primite de la o serie de senzori, hărți și camere video poate fi considerat mult mai sigur decât un om.
În opinia prozeliților autonomiei auto, modelele fără șofer vor fi mai sigure decât orice altă mașină aflată în momentul de față pe străzi, fiind imune la oboseală, neatenție, nerăbdare, oboseală, șicanări sau alte greșeli care cauzează, toate la un loc, 93% din accidentele produse la nivel mondial.
În termeni de siguranță a traficului, cifrele arată că la nivel mondial se produc anual 8 milioane de accidente rutiere, cu 1,3 milioane de victime. Estimările făcute de Cisco spun că mașinile autonome ar putea diminua cu până la 85% rata tamponărilor frontale, după cum ar putea ajuta la reducerea considerabilă a aglomerărilor din trafic, ținând cont că își pot comunica între ele poziția, viteza și direcția de mers. Șoferii ar putea reduce astfel din cele 90 de miliarde de ore pe care se estimează că le petrec anual blocați în trafic la nivel mondial, timp în care se pierd aproximativ 1.000 de miliarde de dolari, în costuri de combustibil consumat și productivitate irosită.
La nivelul marelui public, mașinile autonome încă sunt privite cu reținere. 74% din americani, 72% din germani, 65% din francezi și 62% din chinezi cred că acestea nu sunt sigure, potrivit datelor unui studiu Deloitte. Iar această schismă – între un public obișnuit cu slăbiciunile șoferilor umani și companiile care construiesc viitorul industriei – nu trebuie trecută ușor cu vede-rea. Pentru că, din păcate, accidentele de până acum nu vor fi și ultimele. Indiferent de cine se va afla (sau nu) la volan.
Acest articol a apărut în numărul 115 al revistei NewMoney