Big Brother la tine acasă. Cât de mult te pot „spiona” dispozitivele inteligente pe care le cumperi

Dispozitivele inteligente concepute în Silicon Valley depind încă de mii de oa­­meni prost plătiți, care trag cu urechea și transcriu cele mai intime momente ale unei familii. Cu aceste in­for­mații, giganții tehnologici reușesc să-și îmbu­nă­­tățească permanent „urechile electronice“ cu care anulează practic orice intimitate.

Ruthy Hope Slatis fusese angajată să tran­scrie fișiere audio pentru Amazon – era vorba de frânturi de discuții uzuale – pe care apoi le transcria pe calculator. Primea 12 dolari pe oră pentru asta. Cei de la Amazon au asigurat-o că era un job critic pentru un produs de recu­noaștere vocală. Conversațiile inclu­deau și momente intime din casele oamenilor.

Era vara lui 2014, în preajma lansării boxei portabile Echo, creată dedicat pen­tru aplicația Alexa, ambele produse de Amazon. În prima reclamă la Echo, gi­gantul american și-a promovat asistentul personal Alexa drept o minune a in­te­ligenței artificiale. Însă Slatis și-a dat seama destul de repede că tot ce vedea în reclamă are legătură cu munca ei de zi cu zi. Amazon stoca în cloud comenzile vocale, apoi făcea asocieri cu datele extrase de ea pentru a învăța sistemul.

Înregistrările la care ea și colegii ei aveau acces erau uneori extrem de emo­­ţionante – auzeau oameni care-și spuneau cu glas tare cele mai intime secrete și temeri – un băiat care spunea că i-ar plăcea să violeze pe cineva, copii care își dădeau cu ușurință adresa de la casă și nu­mărul de telefon, un băr­bat care-și comanda jucării sexuale etc. „Habar nu aveau că Echo îi înregistra spunând toate astea“, spune Slatis. În 2016, și-a dat demisia.

Big Brother

La cinci ani de la acel moment, un sfert dintre americani au acasă o boxă inteligentă – Echo, Google Home sau Apple HomePod. Deocamdată, Amazon pare să fi câștigat lupta, anun­țând vânzarea a peste 100 de milioane de dispozitive Alexa. Acum, bătălia este mai aprigă și se dă pentru a introduce și mai adânc în viața de zi cu zi aplicații precum Alexa, Siri (Apple), Google Assistant (Alphabet), Cortana (Microsoft) sau a celor de la Facebook. Astăzi există puține dispozitive care să nu aibă microfoane încorporate – telefoane, ta­blete, frigidere, televizoare, autovehicule etc.

Compania de consultanță Juniper Research estimează că, până în 2023, piața glo­bală de boxe inteligente controlate vocal va ajunge la 11 miliarde de dolari. Numărul acestor dispozitive controlate vocal ar urma să ajungă astfel la aproximativ 7,4 miliarde de bucăți. Asta ar însemna aproape câte unul pentru fiecare locuitor al Pământului.

Chiar dacă nu înregistrează orice sunet, companiile acestea introduc în casele noastre dispozitive cu microfoane mereu active, ceea ce nu poate fi decât îngrijo­rător. „Cei care le dețin închid ochii și au în­cre­dere că producătorii lor nu abuzează de datele înregistrate“, spune Florian Schaub, profesor la Universitatea Michigan, specia­lizat pe comportamente umane în preajma aplicațiilor controlate vocal. „

Se erodează continuu intimitatea, iar oamenii nu știu cum să se protejeze“, a mai spus el. Amazon a refuzat să facă vreun comentariu pentru acest articol, dar în decla­rația trimisă prin e-mail a ținut să sublinieze că intimitatea clienților este funda­mentală pentru cei care dez­voltă dis­po­zitivele și apli­cațiile compa­niei. Atât Amazon, cât și con­curenții săi susțin că marea parte a datelor obținute este pro­cesată de compu­tere, fără ca oamenii să mai treacă prin informații stocate.

Cu toate acestea, este clar că este nevoie și de intervenția umană – cei care extrag anumite bucăți pentru ca aplica­țiile să poată învăța și a fi astfel îmbu­nă­tățite. De altfel, la începutul anului trecut, Bloomberg a atras atenția asupra impli­cării unei vaste rețele de resurse umane pentru a face o selecție în noianul de în­registrări audio colectate de la utilizatorii de Apple, Amazon sau Facebook, cu sco­pul de a-și îm­bunătăți produsele, prin ameliorarea ratei de acuratețe.

Contribuția umană

Apple a fost pri­­ma companie care a schimbat modelul în care datele erau transcrise și stocate, introducând Siri (cumpărat de la un spinoff al Pentagonului) în viețile oamenilor prin iPhone 4S (a vândut peste patru mili­oane de aparate în câteva zile și a început să adune gratis și rapid „cantități“ imense de date obținute prin înregistrările audio).

În ultimii ani, Apple a devenit tot mai agresivă în colectarea și analizarea acestui tip de date, temându-se că Siri va rămâne în urma rivalilor Alexa sau Google Assistant.

La sediul GlobalTech din apropierea aero­portului Cork (Irlanda) sunt echipe în­tregi care transcriu până la 1.300 de fișiere audio (ce pot fi o singură frază sau conver­sații întregi). Cei care au folosit programul CrowdCollect pentru transcriere ar fi avut de pildă opțiunea de a sări peste anumite bucăți sau de a șterge chiar anumite fi­șiere, pe motiv că sunt virusate sau că au limbaj inadecvat ori pentru că sunt prea intime etc. Nu li se per­mitea. Ba chiar li s-a spus în mod repetat că nu există conținut prea intim. Trebuia să transcrie tot.

În acest context, să ne amintim că, în 2015, directorul executiv de la Apple, Tim Cook, trâmbița că intimitatea este un drept uman fundamental. Astăzi, zeci de ma­nageri din cadrul diviziei Siri de la Apple susțin că sistemul nu încalcă în niciun fel intimitatea – înregistrările nu sunt asociate identității utilizatorului. În plus, mai puțin de 0,2% din conținutul înregistrat ajunge la urechile unor oameni. Până în 2019, după ce Apple a integrat Siri în produse precum căști fără fir sau în boxa HomePod, compania ajunsese să proceseze 15 miliarde de comenzi vocale pe lună.

Pe segmentul boxelor inteligente, HomePod deține, potrivit estimărilor, doar 5% din piața americană, Amazon având 70%. În 2011, Jeff Bezos comanda echipei de in­gineri o aplicație muzicală controlată prin voce și integrată într-un produs hardware.

Așa a fost dezvoltată boxa Echo, echipată cu șapte microfoane, care așteaptă un cuvânt de activare pentru a începe să înre­gistreze. Purtătorul de cuvânt al grupului Amazon a asigurat că standardele privind intimitatea au fost integrate în Alexa de la bun început.

Amazon stochează pe termen nelimitat înregistrările și dă puține detalii despre cum sunt folosite informațiile pe care le de­­ține. A precizat doar că transcrierea lor de către angajați a contribuit foarte mult la traducerea Alexa în mai multe limbi și la îmbunătățirea capacității aplicației de a răspunde.

Amazon are adevărate „ferme de transcriere“ în orașe din toată lumea, de la București până în Chennai (India). Un spe­cialist în sisteme de recunoaștere vo­cală spune că amploarea analizei datelor audio făcute de Amazon dă fiori.

În au­gust 2019, Microsoft a recunoscut implicarea resursei umane în revizuirea datelor de voce generate prin propria tehnolo­gie de recunoaștere vocală încorporată apoi în produse – inclusiv în Cortana și în apli­cația Skype –, dar folosite și de terți precum BMW, HP sau Humana, care le in­te­grează în propriile produse și servicii.

Pariul pe voce

 În fiecare trimestru, com­paniile de tehnologie chinezești – precum Alibaba, motorul de căutare Baidu sau producătorul de telefoane mobile Xiaomi – produc milioane de boxe in­teligente. Analiștii industriei spun că Google și Facebook pariază și ele că datele de voce vor contribui consistent la dezvol­tarea industriei publicității.

„Răs­foitul internetului le furnizează cantități impresionante și valoroase despre oameni, dar datele de voce permit algoritmilor de inte­ligență artificială să identifice vârsta, sexul, emoțiile și chiar interesele“, este de părere Schaub, de la Uni­­­versitatea Michigan.

Un studiu realizat în iunie de Pew Research Center arată că majoritatea ame­ric­anilor sunt destul de îngrijorați de capa­citatea de ascultare a boxelor inteligente și a altor dispozitive similare. Cu toate aces­tea, ratele de introducere a lor în case și în viața de zi cu zi continuă să crească.

Unii specialiști susțin că progresul recent făcut în ceea ce privește puterea de procesare a telefoanelor inteligente și o formă de modelare computerizată numită „învățare federalizată“ vor înlocui în cele din urmă aceste forme de ascultare. Altfel spus, mașinile vor deveni tot mai inteligente pentru a decela informațiile valo­roase fără intervenția oamenilor.

Deocamdată, în lipsa unei legislații stricte sau a unei respingeri din partea con­­sumatorilor, cohortele de oameni care fac se­lec­ția conținutului audio vor continua să se lărgească direct propor­țional cu prolife­rarea dispozitivelor de ascultare.

Oameni care aud voci

Popularitatea de care se bucură acum comenzile vocale a fost prevăzută cu mult timp în urmă.

• Apple. În primii ani, gigantul din Cupertino s-a bazat în mare măsură pe specialiștii externi pentru a îmbunătăți aplicația Siri. Dar din 2014 a decis să controleze tot procesul. „Munca este extrem de monotonă și istovitoare. După 15-30 de minute de ascultat, te ia durerea de cap“, spune despre efortul de transcriere Tao Ma, fost specialist senior în cadrul diviziei Siri.
• Facebook. Și compania condusă de Mark Zuckerberg s-a bazat pe transcrierea făcută de oameni pentru aplicația sa de chat, Messenger, în care utilizatorii pot comunica prin fișiere audio în loc să stea să scrie.

Articol preluat din Bloomberg Businessweek

Acest articol a apărut în numărul 82 al revistei NewMoney