Într-un moment în care o parte a puternicilor României își împart pozițiile în stat pentru ei și prieteni, iar incompetența lor se plătește prin tragediile cetățenilor, românii competenți continuă să-și facă treaba, în țară și în străinătate. Anca Drăgan, 35 de ani, lucrează în SUA, într-unul dintre cele mai importante departamente de informatică din întreaga lume.
E incredibil de satisfăcător să vezi că mașina fără șofer ia decizie după decizie bună.
Anca Drăgan, profesoară UC Berkeley:
A plecat din România când avea 19 ani. Acum, la 35, Anca Drăgan este profesoară de robotică la UC Berkeley, într-unul dintre epicentrele științei robotice mondiale. Prin munca ei, își propune să ajute roboții să lucreze cu, lângă și pentru oameni.
Români competenți este o serie creată de redacția Libertatea, cu gândul de a arăta exemple de compatrioți care, în România și din străinătate, influențează în bine viața comunității prin excelență profesională și muncă sistematică, la cel mai înalt nivel al lumii.
România are mii și mii de copii care fac robotică în cluburile din toată țara, într-unul dintre proiectele naționale inițiate, însuflețite și susținute majoritar privat, inclusiv printr-un concurs național. Pentru ei, povestea Ancăi este un model.
Pentru că Anca Drăgan conduce la UC Berkeley laboratorul InterACT, unde se concentrează pe interacțiunile algoritmice om-robot: algoritmi care merg dincolo de funcția robotului în izolare și generează un comportament al robotului care să se coordoneze bine cu acțiunile oamenilor și cu ceea ce își doresc oamenii de la robot.
Ea a ajutat la fondarea laboratorului de cercetare în inteligență artificială de la universitatea californiană.
Românca a primit numeroase premii pentru munca sa, printre care prestigiosul Presidential Early Career Award for Scientists and Engineers. Este cea mai înaltă distincție acordată de guvernul SUA unor oameni de știință și ingineri remarcabili care își încep cariera independentă.
San Francisco nu e doar unul dintre cele mai mari orașe americane, ci și o vedere în carne și oase trimisă dintr-un viitor al mașinilor fără șofer. Sute de mașini dotate cu camere de filmat, care văd din toate unghiurile, circulă pe străzile aparte, unele înguste, majoritatea înclinate, ale orașului de aproximativ 800.000 de locuitori.
[libvideo id=”4606317″]
Cine sunt Waymo și Cruise
Companii precum Waymo (deținută de Google) sau Cruise (General Motors) își testează astfel tehnologia, antrenând mașinile rupte dintr-un SF să împartă drumurile cu oamenii și să navigheze situații din viața reală.
Mutată aici în 2015, în ceea ce acum, retroactiv, pare un Ev Mediu al acestei tehnologii, Anca Drăgan a pus umărul la a face aceste mașini sigure pentru oameni. A colaborat cu Waymo, ca proiect secundar al muncii sale academice. Până să ajungă aici însă, a parcurs un drum mai lung, în care a rămas mereu la „volan”, încă de când avea 10 ani.
Anca Drăgan. Foto: UCBerkeley
A știut ce vrea
Anca Drăgan a fost „unul dintre copiii norocoși care știu ce vor să facă foarte devreme”, își amintește ea.
În clasa a patra, a zăpăcit-o pe mama ei atunci când a decis să meargă la Palatul Copiilor și să învețe programare ca activitate extracurriculară. Era pasionată de matematică, iar informatica i se părea un fel de matematică aplicată.
Cartea cu care a început totul
A continuat să-și urmărească pasiunea și, opt ani mai târziu, a dat de o carte: „Inteligența artificială – o abordare modernă” – de Stuart J. Russell și Peter Norvig. Este cartea folosită ca manual în majoritatea universităților din lume pentru cursurile de inteligență artificială.
Citind-o, Anca a început să fie fascinată de ideea „unui agent căruia îi dai un obiectiv, o destinație și își dă seama singur cum să acționeze ca să ajungă la acea destinație și să-și împlinească obiectivul”.
Agentul de care vorbește poate fi un robot sau un agent virtual, cum e Google Maps. Acea lectură a făcut-o pe Anca să aleagă drumul inteligenței artificiale, iar mai târziu, robotica a fost principala aplicație care a interesat-o. Mai exact, interacțiunea dintre roboți și oameni.
Anca a plecat din România la 19 ani, ca să-și continue studiile în străinătate, așa că își cere scuze de la începutul convorbirii noastre (pe Zoom) că va mai folosi termeni în engleză sau va mai face greșeli gramaticale. Apoi, deschide un soft de traducere automată ca să caute în timp real câte un termen pe care-l știe doar în limba în care l-a învățat.
Vorbește cu pasiunea unui om care chiar a știut din clasa a patra ce vrea să facă și nu s-a înșelat.
Pictat, intelectual și expansiv, de cuvintele Ancăi, AI-ul pare deopotrivă fascinant, plin de posibilități infinite, util, înspăimântător, apocaliptic. Iar roboții ne pot fi prieteni, ajutoare, parteneri, dar și pericole.
Cum se mișcă brațul robotic dacă are un om în preajmă
În 2006, Anca a început facultatea de informatică la Jacobs University în Bremen, Germania. Trei ani mai târziu, a devenit doctorandă la Institutul de Robotică al Carnegie Mellon în SUA, o instituție de cercetare din Pittsburgh cunoscută mai ales pentru programele sale în informatică.
La doctorat, Anca a ales să studieze brațele robotice și felul în care acestea se mișcă atunci când au un om în preajmă: „Imaginează-ți că ai un braț robotic care te ajută în casă să faci masa sau, după ce ai terminat, să strângi totul, să încarci mașina de spălat vase. Trebuie să vezi cum se mișcă robotul dacă și tu ești în preajma lui sau dacă încerci să fii prin bucătărie și să participi la activitate”, explică ea.
De ce era importantă relația mașină-om? Când a apărut conceptul de braț robotic, era atât de dificil să fie înzestrat cu capacitatea de a-și planifica mișcările, chiar și atunci când n-avea pe nimeni în preajmă, încât cercetarea se făcea presupunând că robotul e singur.
Astfel, ceva simplu pentru oameni, ca a lua o sticlă cu apă de pe masă, e greu de descifrat pentru un robot. Mișcarea nu mai e ceva natural, aproape instinctual, ci divizată în mai mulți pași.
Odată depășit însă acest stadiu, următoarea problemă a fost cum devin acești roboți funcționali când au lângă ei oameni, cu care eventual trebuie să colaboreze pentru a face anumite activități – de pildă, casnice. „Nu îl trimitem pe Marte, robotul e în casele noastre, ajută oameni cu dizabilități. Trebuia să ne gândim ce înseamnă ca robotul să se miște în spații în care se mișcă și oameni”
Nu e bine ca robotul să te ia prin surprindere. E bine să-ți poți da seama ce va face, ca să nu intri în coliziune cu el.
Profesoara explică:
Pornind de la această problemă, lucrarea de doctorat a Ancăi a fost un algoritm care planifică mișcarea robotului astfel încât un om care observă robotul să-și dea seama ce se întâmplă, ce vrea să facă, cum o să se miște în continuare.
Anca a studiat brațele robotice și felul în care acestea se mișcă atunci când au un om în preajmă
Dilemele unei mașini care intră pe autostradă
După finalizarea doctoratului, în 2015, Anca a ales să predea în California, lângă San Francisco, la Berkeley. Și-a dat seama că ideea coordonării mișcărilor între roboți și oameni e foarte importantă și în domeniul mașinilor autonome, care, la fel ca roboții în locuințe, nu umblă singure pe drumuri.
Lucruri care par banale pentru un șofer pot fi extrem de complicate pentru o mașină fără șofer. De pildă, „dacă vreau să intru pe o șosea, pe autostradă, oamenii tot vin, tot vin și dacă doar prezic ce vor ei să facă, prezic că merg în continuare”.
Dar trebuie să îmi dau seama, ca robot, că eu, mașina autonomă, încep să intru pe autostradă, și ceilalți participanți ar putea să încetinească, să mă lase să intru, și nu trebuie să aștept 10 minute până se face un gol organic suficient de mare în trafic.
Anca Drăgan, profesoară UC Berkeley:
Ideile la care lucrase la doctorat: cum se comportă oamenii în preajma unui robot, cum reacționează la robot, dar și ce crede robotul că vor face și cum răspund oamenii la ce cred ei că va face robotul, toate aceste idei erau și mai importante în conducerea autonomă, care începea să ia avânt în perioada 2015-2017.
Yoshua Bengio, Yann LeCun, Demis Hassabis, Anca Drăgan, Oren Etzioni, Guru Banavar, Jurgen Schmidhuber și Tom Gruber discută despre cum și când am putea crea IA la nivel uman. Foto: medium.com/@mslavescu
Problema din intersecții și alte dileme
În acei ani, mașinile fără șofer puteau funcționa foarte bine pe drumuri fără oameni, așa că apărea, în sfârșit, problema coordonării lor cu alți șoferi, pietoni, motocicliști sau bicicliști.
Mașinile autonome trebuiau să învețe să negocieze în intersecții cine merge primul, să poată schimba banda în fața cuiva și să știe că acel cineva poate să încetinească sau dimpotrivă.
Orașul unde îți comanzi mașina autonomă de pe telefon
Din 2017, Anca a început să lucreze, în paralel cu activitatea academică, și la Waymo, compania de mașini autonome care ține de Alphabet Google. Mașinile Waymo circulă deja cu pasageri și fără șofer în Phoenix, Los Angeles sau San Francisco. Deja poți folosi o aplicație ca Uber să comanzi o astfel de mașină să te ducă, de exemplu, la aeroport.
Ca jurnalist, am văzut zilnic astfel de mașini prin San Francisco, dar, admit în convorbirea noastră, nu am avut curaj să mă urc într-una. Ele vin precum Uber, comandate printr-o aplicație.
„La început, mașinile autonome se speriau din orice”
În schimb, Anca a mers foarte des cu mașinile fără șofer. Mai mult de un an, le-a folosit și zilnic pentru naveta la universitate. A fost curios și incitant pentru ea. La început, mașinile aveau și un șofer de siguranță. Cineva stătea la volan, pregătit să intervină în caz de evenimente neprevăzute. Acum sunt, în toate sensurile, fără șofer.
Dacă e să le antropomorfizez, aș spune că la început se speriau din orice și reacționau. Frânau. Nu neapărat o frână bruscă, dar o frână pe care tu n-ai fi pus-o.
Anca Drăgan, profesoară UC Berkeley:
A mai fost straniu și doi-trei ani mai târziu, când au început să meargă și fără șoferul de siguranță. „Aproape ai impresia că e o stafie în loc de șofer, pentru că pare că se mișcă volanul singur”. Se uita foarte atentă la drum. Apoi a văzut că „șoferul fantomatic” negociază bine intersecțiile. În timp, Anca s-a obișnuit să își facă treaba pe bancheta din spate, să răspundă la mailuri, fără să mai fie atentă la ce făcea mașina. Pentru că devenise plictisitor să o tot verifice.
În teritoriile în care aceste mașini operează deja, siguranța este remarcabil de bună, spune Anca. Mașinile autonome sunt atente. Nu fac multitasking. Nu vorbesc la telefon. Nu conduc după ce au băut o bere. Din multe puncte de vedere pot fi mai sigure decât cele conduse de șoferi în carne și oase. Mulțumită tehnologiei, văd mai bine și mai departe decât pot să vadă oamenii. Alta e problema încă nerezolvată în totalitate: cât de rapid poți intra într-un teritoriu nou.
Încă nu îți poți trimite mașina care merge foarte bine în San Francisco în Seattle pentru prima dată și să se descurce bine acolo.
Anca Drăgan:
O altă problemă ține, spune cercetătoarea, de felul în care aceste mașini navighează în situații în care sunt pompieri sau polițiști care răspund la o situație de urgență, cât de rapid se adaptează la aceste situații din trafic. În ambele cazuri, șoferii umani sunt momentan mai pricepuți, recunoaște Anca.
Mașina fără șofer își dă seama azi ce trebuie să facă la fiecare zecime de secundă
Totuși, e optimistă. Ca pasager, în 2017, își dădea seama că se află într-o mașină autonomă după stilul „sperios” în care conducea. Acum, experiența de pasager e una naturală. Ca specialistă care a contribuit ca aceste mașini să devină realitate, e mândră de ele.
E incredibil de satisfăcător să vezi că mașina asta ia decizie după decizie bună. Că vede ce e în jur, că își dă seama ce trebuie să facă la fiecare zecime de secundă, cum accelerează sau frânează, care e reacția potrivită într-o anumită situație.
Anca Drăgan:
Oamenii nu sunt exclusiv raționali
Pentru ca mașinile autonome, parcă rupte dintr-un SF, să poată lua decizie după decizie bună, cum spune Anca, acestea au trebuit să învețe, la fel ca alte sisteme de AI, să prezică ce vor face oamenii. Cea mai mare provocare în munca Ancăi este faptul că oamenii nu se comportă (complet) rațional.
Modelul care spunea că oamenii se comportă rațional a apărut întâi în economie, în urmă cu opt decenii. El a jucat un rol important și în robotică, și în inteligența artificială. Dar are limitele lui. De pildă, într-un experiment făcut de Anca și echipa ei privind colaborarea oamenilor în bucătărie, a prezice acțiunile lor cu un model rațional versus a le prezice cu un model arbitrar a avut, în esență, aceleași rezultate. „Adică ambele modele au fost la fel de proaste: și cel care spunea că oamenii se vor comporta total rațional, și cel care spunea că vor face totul la întâmplare”.
Când conduc, oamenii au un comportament în esență rațional: de obicei rămân pe drum, fac progrese, încearcă să evite ciocnirile. Dar sunt și momente când nu se poartă perfect rațional.
Astfel, în ultimii trei ani, Anca și echipa ei au început să lucreze la încercarea de a obține modele care nu presupun că oamenii sunt absolut raționali, dar sunt totuși utile.
O variantă ar fi fost traducerea modelelor dezvoltate de economiști, pentru a integra, în comportamentul în esență rațional, toate biasurile cognitive care influențează alegerile oamenilor, de pildă, motivul pentru care uneori sunt mai optimiști decât ar fi raționali sau pentru care a primi 1 dolar în plus dacă ai doar 10 te bucură mult, dar e mult mai puțin satisfăcător să primești 1 dolar pe lângă 100.000.
Problema e că cercetătorii au descris deja peste 180 de biasuri cognitive. „Nu poți să le formalizezi matematic pe toate și să le dai un robot, ca să facă predicții despre deciziile tale. Sunt prea abstracte și nu prea au legătură cu ce face lumea în trafic”, a explicat Anca.
Pentru cercetători, alternativa era colectarea de date pe care să fie antrenate modelele de AI. „Poți să observi cum conduc oamenii și să înveți modele”, spune românca. „Problema cu aceste modele e că par că știu foarte multe, dar se bazează, de fapt, pe foarte multe corelații”. Îi cer detalii și îmi dă ca exemplu un articol scris de oameni de la Google și Waymo.
„Au luat un model de AI învățat dintr-o groază de date observate de la șoferi și o situație în care prezice mișcarea oamenilor foarte bine. Apoi însă, au teleportat niște mașini care erau parcate pe dreapta, iar modelul nu mai știa ce să facă. Pentru că se pare că învățase pe unde poate să meargă, relativ unde sunt alte mașini parcate sau care merg. Iar fără acele mașini parcate, nu știa că poate conduce oricum.”
Date fiind limitele acestor modele, în prezent, Anca și echipa de la Berkeley caută o cale de mijloc: una care să nu presupună (în mod greșit) că oamenii se comportă mereu rațional, dar nici să nu se bazeze exclusiv pe corelații rezultate din date, corelații care ar putea fi, de fapt, irelevante. Găsirea unui astfel de model ar putea îmbunătăți mult și capacitatea unei mașini fără șofer de a pătrunde într-o zonă nouă, în care nu a mai „condus”.
Acum scrie un capitol pentru cartea care a adus-o în inteligența artificială
În 2015, după ce și-a finalizat doctoratul, Anca avea de ales între poziții academice la universitățile importante din domeniul ei: MIT, Stanford, Harvard, Princeton, Carnegie Mellon. Nu a rămas la Carnegie Mellon, pentru că voia o schimbare, iar între celelalte a ales gândindu-se care va atrage cei mai buni doctoranzi. Așa a optat pentru Berkeley. În plus, îi place aici că, deși mulți dintre profesori combină partea academică cu un rol în industrie, activitatea de cercetare rămâne primordială. Așa e și în cazul ei. La Waymo e doar o zi pe săptămână.
Anca este profesoară de robotică la UC Berkeley
„Patosul nostru este în știință, nu în industrie. Și poți să vezi asta inclusiv din faptul că oamenii se duc în industrie, dar revin.”
E și cazul lui Stuart J. Russell, unul dintre cei mai importanți experți în inteligență artificială și unul dintre autorii cărții pe care Anca a descoperit-o în clasa a 12-a și care i-a deschis viitorul.
Acum, Anca lucrează cu Stuart J. Russell la UC Berkeley și, pentru ediția a IV-a a cărții lui, profesorul a rugat-o pe ea să scrie capitolul de robotică.
***
În partea a doua a interviului cu Anca Drăgan, discutăm despre amenințările pe care le cuprinde dezvoltarea inteligenței artificiale la adresa noastră, a oamenilor.
Foto: Noah Berger
