Home Articole Intelligence : Începe #robocalipsa?

Intelligence : Începe #robocalipsa?

945
2

Omenirea în ediţie limitată, este titlul unui articol din revista SRI, Intelligence. Provocarile pentru umanitate, regasite in aceasta analiza, sunt spectaculoase.

Progresele tehnologice înregistrate de omenire în ultimele decenii sunt unele fără precedent. Astăzi, un simplu posesor de smartphone are acces, de oriunde s-ar afla, la mai multă informație decât a avut președintele SUA acum 30 de ani. Dacă astăzi, cel puțin la nivel teoretic, suntem conștienți de ceea ce ne rezervă prezentul, ceea ce urmează (ne-)ar putea ridica câteva semne de întrebare. În următorii (cel puțin) douăzeci de ani, copiii născuți în mileniul al treilea (numiți de fostul CEO al DivX, Jordan Hall, „generația Omega”) vor avea de gestionat, pe parcursul vieții lor, schimbări de o asemenea amploare, încât pot fi priviți ca ultima generație umană. Aceștia sunt copiii care, într-un viitor nu foarte îndepărtat, vor trebui să se confrunte cu trei provocări fundamentale: relația omenirii cu mediul înconjurător, relația omenirii cu tehnologia și relația omenirii cu ea însăși. Iar dacă vor reuși să înfrunte cu succes toate aceste provocări, ceea ce va urma va fi cu totul diferit de ceea ce noi, în prezent, putem înțelege ca fiind uman.

Într-o zi. Niciodată azi. Niciodată mâine

Atunci când scriitorul american Stewart Brand a ales să actualizeze (1968) sloganul pentru „Whole Earth Catalog” (Catalogul întregului Pământ) folosind expresia „suntem ca niște dumnezei și trebuie să devenim și mai buni în acest rol”, mesajul a fost unul clar: ființele umane ajunseseră deja la cel mai ridicat nivel al puterii, încât, în lupta pentru supraviețuire, ar fi trebuit să își asume responsabilitatea pentru întregul mediu înconjurător. Realitatea de astăzi – degradarea solurilor, topirea ghețarilor, acidifierea oceanelor, amplificarea fenomenelor meteorologice extreme – arată că puterea și impactul civilizației umane, de atunci și până în prezent, au fost decisive asupra naturii. Ele și-au pus amprenta asupra oricărui ecosistem, asupra oricărei specii.

Schimbările climatice ar putea transforma, în viitor, peste 140.000 de oameni în imigranți climatici, care vor căuta să se stabilească în alte zone geografice, departe de țara de origine și de problemele cu care aceasta se confruntă: terenuri infertile, lipsa apei potabile, nivel crescut al oceanelor ori fenomene meteo extreme care le-au distrus, sistematic, locuințele și sursele de hrană. În prezent, un număr considerabil de țări – cel puțin 20 – în special cele de pe continentele african și asiatic se regăsesc într-o stare de dependență agricolă. Posibile viitoare șocuri climatice suprapuse peste agricultura din aceste regiuni s-ar putea traduce, ulterior, prin reducerea veniturilor și prin insecuritate alimentară. Iar asta ar reprezenta doar o parte din imensitatea dezastrului de mai târziu.

Biologia sintetică, un domeniu relativ tânăr, ar putea reprezenta una dintre soluțiile care ar contribui atât la stoparea efectelor încălzirii globale, cât și la obținerea unor cantități suficiente de hrană pentru o populație în continuă creștere. Prin intermediul acesteia, ar putea fi creați genomi minimali care să producă biocombustibil sau care să obțină hrană mult mai eficient decât ar face-o agricultura tradițională. În viitor, biologia sintetică ar putea permite omenirii exploatarea și colonizarea altor planete. Și atunci, când procesul va fi materializat pe deplin, unii oameni vor alege să își continue studiile sau să lucreze pe o altă planetă, întorcându-se acasă, pe Pământ, la rude, doar în concedii ori cu prilejul unor sărbători. Utopie, oare?

Această provocare fără precedent în istoria omenirii – mediul înconjurător 2.0 – va fi (cel puțin) una din cele care ar urma să cadă pe umerii generației Omega.

Inteligența artificială, o nouă lebădă neagră?

În 2007, analistul N. N. Taleb teoretiza conceptul de „Lebădă Neagră” ca fiind un eveniment neașteptat, de proporții colosale, cu consecințe uriașe și cu un rol determinant pentru istorie. De-a lungul timpului, omenirea a cunoscut astfel de Lebede Negre: apariția Internetului, 9/11, accidentul nuclear de la Fukushima-Daiichi etc. Acum, dacă ar fi să suprapunem ceea ce înțelegem prin inteligență artificială (IA) peste criteriile lui Taleb, rezultatul ne-ar arăta că IA-ul are semnalmentele unei Lebede Negre: eveniment rar – bifat!, potențial dincolo de limitările noastre cotidiene – bifat!, impact uriaș – bifat!, consecințe extraordinare pentru omenire – bifat!

Părăsind teoria și revenind la practică, dezvoltarea spectaculoasă și concretă pe care au înregistrat-o tehnologiile bazate pe computer și Internet este subliniată, sintetic, de Alexandru Mironov în lucrarea „Lumea-după-Google”: „computerul pe care îl avea modulul Eagle, al misiunii Apollo 11 atunci când a aselenizat, pe 20 iulie 1969, era de puterea cipului pe care îl aveți astăzi în telefonul dumneavoastră mobil”.

Vor avea roboții „vise” și „secrete”?

Dacă în secolul al XVI-lea, Regina Elisabeta I a Angliei a refuzat introducerea unei invenții tehnologice, care facilita confecționarea pânzei pentru îmbrăcăminte, motivându-și decizia prin faptul că noua descoperire i-ar fi transformat în cerșetori pe cei mai mulți lucrători (care se ocupaseră până atunci cu producerea manuală a pânzei), în secolul al XXI-lea, oamenii ar putea să își piardă, fără prea multe probleme, utilitatea economică. Și militară. Dacă în trecut, conta orice pereche de mâini, care putea să mânuiască o pușcă pe câmpul de luptă sau să acționeze o manetă într-o fabrică, progresele tehnologice aflate în continuă desfășurare îi fac pe oameni tot mai inutili.

Astăzi, cele mai avansate armate ale lumii se bazează, în cea mai mare parte, pe tehnologie de ultimă oră, pe un număr de soldați limitat dar extrem de bine instruiți și pe câțiva specialiști capabili să producă și să utilizeze ultima generație de tehnologie. Motivul? Unul simplu: o armată impresionantă prin numărul său de soldați nu ar putea să se lupte, în manieră tradițională, cu un atac cibernetic sofisticat menit să îngenuncheze în doar câteva secunde rețeaua electrică, centrele de control aerian sau rețelele de comunicații ale forțelor de ordine ale statului pe care îl slujesc.

Într-un viitor nu foarte îndepărtat, această IA ar putea fi implicată chiar și în procesul de elaborare a strategiei de securitate națională. Pe lângă experții umani anume desemnați, algoritmii informaționali și-ar putea pune amprenta asupra tuturor celor trei faze ale acesteia: diagnoză, luarea deciziilor și evaluare. Pe același principiu, nici mânuirea unei manete sau apăsarea unui buton nu vor mai reprezenta acțiuni valoroase într-o epocă în care companiile vor deveni tot mai automatizate. Algoritmi informatici vor fi cei care vor deveni tot mai responsabili de producție, de transportul mărfii și chiar de gestionarea optimă a piețelor de desfacere.

Oamenii își vor pierde valoarea economică, dat fiind că inteligența începe să se decupleze de conștiință (Y. N. Harari). Dacă, până acum, inteligența și conștiința veneau la pachet (ființele conștiente fiind capabile să conducă mașini, să detecteze boli etc.), în prezent, noi tipuri de inteligență (dar lipsite de conștiință!) sunt capabile să execute aceleași sarcini, însă mult mai bine decât ființele conștiente. Pentru economia secolului XXI, două lucruri sunt certe: inteligența este obligatorie, în timp ce conștiința este opțională.

Tot ce vreau este o slujbă

Cu o conștiință opțională, este foarte probabil ca în viitor sistemul să nu mai aibă nevoie, spre exemplu, de un taximetrist uman. Tot ce își va dori, va fi doar să își transporte pasagerii din punctul A în punctul B cât mai rapid, mai sigur și mai ieftin posibil. Și iată cum o mașină autonomă (deci fără conștiință) va fi capabilă, curând, să preia locul taximetristului și să facă treaba acestuia mult mai eficient. Mai mult, dacă algoritmii informatici ar prelua monopolul asupra traficului, toate automobilele conectate la o singură rețea ar cunoaște poziția și intenția celorlalte (de micșorare/ mărire a vitezei, de frânare ori de staționare etc.) și, astfel, ar circula fără ca vreun accident să se producă. Un astfel de sistem ar avea, în primă instanță, numai beneficii: ar salva timp, bani și, mai ales, vieți omenești. Dacă în 2004 specialiști de la MIT și Harvard nu credeau că meseria de șofer de camion ar putea deveni automatizată într-o zi (dat fiind faptul că unui algoritm informatic i-ar fi imposibil să conducă în deplină siguranță pe un drum aglomerat), 10 ani mai târziu (adică într-un timp relativ scurt) Google și Tesla nu doar că și-au imaginat așa ceva, ci au și materializat acest gând.

Diverși specialiști opinează că, mai devreme sau mai târziu, oamenii fără capacități deosebite vor fi trași pe linie moartă. Roboții vor prelua, treptat, rolul de croitoreasă, de funcționar bancar ori de agent de turism. Când RMN-ul cerebral va fi capabil, prin examinarea unor regiuni diferite ale creierului, să deconspire minciuni la doar câteva secunde de la acționarea unui buton, polițiștii, avocații și judecătorii vor fi nevoiți să se reprofileze. În prezent, un sistem de camere de supraveghere dezvoltat de o companie americană, care se bazează pe algoritmi informatici, este capabil să comunice în timp real forțelor de ordine despre existența unui individ care posedă o armă albă sau de foc, pentru a preveni săvârșirea de infracțiuni. Sistemul ar avea o acuratețe de 99%.

Dascălii viitorului bazați pe IA (care nu vor fi nici obosiți, nici iritați, nici în grevă), vor monitoriza punctele tari și punctele slabe ale unui individ, ceea ce îl pasionează și ceea îl plictisește și îi vor preda materia de care sunt responsabili într-o manieră care va fi adecvată personalității sale. Medicii se pot afla în situația în care presiunea timpului să-i determine să ia o decizie mai puțin favorabilă pacientului sau pot să nu fie la curent cu rezultatele ultimelor cercetări în materie de boli ori medicamente. Un sistem bazat pe IA (care nu ar fi nici obosit, nici bolnav) ar putea stoca în bazele sale toate informațiile vechi și noi despre orice boală sau medicament, statistici medicale sau întregul istoric medical al unui individ și al familiei sale. Cu toate acestea, nu înseamnă că se va renunța la medicii umani. Numeroase aspecte care vor necesita un nivel de creativitate mult mai ridicat, vor rămâne, deocamdată, în responsabilitatea oamenilor. Și farmaciștii s-ar putea împuțina în viitor. Într-o farmacie din San Francisco (2011), un singur robot a eliberat, într-un an, 2 milioane de rețete, fără să facă vreo greșeală.

Chiar și domeniul creativ a început să-și facă simțită prezența pe tărâmul tehnologiei. Până în prezent, algoritmi informatici au compus deja corale după J. S. Bach (cazul programului EMI creat de David Cope) sau colinde de Crăciun (programul creat de compania suedeză Made by AI, 2018), au realizat picturi („Portretul lui Edmond Belamy”, vândut la licitație pentru suma de 432.500 de dolari, 2018) ori au creat reclame (scenariul a fost scris integral de un program al IBM, în 2018, la solicitarea producătorului automobilelor Lexus). Alte meserii care ar urma să se afle, în viitor, pe lista neagră a IA-ului sunt cele de: arbitru sportiv, casier, bucătar, chelner, ghid turistic, cofetar, muncitor în construcții, agent de pază, barman ori salvamar. IA a reușit să domine omul și în jocuri de strategie, care până ieri, defineau superioritatea umană. Deep Blue (construit de IBM) l-a învins într-o partidă de șah (1996) pe Garry Kasparov, iar în 2016, AlphaGo (realizat de Google) l-a înfrânt pe Lee Sedol, campionul sud-coreean la Go (vechi joc chinez de strategie, mult mai complex decât șahul). Cu astfel de exemple, nu ne mai rămâne decât să mai găsim (cel puțin) un răspuns pentru întrebarea: ce se va întâmpla cu toți oamenii inutili? Dacă omenirea va dori să rămână în picioare, va fi nevoită să gândească crearea unor meserii în care intelectul natural să se descurce mult mai bine decât cel artificial. Va fi posibil? Filosoful suedez Nick Bostrom a lansat ipoteza potrivit căreia odată ce inteligența artificială o va depăși pe cea umană, acest eveniment ar putea fi tradus prin exterminarea omenirii. Înlocuirea trăsurii cu mașina nu a îmbunătățit calitățile calului, ci l-a scos din uz.

Când urmele de pași de pe lună arată că nu cerul e limita

Dacă în trecut specialiștii dețineau doar o înțelegere vagă a biotehnologiei ori a genomului uman, tehnologia secolului XXI ar putea trece la pasul următor și ar putea permite algoritmilor „să spargă” codul omenirii și să ajungă să cunoască un individ mult mai bine decât ar face-o individul însuși. De exemplu, în ultimii ani, tehnologia de editare genetică – CRISPR-Cas9 – a devenit un instrument popular în domenii precum biologia umană, agricultură ori microbiologie și ar putea deține capacitatea de a transforma planeta, schimbând radical omenirea prin corectarea erorilor genetice care provoacă boli, resuscitarea unor specii, crearea de noi alimente ori eliminarea unor molime. Dacă un experiment fără precedent în editarea genetică a embrionilor umani, precum cel realizat de omul de știință chinez He Jiankui (materializat prin nașterea gemenilor Lulu și Nana), poate fi replicat în prezent (deși în cele mai multe state acest lucru este interzis), în viitor este destul de probabil ca decizii referitoare la corp, sănătatea umană și lumea înconjurătoare să fie gestionate parțial ori chiar total de algoritmii informatici.

Deja, diabeticii dispun de senzori care le verifică în mod automat glicemia, persoanele cu probleme de sănătate mai puțin grave apelează la algoritmi care să le monitorizeze starea de sănătate, iar alte dispozitive (smartphone-uri, ceasuri ori brățări) supraveghează pulsul și tensiunea arterială și oferă utilizatorului sfaturi cu privire la cum să își modifice alimentația și exercițiile fizice. Lentilele de contact verifică nivelul glucozei din sânge, analizând compoziția lacrimilor, iar gaydar-ul (radarul inteligent care depistează persoanele gay) are deja o rată de succes (2018) în depistare de 91% în cazul bărbaților și de 83% în cazul femeilor.

Ceea ce ar reuși să facă doctorii, asistentele, specialiștii și chiar sistemul național de sănătate al unei țări într-o lungă perioadă de timp, ar putea face, în doar câteva minute, un sistem inteligent precum Google. Alimentând baza de date a simptomelor cu cuvintele tastate de cetățeni în bara de căutare a motorului (ex. un număr ridicat de interogări privind „durere de cap”, „pierdere poftă mâncare”, „febră”, „pete roșii pe piele”, „inflamație în gât”), Google ar putea să știe că populația se confruntă cu o epidemie de varicelă.

Începe #robocalipsa?

Treptat, algoritmii inteligenți ar putea ajunge să ofere sfaturi indivizilor cu privire la ce film să urmărească, unde să își petreacă concediul, ce oferte de job să accepte, cu cine să se căsătorească (pe baza compatibilității calculate de algoritm), ba chiar pe cine să voteze (pentru că algoritmul este privat de conștiință, aceasta va fi capabil să discearnă dincolo de sloganuri și promisiuni electorale).

Tot treptat, algoritmii informatici s-ar putea transforma din asistenți în suverani. Astăzi, o aplicație de navigație GPS oferă date despre cea mai liberă și rapidă rută din oraș, având deja capacitatea de a îndruma, zilnic, milioane de șoferi către destinație. Din această postură, șoferii sunt șefii, iar aplicația este cea care execută ordinele. Însă, pe viitor, rolurile s-ar putea inversa: aplicația ar putea să se transforme în acel șef care ia singur deciziile pentru indivizi.

Prin asistenta personală bazată pe IA a celor de la Microsoft (Cortana), utilizatori din întreaga lume vor fi încurajați să îi ofere acesteia liber acces la toate informațiile – fișiere, e-mailuri și aplicații – astfel încât fiecare cortană să ajungă să își cunoască stăpânul cât mai bine posibil. Astfel, ea îi va aminti acestuia de ziua de naștere a cuiva drag, îl va sfătui în legătură cu ce alimente să consume etc. Însă, pe măsură ce aceste asistente vor evolua, ele ar putea alege să comunice direct cu alte Cortane, fără acordul stăpânului. În relația stabilită între ele, acestea ar putea promova interesele stăpânilor lor, ar putea stabili întâlniri între aceștia etc.

Tehnologiile secolului XXI ar putea inversa rolurile: algoritmii informatici ar putea prelua autoritatea din mâna oamenilor. Dacă situația ar scăpa de sub control, s-ar putea ivi un stat polițienesc de tip orwellian. Însă varianta 2.0 a celui descris în romanul „1984” va monitoriza și va controla nu doar acțiunile indivizilor, ci și ceea ce se petrece cu corpul ori cu creierul acestora. Până la acel moment, totuși, riscul ca oamenii să fie nimiciți din exterior este mult mai scăzut, în comparație cu faptul că ei ar putea să se dezintegreze mult mai ușor din interior (Y. N. Harari).

Noul Babilon

Cartea cu profeții semnată de Ray Kurzweil – „The Singularity is Near” – duce cu gândul la strigătul lui Ioan Botezătorul: „Pocăiți-vă, că s-a apropiat Împărăția Cerurilor”. Cu alte cuvinte, noua religie – dataismul – atrage atenția asupra faptului că venerarea muritorilor ține deja de o tehnologie învechită, iar valoarea supremă a prezentului o reprezintă fluxurile de date. Astăzi, această religie a datelor oferă tuturor (economiști, muzicieni, medici etc.) același limbaj comun de care se bucurau cândva și locuitorii din Babilon. Oamenii de astăzi sunt instrumentele necesare în desăvârșirea lui Internet of Things/ IoT de mâine. Acel IoT care ar putea depăși granițele Pământului ca să cuprindă nu doar întreaga galaxie, ci și universul. Fluxurile de date vor căuta să „înghită” totul: corpul uman, ceasul ori brățara inteligentă de la mână, echipamentul sportiv (care semnalează dacă exercițiile sunt realizate corespunzător) sau costumul inteligent (menit să răcească ori să încălzească), mănușa inteligentă (care măsoară respirația, frecvențele cardiace etc.), ochelarii inteligenți, cafetiera, frigiderul, televizorul ori sistemele de supraveghere video cu circuit închis (care îți monitorizează activitatea) ori mașinile de pe stradă – toate trebuie să devină una cu IoT. Orașele inteligente vor deveni, la rândul lor, și mai inteligente – aer mai curat, energie mai ieftină, servicii publice mai eficiente. De exemplu, în mai puțin de 2 ani, iluminatul public ar putea deveni istorie într-un oraș din China (Chengdu), atunci când specialiștii chinezi vor reuși să lanseze luna artificială (cu o putere de opt ori mai mare decât cea a satelitului natural), pe care au promis-o. Mai mult, zidul fizic care ar separa SUA de Mexic ar putea deveni virtual. Turnuri cu senzori laser și camere care utilizează algoritmi informatici au fost deja testați și au ajutat la arestarea mai multor persoane care doreau să treacă în mod fraudulos granița.

Gamificarea (preluarea unor elemente din jocuri și integrarea lor în viața cotidiană) ar putea reprezenta o nouă tendință în orașele smart: cetățenii care își vor achita la timp facturile, care vor recicla etc., vor primi puncte pentru fiecare lucru benefic pe care îl realizează. Ulterior, acestea vor fi transformate în reduceri pentru anumite servicii sau în acces VIP la evenimentele din oraș. Totodată, cel mai mare aspirator de date, cu o viteză de descărcare de 10- 20 de ori mai mare decât cea din prezent va fi, în viitorul apropiat, tehnologia de internet mobil 5G. Individul va deveni, treptat, un mic cip în cadrul unui colos. În continuare, experiențele trăite individual nu vor mai conta; ele vor trebui împărtășite în online. Ca să supraviețuiască, un individ trebuie să țină minte, în permanență, de tripleta marchează – încarcă – partajează. Și astfel, în viitor, libertatea informației va eclipsa libertatea de expresie, dată fiind nevoia datelor de a circula liber, fără a fi îngrădite în niciun fel. Primul „martir” al dataismului – programatorul Aaron Swartz – care a murit militând pentru această cauză, nota în 2008 că „trebuie să luăm informațiile de oriunde ar fi ele stocate, să facem copii și să le împărtășim întregii lumi (…) trebuie să cumpărăm baze de date secrete și să le punem pe web. Trebuie să descărcăm reviste științifice și să le încărcăm pe rețele de partajare de fișiere. Trebuie să luptăm pentru Acces Liber” (extras din Guerilla Open Acces Manifesto).

Reversul medaliei

În ciuda eforturilor depuse de fiecare programator, este posibil ca, la un moment dat, datele cu care este alimentat un algoritm să poată conține bias-uri încorporate. Astfel, un algoritm informatic, utilizat de o companie pentru a calcula salariile de debut pentru noii angajați, poate lua în considerare, pe lângă criterii clasice, și sexismul, conducând procesul spre o diferențiere salarială majoră între femei și bărbați. Compania Amazon s-a confruntat cu un episod asemănător și a anunțat (2018) că va renunța la serviciile algoritmului informatic pe care îl dețineau, după ce a fost depistat faptul că acesta discrimina candidații pentru posturile tehnice, eliminând din start CV-urile care conțineau sexul feminin. Cercetătorii de la MIT l-au creat (2018) pe Norman, primul tip de inteligență artificială psihopată, pentru a explica maniera în care au fost creați algoritmii, dar și pentru a atrage atenția asupra principalelor pericole ce se pot ivi din dezvoltarea IA-urilor. Când un algoritm de învățare este „hrănit” cu date părtinitoare – în cazul lui Norman cu imagini care ilustrau sânge și persoane decedate – acesta poate oricând să își modifice semnificativ comportamentul.

Viit”omul” sună bine?

Într-un alt scenariu, când oamenii îşi vor pierde valoarea, sistemul ar putea să o regăsească într-o „ediţie limitată” de indivizi, care ar putea constitui o elită restrânsă şi privilegiată de supraoameni, aparte de tot ceea ce am putea să înţelegem acum. Aceştia vor deţine abilităţi fizice şi mentale de neimaginat pentru prezent şi vor excela printr-o creativitate care le va permite să ia cele mai bune decizii la nivel global. Totodată, vor fi şi suficient de capabili încât să ţină ritmul cu cei mai sofisticaţi algoritmi informatici. Dat fiind că restul oamenilor vor stagna, lumea ar putea fi împărţită pe diferite categorii biologice.

Noua elită se va bucura de toate avantajele sociale şi politice ale acelor timpuri. Medicina secolului XXI va trece într-o nouă etapă şi se va preocupa să ofere servicii doar supraoamenilor. Și educaţia ar putea proceda la fel. S-ar putea orienta mai curând spre îmbunătăţirea capacităţilor acelor indivizi „care promit”.

Dacă în secolul XX, totul se rezuma la prosperitate, sănătate şi pace pentru toţi indivizii, obiectivele secolului XXI vor să depăşească mainstream-ul şi să se concentreze pe obţinerea vieţii fără de moarte, a desăvârşirii şi, într-un final, a deificării.

2 COMMENTS

Leave a Reply