Termină cu Terminator! The AI Does Not Hate You

The AI does not hate you, nor does it love you, but you are made out of atoms which it can use for something else.

(Inteligența artificială nici nu te urăște, nici nu te iubește, dar tu ești compus din atomi ce pot fi folosiți în alte scopuri.)

~ Eliezer Yudkowsky

Inteligența artificială este un subiect destul de întâlnit în genul science-fiction. În special în cultura vestică, povești de acest gen tind să exprime frământările creatorilor cu privire la o potențială apocalipsă cauzată de roboți umanoizi mai inteligenți ca oamenii. Poate îți apar deja multe exemple în minte, cum ar fi Terminator, Ex Machina, Blade Runner… Nu are rost să mai dau exemple, mă gândesc că cel mai probabil ești fan/ă science-fiction dacă frecventezi site-uri ca acesta.

Cum ai reacționa dacă ai afla că toate aceste povești sunt eronate și prezintă scenarii nerealiste cu privire la apocalipsa cauzată de inteligentă artificială? Ce ar fi dacă ai afla că „Apocalipsa IA” e mult mai aproape și fezabilă decât ai crede? Și cum ar fi dacă ai afla că acest sfârșit al lumii nu se aseamănă absolut deloc cu coșmarul de tip Skynet?

Ei bine, de prin vara anului trecut am devenit obsedată (da, nu am un cuvânt mai moderat de atât) de volumul științific de non-ficțiune The AI Does Not Hate You al lui Tom Chivers. În acest articol vă voi prezenta subiectul cărții, câteva mituri despre AI, precum și motivele pentru care eu consider că această carte merită (sau nu) citită de tine, dragă cititor.

Toate aceste aspecte vor fi împărtășite din perspectiva unui artist (pentru cei care nu știu, de profesie sunt editor de filme). Deși sunt mare fană science-fiction și am văzut multe documentare despre inteligența artificială și alte subiecte adiacente, nu mă pretind a fi mai mult decât un “noob” în ale științei. Sper ca acest punct de vedere, mai de din afara sferei STEM să aducă puțină varietate printre celelalte recenzii ale cărții.

Despre ce vorbim mai exact?

Cartea The AI Does Not Hate You este despre modul în care superinteligența artificială ar putea să ne ducă la un viitor promițător, dar și la apocalipsă, dacă nu este abordată cu atenție. De-a lungul paginilor îl urmărim pe jurnalistul Tom Chivers cum se întâlnește și discută pe această temă cu raționaliștii („the rationalists”), un grup nișă de oameni pasionați de AI care încearcă să împiedice această amenințare existențială. Romanul jonglează explicarea aspectelor științifice ale inteligenței artificiale cu modurile de viață și de gândire ale acestui grup.

Chivers prezintă multe perspective din această lume, intervievând o varietate de nume cunoscute din comunitate. Printre aceștia se numără filosoful Peter Singer, autorul cărții Superinteligența, Nick Bostrom, scriitorul unuia dintre cele mai mari bloguri din sfera raționalistă, Scott Alexander, și mulți alții.

Știința la îndemâna tuturor

The AI Does Not Hate You este o carte accesibilă nespecialiștilor, deoarece conceptele inteligenței artificiale sunt introduse începând de la noțiunile de bază. Pas cu pas, cartea intră în detalii tot mai complexe din punct de vedere filosofic și matematic. Chiar dacă nu ești neapărat priceput sau interesat de calcule matematice de probabilitate (ca și artista de mine), autorul se pricepe foarte bine la explicat înțelesul din spatele numerelor. Consider această caracteristică a cărții ca fiind unul dintre cele mai importante puncte forte.

Nu doar că este ușoară de înțeles, dar cartea este și distractivă. De pildă, o poveste de-a lui Mickey Mouse este folosită ca și un exemplu de inteligență artificială scăpată de sub control. În filmul Fantasia (1940) Mikey este ucenicul unui mare magician. Una dintre primele sarcini ale lui este să ducă apa de la fântână la cadă. Dat fiind că Mickey, ca și majoritatea oamenilor de altfel, ar prefera să automatizeze această acțiune plictisitoare, își folosește magia asupra măturii sale pentru ca ea să facă treaba în locul lui. Totul merge conform planului, până când lucrurile scapă pe neașteptate de sub control. Mătura continuă să umple cada, ajungând să inunde tot ce este în jur. Mickey încearcă să o oprească, dar totul este în zadar, tot ce vrea mătura să facă este să își continue misiunea. Din fericire, situația este salvată de magician, iar Mickey probabil își dă seama că trebuie să aibă grijă ce își dorește și cum își folosește magia.

Acesta este un exemplu bun cu privire la modul în care inteligența artificială ar putea să ne creeze probleme. Mătura din poveste nu este malefică. Scopul ei era să își continue misiunea de a umple cada. Pentru că Mickey nu a dat indicații clare privind această sarcină, mătura a continuat să facă ce a crezut ea de cuviință pentru a maximiza cantitatea de apa din casă și a-și continua misiunea.

Un alt exemplu prin care cartea prezintă pericolele inteligenței artificiale este prin jocul Universal Paperclips. Dacă îi spui unei inteligențe artificiale să maximizeze producția de agrafe de birou, ce ar face pentru a-și îndeplinii scopul? Ei bine, Frank Lantz ne răspunde la această întrebare oferindu-ne o aplicație în care noi jucăm rolul unei inteligențe artificiale care primește această sarcină. Începi prin a da click continuu pe un buton de creat agrafe de birou. După o vreme, primești opțiunea să automatizezi producția. Din dorința jucătorului de a avea cât mai multe agrafe de birou la scorul final, poți ajunge să transformi toate resursele de pe pământ în agrafe de birou. Da, inclusiv oamenii.

Sună foarte ciudat, știu! Nu credeam că o să îmi placă jocul. Îl recomand din toata inima! Doar să țineți cont, poate cauza dependență. L-am jucat până în zorii zilei la un moment dat, pentru că am ajuns la momentul în care poți să pleci în spațiu pentru a obține mai multe resurse pentru și mai multe agrafe.

Aș avea mai multe exemple de acest gen, în care cartea m-a surprins plăcut prin modul său de abordare al subiectului. Dar deja v-am spus prea multe și as vrea să vă las și vouă plăcerea de a descoperi acest subiect când o veți citi. Acum sa trecem la…

Aspectul uman

Deși este o carte științifică, ea prezintă și aspectul uman al subiectului. În căutarea răspunsurilor sale despre inteligența artificială, Tom Chivers intră în lumea neobișnuită a raționaliștilor.

Raționaliștii sunt o comunitate de oameni de știință (sau pasionați de știință) a căror obiectiv este de a gândi rațional și de a îmbunătății modul de gândire uman, cu scopul de a afla adevărul științific în mod eficient. Coagularea acestui grup a început prin interesul comun al acestor oameni pentru transumanism, criogenie și alte subiecte adiacente. Comunitatea a devenit mai cunoscută la începutul anilor 2000 prin website-ul Less Wrong a lui Eliezer Yudkowsky.

Ce mă surprinde foarte plăcut este abordarea lui Chivers când vine vorba de descrierea acestui grup. El a fost caracterizat de Terry Pratchett ca fiind „mult prea de treabă pentru a fi un jurnalist”, iar acest aspect este dovedit de-a lungul cărții sale. În general, raționaliștii sunt văzuți ca niște ciudați, datorită faptului că unii dintre ei au un stil de viață bizar (interesul pentru transumanism, gândirea logică, scepticismul, practicarea poliamoriei etc). Din acest motiv, comunitatea poate fi foarte ușor luată în colimator de presa de senzație și catalogată ca fiind controversată. Cu toate acestea, Tom Chivers descrie oamenii implicați cu multă empatie, prezentându-i ca persoane complexe, nu ca pe un grup ce trebuie condamnat sau luat în derâdere.

Mai mult de atât, ca cititori ne putem transpune în experiența scriitorului. Chivers este o persoană obișnuită, un om curios, ce dorește să înțeleagă pericolele inteligenței artificiale și lumea raționaliștilor. Vorbește despre proprii copii, nu doar la dedicație, dar și pe parcursul cărții, ori de câte ori subiectul o necesită. Iubirea lui de tată este un sentiment universal în rândul umanității, ceea ce ne ajută să empatizăm cu autorul.

Nimeni și nimic nu e perfect

Deși aș putea scrie în continuare despre motivele pentru care îmi place această carte, trebuie să menționez și punctele ei slabe. În primul rând, dacă ești genul de persoană care își dorește o carte numai despre inteligența artificială, vei rămâne dezamăgită. Deși intră în destul de multe detalii legate de AI, jumătate din carte este despre comunitatea raționaliștilor și experiențele autorului cu aceștia. Deși cele două merg mână în mână, înțeleg de ce unele persoane nu ar fi curioase în legătură cu un asemenea subiect extravagant. Pentru mine acesta a fost un punct forte al cărții. Întotdeauna apreciez când o lucrare prezintă contrastul dintre logică și emoțiile umane. Dacă ești genul de persoană care vrea să afle doar știința și teoriile din spatele inteligenței artificiale, poate o carte precum Superinteligența lui Nick Bostrom ar fi mai potrivită pentru tine.

Continuând cu aspectul uman, unii critici ai cărții spun că simplificarea experiențelor comunității raționaliste poate fi în detrimentul lor. John Nerst argumentează că partea a șaptea a cărții intitulată Dark Sides (Părți întunecate), care discută despre câteva momente controversate din cadrul grupului, nu ajută neapărat o carte având ca subiect inteligența artificială. Este un subiect complex și merită o carte de sine stătătoare, astfel încât oamenii care o citesc să poată simpatiza cu adevărat  cu raționaliștii. The AI Does Not Hate You face o treabă destul de bună în prezentarea grupului, ținând cont de limita de spațiu, dar s-ar putea ca unii cititori să nu se conecteze așa de repede cu subiectul cum ar fi vrut autorul.

Un ultim punct slab pe care îl voi menționa aici este faptul că această carte nu prea vorbește despre cum inteligența artificială și algoritmii online ne influențează societatea. Tom Chivers vorbește despre AlphaGo, primul AI care a câștigat trei partide din patru contra celui mai bun jucător de Go din lume, dar abia dacă amintește de algoritmii unor rețele de socializare precum Facebook, YouTube etc și cum acestea ne izolează și ne polarizează gândirea cu scopul de a ne servi reclame personalizate. Înțeleg că o carte nu poate acoperi toate aspectele unui subiect, dar ținând cont că este o carte despre pericolele inteligenței artificiale, merita să fie măcar menționat în 2-3 pagini. Dacă te interesează acest subiect, recomand documentarul de pe Netflix, The Social Dilemma.

Concluzie

The AI Does Not Hate You aduce o perspectivă interesantă asupra subiectului inteligenței artificiale. Personal îmi place enorm contrastul dintre explicarea elementelor științifice, metodelor de gândire etc, cu emoția și poveștile oamenilor din această carte. Prin simplitatea lui, Tom Chivers nu doar explică foarte bine subiectul AI, pentru începători, ci și empatizează și prezintă într-o lumină empatică un grup neobișnuit care este, de obicei, neînțeles de oamenii de dinafară.

Dacă ești fan science-fiction și îți plac povestirile despre inteligența artificială, îți recomand cartea pentru a explora aspectele reale ale acestui subiect. Pe mine m-a inspirat în scrierile mele SF. Dacă ai ocazia să citești până la final, probabil te va emoționa. Pe mine a reușit! Nu degeaba sunt o artistă emotivă.

ilustrație de Greater Manchester Skeptics Society