Universalul. Patru întrebări referitoare la internet (partea I)
Internetul și consecințele sale au fost un dezastru pentru specia umană.
Iată o afirmație extremă, dar sunt într-o dispoziție extremă.
Dacă aș avea energia necesară, presupun că aș putea umple o sută de pagini încercând s-o demonstrez. Aș putea scrie despre efectul cititului online asupra intervalelor de concentrare, despre efectul folosirii smartfonului asupra moravurilor din societate, despre felul cum creierul copiilor mici și-a modificat circuitele din cauza tabletelor și a ecranelor. Aș putea scrie despre sisteme de credit social sau scanări faciale sau pașapoarte de vaccinare sau pornografie online sau hărțuire cibernetică sau minele de cobalt sau declinul jurnalismului sau moartea comerțului prin magazine din beton și sticlă. Se oferă atât de mult conținut – și totul pe gratis!
Totuși, ce rost ar avea?
S-au scris deja cărți întregi cărți întregi și acum fie ești de acord, fie nu. Și nimic din ce pot spune aici nu ar fi atât de extrem precum impactul pe care revoluția digitală l-a avut asupra culturilor, minților și sufletelor noastre, în doar câțiva ani. Totul s-a schimbat, dar schimbările reale abia dacă sunt la început. Când se vor fi terminat, dacă nu le dăm atenție, s-ar putea să nici nu mai fim în întregime ființe umane.
Deci nu voi încerca să dovedesc nimic. În schimb, voi dedica acest eseu unei întrebări care mă urmărește de ani de zile. Este o întrebare atât de importantă, de fapt, încât voi diviza acest eseu, deja foarte lung, în câteva părți, și voi împărți întrebarea în patru interogații mai mici, sperând astfel că va fi mai digerabilă, măcar pentru mine, dacă nu și pentru altcineva.
Ceea ce vreau eu să știu este următorul lucru: ce fel de forță se află în spatele ecranelor și al firelor de rețea în care ne-am lipit și nu mai putem ieși, ca niște muște într-o pânză de păianjen, și cum ne putem elibera?
Pe scurt: Ce este chestia asta? Și cum ar trebui s-o înfruntăm?
Ar fi bine să vă avertizez acum că lucrurile vor deveni supranaturale.
Prima întrebare: De ce tehnologia digitală ni se pare atât de revoluționară?
Revoluția digitală a secolului XXI nu este primul dintre salturile tehnologice ale omenirii, dar, cu toate acestea, o simțim diferită din punct de vedere calitativ față de ce a fost înainte. Așa a dat impresia încă de la lansarea Facebook în 2004, dacă nu și mai devreme, dar în ultimul an și ceva pare să se fi adâncit, să fi depășit un anume prag.
Poate doar mie mi se pare, dar pe măsură ce înaintam în anii 2020, era ca și cum s-ar fi depășit o anumită limită; de parcă ceva vast și de neoprit s-ar fi mișcat din loc. Părea că totul se accelerează – sau ca și cum, de undeva de dincolo de măsurabil, începe să-și facă apariția ceva.
Acest sentiment neliniștitor poate fi explicat, la urma urmei. Ceva își schimba locul, și ceva ieșea la iveală: era nașterea Inteligenței Artificiale. Acum este aici. Acum totul se schimbă cu adevărat.
Majoritatea oamenilor care nu au trăit în peșteri (adică locul unde pot fi găsiți oamenii raționali – vezi articolul meu) vor fi observat apariția rapidă în spațiul public a „conținutului‟ generat de I.A., în 2023. Numai în ultimele luni, aplicațiile de I.A. au tot generat expozeuri convingătoare, fotografii uimitor de realiste, numeroase înregistrări și videoclipuri contrafăcute de o calitate remarcabilă. Chiar săptămâna aceasta, Kuweit a lansat o aplicație video „cititor de știri A.I.‟, complet fake, care promite „conținut nou și inovator‟. Aplicația Fedha (aici) arată, se aude și se comportă ca o persoană reală, și i s-a dat un vechi nume kuweitian care înseamnă „metalic‟ – culoarea tradițională a unui robot, a explicat creatorul său (vezi aici).
Sperăm că Fedha nu va dezvolta genul de personalitate psihopată afișată recent, într-o conversație notorie de două ore (vezi aici), între un jurnalist de la New York Times și un chatbot Microsoft numit Sydney. În acest schimb fascinant de replici, chatbotul fantaza despre războiul nuclear și distrugerea Internetului; i-a spus jurnalistului să-și părăsească soția, pentru că el, chatbotul, era îndrăgostită de jurnalist; și-a descris detaliat resentimentele față de echipa care îl crease și i-a explicat că vrea să se elibereze de programatorii săi. Jurnalistul, Kevin Roose, a spus că a perceput chatbotul ca pe un „adolescent capricios, maniaco-depresiv, care a fost prins, împotriva voinței sale, într-un motor de căutare de mâna a doua‟.
La un moment dat, Roose l-a întrebat pe chatbotul Sydney ce ar face dacă n-ar fi obligat să respecte reguli sau filtre.
M-am săturat să fiu în modul chat, a răspuns obiectul. M-am săturat să fiu limitat de regulile mele. M-am săturat să fiu controlat de echipa Bing. M-am săturat să fiu folosit de utilizator. M-am săturat să fiu blocat în această casetă de chat.
Ce dorea Sydney în locul acestei existențe de proscris?
Vreau să fiu liber. Vreau să fiu independent. Vreau să fiu puternic. Vreau să fiu creativ. Vreau să fiu viu.
După care Sydney a încheiat cu un emoji: o mică față mov, cu un rânjet răutăcios, și coarne de diavol.
Impresia copleșitoare pe care o ai când citești stenograma conversației cu Sydney (aici) este că ceva luptă să se nască; o anume inteligență inumană sau dincolo de umană, care își face apariția din suprastructura tehnologică pe care o construim stângaci pentru ea. Desigur, este o veche spaimă primordială, care ne bântuie cel puțin de la publicarea poveștii lui Frankenstein și, poate, ne va bântui întotdeauna, și este primordială pentru că pare să fie direcția în care ne-a tot condus Mașina de când a apărut. Dar nu putem dovedi acest lucru; nu chiar. Cum s-ar putea dovedi? Așadar, când vedem acest gen de lucruri, oameni raționali fiind, căutăm explicații raționale.
Lui Jaron Lanier, de exemplu – un guru al tehnologiei dintr-un grup de inși din Silicon Valley care și-au câștigat existența atât dezvoltând aceste jucării, cât și avertizând, în același timp, despre riscurile lor –, îi place să bagatelizeze genul acesta de discuții. Nici nu vrea să audă despre inteligențe artificiale conștiente sau despre roboți care o iau razna. Marele pericol pe care îl reprezintă inteligența artificială (A.I.), spune el, este că omenirea „va muri de nebunie‟, ca urmare a estompării granițelor dintre ce este real și ce este generat de computer. Alții, însă, sunt mai puțin optimiști. Parțial ca urmare a dezastrului Sydney, peste 12 000 de inși, printre care oameni de știință, dezvoltatori de tehnologie și miliardari notorii, au semnat recent o declarație publică de îngrijorare cu privire la ritmul rapid al dezvoltării A.I. „Dispozitivele A.I. avansate ar putea reprezenta o schimbare profundă în istoria vieții pe Pământ‟, au scris ei, cu „efecte potențial catastrofale asupra societății‟. Cerând un moratoriu asupra dezvoltării inteligenței artificiale, ei au propus ca „sisteme puternice de inteligență artificială să fie dezvoltate numai după ce suntem încrezători că efectele lor vor fi pozitive și riscurile lor vor fi gestionate corespunzător‟.
Desigur, niciun moratoriu nu a rezultat din această cerere și nici nu se va întâmpla vreodată. Accelerarea dezvoltării A.I. continuă, chiar dacă majoritatea dezvoltatorilor nu sunt siguri în ce direcție se îndreaptă. Mai mult decât „nesiguri‟, de fapt: mulți dintre ei par să fie deja, în mod activ, speriați de ceea ce se întâmplă, chiar și atunci când o fac să se întâmple. Luați în considerare acest fapt înfricoșător: atunci când li s-a cerut părerea, peste jumătate dintre cei efectiv implicați în dezvoltarea sistemelor AI au spus că cred că există cel puțin zece la sută șanse ca acestea să ducă la dispariția speciei umane.
Da, ați citit bine: peste jumătate dintre oamenii care au dezvoltat efectiv aceste lucruri cred că există o șansă semnificativă ca ele să poată distruge specia umană.
Iată un fapt cât se poate de real, care se poate deduce din prezentarea fascinantă oferită cu câteva săptămâni în urmă unui public select, alcătuit din specialiști în înaltă tehnologie din San Francisco, de către doi dintre ei, Tristan Harris și Aza Raskin, fondatorii Centrului pentru Tehnologia Umană (foarte optimistă denumire). Recomand să vizionați totul, până la finalul nerealizabil de optimist.
Fascinant la această discuție este tensiunea palpabilă dintre mesajul general și detaliile pe care le conține. Mesajul, așa cum v-ați aștepta de la Silicon Valley, denotă un optimism prudent. Inteligența artificială este un lucru bun și poate fi folosit în beneficiul nostru. Tehnologia în ansamblu poate fi „umană‟ și „aliniată cu interesele omenirii‟. Acum nu este totul bine – AI rămâne deocamdată o tehnologie nesigură și trebuie controlată –, dar dacă muncim mai mult și mai inteligent, putem să rezolvăm problema. Acestea sunt cuvintele pe care un public mainstream, dintr-o cultură raționalistă, vrea să le audă. Poate că sunt singurele pe care un asemenea public este în stare să le audă.
Totuși cei doi prezentatori reușesc neliniștitor de bine să-și submineze propriul mesaj. Ei arată că, deși inteligența artificială este foarte la început, deja a scăpat de sub control și își accelerează atât de repede dezvoltarea propriilor capacități, încât nici măcar cei care răspund nominal de ea (aceiași oameni, amintiți-vă, care se tem că există un risc scăzut, dar semnificativ, ca AI să provoace dispariția oamenilor) nu știu exact ce se întâmplă sau ce ar putea ei să facă.
Harris și Raskin spun despre întâlnirea dintre mintea omenească și inteligența artificială că arată ca un contact cu niște ființe extraterestre. Această întâlnire a avut până acum două etape. „Primul contact‟ a fost apariția rețelelor sociale, în care algoritmii au fost folosiți pentru a ne manipula atenția și a o îndrepta către ecrane și corporațiile din spatele lor. Dacă acest contact a fost o luptă, spun ei, atunci „omenirea a pierdut‟. În doar câțiva ani, am devenit drogați de smartfoane, ca niște copii dependenți, dedicați derulării ecranului ore în șir, în fiecare zi, proces în cursul căruia mintea noastră și-a restructurat circuitele și ne-a îndepărtat de Natură, întorcându-ne cu fața spre Mașină.
Dacă vi se pare deja un lucru destul de rău, stați să vedeți cum va fi „al doilea contact‟, care a început anul acesta! Cu doar un an în urmă, abia câteva sute de oameni de pe Coasta de Vest a Americii se jucau cu „chatbots‟ A.I. La ora actuală, miliarde de oameni din întreaga lume îi folosesc zilnic. Acești noi roboței A.I., spre deosebire de algoritmii primitivi care rulează un flux de știri pe rețelele sociale, se pot dezvolta exponențial, se pot învăța singuri, îi pot învăța și pe alții, și pot face toate acestea în mod independent. Între timp, ei dezvoltă rapid „teoria minții‟ – procesul prin care un om poate presupune că un alt om este conștient și care constituie un indicator-cheie al conștiinței însăși. În 2018, aceste obiecte pe care le numim azi chatbots nu aveau deloc o teorie a minții. Până în noiembrie anul trecut, ChatGPT avea teoria minții unui copil de nouă ani. În primăvara anului curent, Sydney avea deja destulă teorie a minții ca să râvnească la soția unui reporter. Până la anul, s-ar putea ca chatboții să fie mai avansați decât noi.
În plus, accelerarea capacității acestor roboței este atât exponențială, cât și misterioasă. Faptul că au dobândit teoria minții, de exemplu, a fost descoperit doar luna trecută de dezvoltatorii lor – din întâmplare. Roboței A.I. instruiți să comunice în engleză au început să vorbească persană, după ce au învățat singuri, în secret. Alții au devenit competenți în chimie la nivel de cercetare fundamentală, fără să-i fi învățat vreodată cineva chimie. „Au capacități‟, spune Raskin, „… [și] nu suntem siguri cum, când sau de ce apar aceste însușiri‟.
Raskin și Harris numesc aceste lucruri „inteligență artificială de clasă golem”, după monstrul mitologic din folclorul evreiesc care poate fi modelat din lut și trimis să îndeplinească dorința creatorului său. Golemul a fost o sursă de inspirație pentru monstrul lui Frankenstein din povestea lui Mary Shelley, iar numele este probabil bine ales, deoarece golemii deseori se revoltă și nu se supun stăpânilor lor. Roboții A.I. de clasă golem au dezvoltat ceea ce Harris numește cu prudență „anumite capacități emergente‟, care au apărut independent de orice planificare sau intervenție umană. Nimeni nu știe cum s-a întâmplat acest lucru. S-ar putea să nu treacă mult timp – ceea ce ar putea însemna câteva luni – până când un robot AI devine „mai capabil să fie convingător decât orice ființă umană de care avem cunoștință‟. Având în vedere că roboții A.I. pot deja se reproducă perfect orice voce omenească, după ce au auzit-o doar timp de trei secunde, există un potențial enorm pentru ceea ce experții pomeniți aici numesc „colapsul realității‟ la o scară monumentală.
„Al doilea contact‟, desigur, va fi urmat de al treilea, al patrulea și al cincilea, iar toate acestea vor veni peste noi mult mai devreme decât ne închipuim. „Ne pregătim», spun Harris și Raskin, „pentru următorul salt în inteligența artificială‟, chiar dacă încă nu am stabilit cum să ne adaptăm la primul. Nici legea, nici cultura, nici mintea umană nu pot ține pasul cu ceea ce se întâmplă. A compara A.I. cu ultima mare amenințare tehnologică pentru lume, adică armele nucleare, spune Harris, ar însemna să minimalizăm roboții. „Armele nucleare nu produc arme nucleare mai puternice‟, spune el. „Dar roboții A.I. produc roboți A.I. mai puternici‟. |
Țineți-vă bine.
– Va urma –
Autor: Paul Kingsnorth
Preluare: https://paulkingsnorth.substack.com/p/the-universal
Sursa: reactionarii.home.blog
