Educația în fața dilemelor ofensivei inteligenței artificiale

Educația în fața dilemelor ofensivei inteligenței artificiale
Foto: dreamstime

După inteligența artificială (IA), trecând prin cea generativă (ChatGPT), se va ajunge la inteligența artificială generală (AGI – artifi­cial general intelligence), într-un orizont de timp, după unii, de numai un deceniu. Va fi probabil evenimentul cel mai important din istoria lumii (Elon Musk) care va trebui pregătit și tratat ca atare. Într-adevăr, se va realiza în acest mod un sistem în care IA ar fi la același nivel cu omul, în ceea ce privește toate capacitățile sale cognitive, una care ajunge capabilă de auto-­învățare, auto-formare și auto-influențare. Mai mult decât atât: mai putem spune că IA nu poate fi mai in­­teligentă decât omul, întrucât e creată de om? Greu de răspuns și oricum nu ne propunem să o facem prin ­rândurile de față. Rămânând în sfera presupunerilor și fără a cădea pradă sindromului „Planetei maimuțelor“, ne punem totuși întrebarea: ar trebui să ne temem de IA și de posibilele sale derive și, mai ales, încercăm să identificăm dilemele pe care le generează deocamdată, în câmpul educației?

1. Încă de la începuturile sale, inteligența artificială a provocat și interesat și lumea educației, iar apariția IA genera­tive, precum ChatGPT, nu a făcut decât să relanseze subiectul. Pe fond, în privința dilemelor sale „educaționale“, se pare că nu avem de ales decât între o poziție de respingere ce se justifică prin teama unei debordări incontrolabile și, respectiv, entuziasmul inovatorilor care percep beneficiile pedagogice potențiale ale acestor inedite instrumente extraordi­nare și mai puțin riscurile aferente par și aici a se impune în cele din urmă.

Într-o lucrare recentă (Intelligence artificielle, intelligence humaine: le double énigme, Editions Gallimard, Paris, 2023), Daniel Andler ține să ne amintească cu acribie și talent diferitele episoade care au marcat istoria IA de la debutul său, plasat în timp spre sfârșitul anilor 1950, și până astăzi. La fiecare etapă a acestor evoluții de peste șase decenii deja, educația a ocupat un loc de frunte printre câmpurile de aplicare po­sibile ale noilor tehnologii de acest tip inventate și aplicate treptat. Sistemele experimentale dintr-o primă epocă inspirau „modele de învățare“ care încorporau o analiză didactică preocupată de eliminarea obstacolelor la formare, sub influența cărora informaticienii concepeau parcursuri individualizate menite să fie deosebit de eficiente. Dar această primă perioadă nu va aduce rezultatele scontate și așteptate și IA în ansamblul său, inclusiv aplicațiile educative, aveau să traverseze o lungă „iarnă“ de îngheț, de mai bine de 20 de ani, din care s-a ieșit abia spre începutul anilor 2010, spriji­nindu-se pe tehnici radical diferite de cele mobilizate în perioada precedentă, zisă IA „simbolică“.

Următoarea generație în materie, de­numită „conexionistă“, se baza pe așezarea și tratamentul datelor organizate în straturi de rețele ce permiteau calculatoa­relor să câștige în autonomie și să ofere o recunoaștere la ceea ce avea să se denumească deep learning. Această a doua perioadă, care a cunoscut în scurt timp un succes crescând grație rezultatelor impresionante înregistrate, nu a fost lipsită de interes pentru unii actori ai domeniului educației, în special pentru cei ce concepeau aplicațiile aferente, care au vă­zut în ea ocazia de a prelua și de a continua firul întrerupt al IA simbolice spre a ameliora și mai mult, grație datelor și aporturilor științelor cognitive, eficiența parcursului de învățare.

2. Printre realizările cele mai remarcabile ale noii IA, generarea de imagini, de sunete și mai ales de texte, plecând de la baze de date gigante și cu ajutorul algorit­milor sofisticați, au marcat puternic spiritele, începând cu cele ale educatorilor și sfârșind cu cele ale destinatarilor. Dizertația produsă de generatorul de texte ChatGPT în urmă cu câteva luni pe tema (su­biectul) de la proba de filosofie la examenul de Bacalaureat în Franța a fost notată cu 11/20 de corectorii umani, mai puțin desigur decât cea a unui celebru profesor de filosofie (20/20), dar a fost produsă mult mai rapid și însoțită cu promisiunea unor progrese viitoare. Față de atari performanțe, încă nu pe deplin cu­­noscute și controlate, fără îndoială că educatorii sunt tentați să perceapă aceste noi produse ale inteligenței artificiale ca periculoase întrucât ar face caduce un mare număr din probele școlare, dar mai ales pentru că ar încuraja elevii/studenții să se bazeze pe respectivele aparate nu nu­­mai pentru a asigura îndeplinirea în locul lor a sarcinilor la care sunt supuși în mod legitim, deci a trișa, ci, încă și mai rău, ar putea con­duce la a-i dispensa de a învăța.

Ca primă reacție în fața unei atari perspective ar fi aceea de a interzice elevilor și studenților folosirea lor. De altfel, e ceea ce au decis inițial și imediat mai multe entități de învățământ superior din țările occidentale. În același timp însă, alți reprezentanți ai lumii educației, mai bine dispuși la un compromis, s-au întrebat dacă nu ar fi mai judicios, mai degrabă de a interzice, să ignore noutatea, a căuta și exploata posibilitățile sale pedagogice. Și, desigur, s-au repliat. La acest argument pragmatic, respectivii pedagogi, înfocați partizani ai inovației, au adăugat un altul, și mai decisiv: educația digitală a copiilor și a tinerilor, componentă majoră a culturii secolului al XXI-lea, rămâne un obiectiv pe care școala nu poate să-l ignore și că, dimpotrivă, ea trebuie să-l însoțească de-a lungul tuturor evoluțiilor sale.

Aceste două poziții, una de respingere bazată pe teamă, cealaltă de interes de principiu, condiționat prin preocupări educative specifice, chiar opuse, par deopotrivă fondate, dar din rațiuni bineînțeles diferite. Totul încearcă a ne indica faptul că fiecare poate să rămână pe po­ziția sa. Totuși, alte argumente pot fi mobilizate spre a releva mai degrabă faptul ca IA generativă să fie, cel puțin provizoriu, menținută în afara câmpului educației. Și, în orice caz, în așteptare, poate a inevitabilului, se impune pregătirea necesară și instituirea unui control adecvat.

3. Așadar, educația ar trebui să se teamă de inteligențele artificiale generative? În încheierea lucrării sale mai sus arătate, autorul citat (Daniel Andler) recomandă a nu se face apel la IA decât numai atunci când, dacă și numai dacă, contribuția sa e net pozitivă. Acest principiu de subsidiaritate nu este totuși ușor de aplicat atâta timp cât partajul între contribuțiile potențial pozitive și cele potențial negative ale IA pare dificil de stabilit. Partizanii folosirii rezonabile beneficiază de un atu important din acest punct de vedere în sensul că pot, fără să aștepte, să-și prezinte propunerile lor și să arate beneficiile pedagogice imediate. Cu toate acestea, li se pot opune două tipuri de argumente. Primul privește chiar obiectul tehnic și unele din caracteristicile sale, secundul – efectele posibile ale folosirii sale nu numai asupra educației, ci și a vieții societăților în general. Să menționăm în acest context că ChatGPT a fost calificată de universitarul american Emily M. Benda ca „papagal stocastic“, titlu pe care poate că nu-l merită întrutotul întrucât pasărea respectivă aparține regimului viului și că noțiunea de limbaj este pentru IA din acest fapt, absolut inaccesibil. ChatGPT, dimpotrivă, este un lucru care manipulează semne și șansele sale de a accede la sens, fundament al limbajului între vii, sunt nule.

4. ChatGPT se exprimă la persoana întâi: ea răspunde cererilor care îi sunt supuse analizei, se scuză atunci când se înșală, mulțumește în cazul în care i se atrage atenția asupra greșelii făcute și se corectează atunci când trebuie. Totul e făcut ca și când interlocutorul său ar urma să perceapă schimbul de replici precum un dialog între două persoane. Absența de sens a propozițiilor aparaturii e astfel mascată. Ea conduce uneori în mod insidios utilizatorii săi să dea un sens cuvintelor pe care acestea nu îl au în realitate. Creatorii lui ChatGPT au optat pentru o soluție ce relevă impostura. Se înțelege bine de ce, întrucât până când ea se produce are toate șansele să rețină atenția și să dea naștere la folosințe nu­meroase și diverse. În aceste condiții, cum am putea crede că tinerii și copiii în formare ar putea să beneficieze din confruntarea cu un lucru a cărui inteligență e pusă în serviciul înșelătoriei? Bineînțeles, s-ar putea explica elevilor și studenților că ei trebuie să rămână lucizi, că ChatGPT e un lucru și că trebuie să se comporte și în privința sa precum în cea a oricărui bun. Dar pentru ce ar trebui să-i punem într-o atare situație? Nu există suficiente persoane și surse de cunoștințe cărora s-ar putea să le acordăm mai multă încredere în această privință?

O a doua serie de argumente pentru a justifica respingerea, cel puțin deocamdată, a intervenției inteligențelor artificiale generative în câmpul educației a fost avansată deja de numeroși observatori ai problemei care se tem că, în societățile în care s-a optat să se facă din muncă o piață, aceste IA să devină o amenințare pentru însăși activitatea umană. Acest risc ar trebui să fie luat în considerare și de către educatori, născându-se astfel întrebarea pentru ce ar trebui ca ei să-și manifeste susținerea față de o tehnologie a cărei utilitate socială este pe cale să fie pusă sub semnul întrebării!

5. În același context, deja prefigurat anterior, este din ce în ce mai evident că dezbaterile generate de apariția aplica­țiilor ce utilizează inteligența artificială ChatGPT depășesc cercurile celor pasionați de digital și invadează mai toate orizonturile vieții sociale și personale, in­clusiv pe cele ținând de lumea educației. Fără a subestima performanțele tehnice și munca imensă ce au permis punerea la punct a software-ului conversațional, să ne amintim totuși că el funcționează pe un principiu relativ simplu: fabrică texte cuvânt după cuvânt în așa fel încât fiecare dintre ele să fie urmate de influențe dominante din punct de vedere statistic în gigantica bază de date identificate de creatorii săi (care reprezenta, la un mo­ment dat, de peste 750.000 ori volumul Bibliei!). Nu este deci de mirare că el nu furnizează nicio referință, una care să tri­mită, în consecință, la un discurs singular – a cărui forță ori originalitate dobândește o expresie remarcabilă; ChatGPT nu face altceva decât să contabilizeze și să utilizeze, într-un timp record, propunerile cele mai răspândite în masa datelor disponibile, citind formularea lor potrivit regulilor dominante ale unei bune utilizări. Așadar, cel puțin deocamdată, vom putea să ne amuzăm punând în dificultate sau chiar conducând la eșec ChatGPT-ul, ridicându-i probleme a că­­ror formulare (ambiguă sau contradictorie) produce răspunsuri absurde. Dar, fără îndoială, aceasta nu ar conduce la a descuraja pe nimeni de a utiliza un instrument a cărui eficiență în materie de colectare a informațiilor și de redactare e stupefiantă. Prin urmare, vom înțelege de ce unii profesori se tem că atari tehnologii ar putea să exonereze elevii ori studenții lor de lucrările de cercetare ori de redactare, chiar să compromită posibilitatea oricărei evaluări. Dimpotrivă, alții consideră că orice tentativă de interdicție în materie ar rămâne în van și preferă să preia un atare instrument pentru a lucra cu învățăceii săi; le va pune întrebări sub diferite forme pentru a compara răspunsurile, le vor raporta la cele din manuale și din enciclopedii, îi vor ajuta să repereze alunecările se­mantice ce induc neînțelegeri și compromit obiectivitatea textului; în fine, vor utiliza propunerile ChatGPT ca de bruioane de completat și de personalizat ori chiar le vor traduce sub alte forme de text, grafice ori vizuale. Atari profesori nu se vor în­­grijora deloc de faptul că elevii ori studenții lor le prezintă texte obținute de la ChatGPT: ei îi însoțesc suficient în procesul de scriere de texte spre a le ve­­dea cum se construiesc în mod progresiv sub ochii lor. Și, dacă e necesar, sunt capabili, ­printr-una sau două întrebări orale, să verifice că sunt cu adevărat au­torii lor. De altfel, e posibil să vadă în apariția acestui program miracol și o bună ocazie de a regândi probele de evaluare și de a acorda o mai largă parte in­ventivității și ex­­presiei personale. Ca atare, pericolul major al ChatGPT nu ar fi deci în frauda pe care ar autoriza-o, ci, mai degrabă, în raportul cu cunoștințele pe care le promovează un robot conversațional conceput pentru a da sentimentul de a vorbi unui om și care inversează complet sensul relației pedagogice. În consecință, ChatGPT, mai mult chiar de­­cât tradiționalele motoare de căutare, ar răspunde dorinței de cunoaștere și o redă pe cea de a învăța. Totuși, dă răspun­suri imediate, obiective și suprimă astfel dinamica unui chestionar, produce certitudini care în­chistează gândirea. Adică ceva cu totul contrar a ceea ce îi incumbă profesorului: să suscite interogații spre a elibera de prejudecăți și a îndemna la reflecție și a favoriza meditația.

Or, mai mult ca niciodată, în perioada derapajelor publicitare, rețelelor sociale, sloganurilor populiste și teoriilor complotului e important a deschide spiritul elevilor și studenților. Cum spunea pedagogul Fernand Oury, „e timpul să dăm copiilor de azi ceea ce le lipsește cel mai mult: ceea ce le lipsește!“. Din păcate, mulți dintre ei sunt deja captivi opi­niilor și credințelor care le-au devenit practic markeri identitari.

Inutil deci pentru profesori de a încerca să concureze cu ChatGPT în completarea la elevi a cunoștințelor pe care ei cred că deja le-au dobândit. În cel mai bun caz, certitudinile astfel oferite vor veni să se juxtapună celor care le aveau deja, iar în cel mai rău caz ele vor fi percepute ca amenințări periculoase. Desigur, esențialmente e mai bine de a-i face să descopere virtuțile lipsei care stă la originea dorinței de a învăța. Iar această descoperire nu e posibilă decât prin întâlnirea cu o cunoaștere vie, aflată în chiar enunțul său prin exigența de pre­cizie, de justețe și de adevăr. Un subiect nu se angajează în învățare decât dacă întâlnește cunoștințe care nu i se impun ca o dogmă, ci i se oferă precum o cale, una care lasă să se întrevadă mai ales promisiunile satisfacțiilor viitoare, decât certitudinile prezentului. Această cu­­noaștere e cea a profesorului, bineînțeles atunci când reușește să identifice un obiect de descoperire colectivă în clasă. Dar tot așa e și cea pe care elevii și studenții o pot întâlni atunci când sunt puși în situația de a se implica și de a participa activ la găsirea răspunsurilor aferente în­­trebărilor avansate de dascălul lor. Devine astfel absolut necesar ca, pe cât posibil, tinerii să fie îndrumați spre a nu abandona atitudinile inventive, creatoare în fața tentațiilor oferite de IA în procesul de formare și de instruire pentru că s-ar putea ca efectele pe termen lung să fie grave și imposibil de îndreptat.

Și nu putem încheia aceste rânduri fără a reitera și sublinia concluzia în acest sens a specialiștilor: pericolul lui ChatGPT nu costă atât în frauda pe care o per­­mite, ci mai ales în raportarea la cunoștințe pe care o promovează (Philippe Meirieu, Le danger de ChatGPT n’est pas dans la fraude qu’il permet mais dans
le rapport aux connaissances qu’il ­promeut
, Le Monde, 19 octombrie 2023).

6. Una din provocările cele mai urgente cu care se confruntă societățile în prezent și conexă cu efectele perverse ale revoluției digitale se referă la modul de a acționa împotriva declinului preocupărilor de lectură. Pentru a participa activ la o societate democratică în calitate de cetățeni informați avem nevoie de competențe de lectură avansate și de practici de lectură intensive, care merg dincolo de simpla descifrare a textelor. Lectura nu e numai o bază importantă a dezvoltării personale, de schimb de informații și de învățare de-a lungul întregii vieți, ci, de asemenea, și o dimensiune centrală a participării sociale. Era internetului pune la dispoziție enorme cantități de conținuturi audiovizuale și textuale printr-o simplă apăsare de bu­­ton, dar asta nu e suficient.

Într-adevăr, revoluția digitală a antrenat numeroase dezvoltări pozitive; astfel, conținuturile textuale sunt mult mai ușor accesibile în regiuni până acum private în mare parte de asemenea servicii și nevoile de lectură ce sufereau de diverse limitări pot fi mai bine acoperite. Trebuie totuși să fim atenți ca anumite competențe și forme de lectură să nu fie considerate ca relicve ale unei ere analogice pe cale de dispariție. Aceasta privește în special amploarea deosebită a cărții și lectura intensivă pe care aceasta o favorizează.

Spațiul digital oferă, fără îndoială, mai multă materie de citit ca niciodată mai înainte, dar incită adesea la procese de lectură superficiale și fragmentare și, în final, dar destul de frecvent, deopotrivă, la a nu (mai) citi. Aceasta pune din ce în ce mai mult în pericol lectura intensivă și formarea de competențe de lectură avansate ce îi sunt asociate. Pornind de la atari realități, un grup reprezentativ de profesori universitari cu preocupări în domeniu din 5 țări europene adresează recent, într-o tribună publicată în cotidianul francez Le Monde, un apel la reevaluarea importanței lecturii intensive și a competențelor de lectură avansată ce îi sunt asociate în era digitală (Nous appelons les acteurs de l’enseignement et de la recherche à mettre d’avantage l’accent sur la lecture intensive, Le Monde, 10 octombrie 2023). Într-un mediu de informare din ce în ce mai complex, se arată în respectivul document, cetățenii informați trebuie să fie în măsură a face distincția între sursele de informare valide și non-valide și de a-și adapta cu suplețe comportamentul de lectură la diferite contexte.

Cea intensivă antrenează atenția și anduranța cognitivă, lărgește vocabularul, favorizează dezvoltarea capacităților conceptuale și pune în discuție prejudecățile. Aplecarea asupra unor texte lungi, precum cele ale unei cărți în particular, eficientizează percepția noastră și ne dezvoltă competențele de lectură. Grație unei lecturi intensive suntem și antrenați să încercăm diferite interpretări, să reperăm contradicțiile, prejudecățile și erorile de logică, precum și a descoperi legăturile complexe și fragile între texte și contextele culturale, care sunt indispensabile schimbului de judecăți și de sentimente umane. Se recomandă în acest sens favorizarea gândirii analitice și luarea deci­ziei. Lectura intensivă și critică e instrumentul cel mai important al gândirii analitice și strategice. Fără ele nu suntem suficient în măsură să contracarăm sim­plificările populiste, teoriile complotului și dezinformarea și suntem, așadar, vulnerabili la manipulări. Or, instituțiile educative se concentrează în prezent din ce în ce mai mult asupra media multimodale (exprimate pe diferite suporturi digitale, hârtie, texte, video) în detrimentul unei confruntări intensive cu informații textuale. În afară de asta, lectura este adesea considerată ca o problemă ce trebuie să fie simplificată. Complexitatea se re­­flectă totuși în complexitatea umană. Lectura complexă și intensivă se manifestă cu acest titlu într-o activitate ce favorizează gândirea analitică și luarea deciziei. În fine, învățământul și măsura competențelor în lectură se concentrează actualmente prea mult asupra competențelor funcționale și informaționale de bază, neglijându-se în acest fel importanța, de-a lungul întregii vieți, a practicilor de lectură intensive și a competențelor avansate de lectură ce sunt necesare pentru gândirea critică, care e condiția de bază a unei democrații care funcționează. Autorii apelului cer, în consecință, actorilor implicați în învățământul și cercetarea privind competențele și practicile de lectură să recunoască importanța lecturii intensive și a competențelor avansate în lectură și să acționeze în consecință. În orice caz, e de domeniul evidenței că atari evoluții influențează viitorul societăților noastre. Și tocmai de aceea, educația și promovarea lecturii ar trebui să meargă dincolo de transmiterea de competențe funcționale și informaționale de bază și să se concentreze pe procesul de dezvoltare de-a lungul întregii vieți făcut posibil prin lectura intensivă și de competențele avansate în lectură. De aceea, măsurile vizând pe aceasta din urmă ar trebui să se situeze dincolo de teste standardizate și să includă date calitative și descriptive în evaluarea lor, în scopul de a putea să stabilească un diagnostic deta­liat al stării competențelor avansate în lectură în societățile noastre. În același scop s-ar impune ca și cercetarea în materie să-și lărgească câmpul său de acțiune, integrând cunoștințe rezultate din discipline precum cercetarea privind comportamentul informațional, cea referitoare la atenție, neuroștiințele, concepția media și învățământul comportamentelor informaționale și să dezvolte un program de cercetare sistematică, unul care să alăture diferitele perspective și să acționeze împotriva fragmentării rezultatelor investigației.

Apelul universitarilor europeni se încheie cu o concluzie pe atât de evidentă încât pare a nu mai avea nevoie de comentarii: viitorul lecturii influențează viitorul societății noastre! O societate de­­mocratică bazată pe un consens clar al diverșilor cetățeni vizați și interesați nu poate fi și rămâne prosperă decât grație unor cititori rezilienți, având competențe de lectură avansate, iar decidenții politici din toate domeniile ar trebui să fie conștienți de acest fapt. Căci, așa cum scria în 2012 romancierul canadian Margaret Atwood, „dacă nu vor mai fi tineri cititori și scriitori, nu vor mai fi în curând nici cititori și scriitori în vârstă. Cultura scrisului va fi moartă și democrația la fel“.

* * *

Ca orice schimbare radicală, și în privința IA și aplicațiilor ei implicațiile pe termen scurt sunt suprareprezentate, iar cele mai îndepărtate subevaluate. Desigur, inteligența artificială e un instrument ce poate servi spre a construi sau a distruge; riscul constă în utilizarea sa umană și nu în instrumentul ca atare. Lucru valabil și pentru lumea educației, unde ea poate permite un demers personalizat, în care sistemele de învățare se adaptează la nevoile individuale ale elevilor și studenților cu performanțe pe măsură. Cheia unei bune folosiri a IA, precum de altfel în cazul oricărei tehnologii rezidă în a ne asigura că e utilizată în serviciul vieții și al bunăstării umane. Pentru aceasta se im­­pune, în primul rând, a promova transparența, a-i stabili contraponderi adecvate și a institui un control democratic eficient, prin reglementarea funcțională. Așa că poate viitorul său privește nu atât ca­pacitatea sa de previziune și de automatizare, cât potențialul pe care îl prezintă spre a întări valorile umaniste, a ameliora capacitățile noastre de a trăi în comun, a face societatea mai incluzivă și mai durabilă. Cadrul internațional de dezbatere și evaluare a riscurilor IA, stabilit la „doom summit“-ul de la Bletchley Park (nordul Londrei) de la începutul lunii noiembrie 2023, își așteaptă concluziile spre a pre­găti deciziile cuvenite.

Mircea Duțu – profesor universitar

Articol publicat în nr. 47-48 al revistei Tribuna Învățământului