Șase luni de pauză pentru inteligența artificială cerute de minți luminate, în frunte cu Elon Musk

Vreo mie de mari profesori, cercetători, manageri din industrie etc. cer, într-o scrisoare deschisă, „o pauză de șase luni în antrenarea unor sisteme mai puternice decât modelul GPT-4 recent lansat de OpenAI din cauza unor potențiale riscuri pentru societate și umanitate”.

Elon Musk și multe alte nume grele din domeniul inteligenței artificiale, precum Steve Wozniak – cofondator al Apple, Emad Mostaque – directorul general al Stability AI, experți cum sunt Stuart Russell, Yoshua Bengio, cercetători din colectivul laboratorului de inteligență artificială DeepMind AI de la Google, academicieni americani, ingineri executivi de la Microsoft, toți solicită „o pauză în dezvoltarea inteligenței artificiale avansate până când protocoale de siguranță comune pentru astfel de modele vor fi dezvoltate, implementate și verificate de experți independenți”.

Riscuri profunde pentru societate și umanitate

Între alte semnale și argumentații, scrisoarea deschisă atrage atenția că „sistemele de inteligență artificială cu inteligență uman-competitivă pot prezenta riscuri profunde pentru societate și umanitate, după cum arată ample cercetări și după cum recunosc laboratoarele de vârf de inteligență artificială”.

Ca urmare, se subliniază, „sistemele puternice de inteligență artificială ar trebui să fie dezvoltate numai după ce suntem siguri că efectele lor vor fi pozitive și că riscurile lor vor fi gestionabile”.

Inclusiv un receptor cu reticență asupra oportunității și conținutului scrisoii, Sam Altman – directorul executiv al OpenAI, este de accord că „trebuie să încetinim până când vom înțelege mai bine implicațiile”, care estimează că „pot provoca daune serioase”, întrucât „marii jucători devin din ce în ce mai secretoși cu privire la ceea ce întreprind, ceea ce face ca societății să-i fie greu să se apere împotriva oricăror efecte negative care s-ar putea materializa”.

Ar trebui să dezvoltăm minți non-umane care să ne înlocuiască?

În cunoștință de cauză, seemnatarii scrisorii devenite, deja, document îndeamnă la reflecție serioasă printr-o succesiune de interogații: „Ar trebui să lăsăm mașinile să ne inunde canalele de informare cu propagandă și minciuni? Ar trebui să automatizăm toate locurile de muncă, inclusiv cele care aduc satisfacții? Ar trebui să dezvoltăm minți non-umane care, într-o zi, ar putea să ne depășească numeric, să fie mai inteligente, să ne depășească și să ne înlocuiască? Ar trebui să riscăm să pierdem controlul asupra civilizației noastre?” Concluzia fermă este că „a ceste decizii nu ar trebui să fie delegate unor lideri tehnologici nealeși”.