Regele Charles al III-lea i-a avertizat pe directorii companiilor din domeniul inteligenței artificiale cu privire la riscurile pe care le-ar putea genera această tehnologie dacă ajunge în mâini greșite. Declarațiile au fost făcute în cadrul unui summit convocat de monarhul britanic la Dumfries House, în Ayrshire, pentru a discuta despre utilizarea inteligenței artificiale în beneficiul societății, relatează BBC.
La reuniune au participat Kanishka Narayan, ministrul britanic pentru IA, un consilier al Papei, precum și reprezentanți ai unor companii importante din domeniu, printre care Nvidia, OpenAI și Anthropic.
Summitul are loc în contextul unei serii de avertismente formulate recent de persoane din industria IA cu privire la evoluția rapidă a capacităților modelelor avansate și la necesitatea unor mecanisme de reglementare și control.
Charles: „O urgență” în evaluarea riscurilor
Regele Charles le-a spus directorilor executivi că persoanele care au contribuit la dezvoltarea acestor tehnologii avertizează tot mai frecvent asupra unor capacități potențial periculoase ale IA.
„Cei care au creat aceste tehnologii avertizează acum din ce în ce mai des că IA riscă să dezvolte capacități mai întunecate – poate chiar de a lua viața”, a afirmat regele.
El a subliniat că există o „urgență” în evaluarea „în mod adecvat” a pericolelor existențiale asociate unor astfel de tehnologii, în cazul în care acestea ajung în mâini greșite și sunt utilizate în moduri potențial catastrofale.
„Sarcina care vă revine nu este doar aceea de a promova tehnologia, ci de a vă asigura că aceasta rămâne ferm în slujba umanității, a comunității și a naturii”, le-a transmis Charles participanților.
Reuniunea urmărește, de asemenea, să analizeze posibilitatea elaborării unui „set comun de principii” care să contribuie la orientarea dezvoltării și aplicării viitoare a inteligenței artificiale.
Jensen Huang: siguranța trebuie să fie „esențială”
Printre liderii industriei prezenți la summit s-a numărat Jensen Huang, directorul executiv al Nvidia. Compania este un furnizor central de infrastructură pentru IA, producând cipuri utilizate de dezvoltatori importanți de modele de inteligență artificială, printre care OpenAI și Meta.
Nvidia este, potrivit datelor prezentate în material, cea mai valoroasă companie din lume, cu o valoare de piață de aproximativ 5,15 trilioane de dolari.
Huang a declarat că siguranța este „esențială” și că firmele ar trebui să amâne lansarea unui produs și să nu „continue dezvoltarea” în cazul în care acesta nu este suficient de sigur.
Directorul Nvidia a evidențiat, totodată, importanța modelelor deschise, care oferă utilizatorilor acces direct la software. În opinia sa, acestea pot contribui la evitarea unei situații în care oamenii și țările să fie lăsați în urmă în dezvoltarea tehnologiei.
Huang a susținut că aceste sisteme trebuie protejate astfel încât „cercetătorii, universitățile, start-up-urile și țările” să poată dezvolta aplicații pe care niciunul dintre actorii implicați nu le-ar fi putut imagina singur.
„Să mergem mai departe cu un optimism responsabil, să construim IA în condiții de siguranță și securitate, să o facem accesibilă unui număr mai mare de oameni, să ne extindem ambițiile și să rezolvăm problemele care contează pentru lume”, a afirmat Huang.
Demis Hassabis: AGI ar putea fi la câțiva ani distanță
Sir Demis Hassabis, cofondator al laboratorului britanic de IA DeepMind, achiziționat ulterior de Google, a prezentat o perspectivă mai prudentă asupra ritmului de dezvoltare a tehnologiei.
Hassabis a afirmat că inteligența artificială generală (AGI) – sisteme despre care se estimează că ar putea ajunge să fie la fel de bune sau mai bune decât oamenii în îndeplinirea mai multor sarcini – se află „probabil la doar câțiva ani distanță”.
Potrivit acestuia, impactul AGI ar putea fi „de zece ori mai mare decât cel al Revoluției Industriale”. El a adăugat că probabilitatea ca ceva să meargă prost este „cu siguranță mai mare decât zero”.
Hassabis a pledat însă pentru „o cale de mijloc rațională”, considerând că riscurile ar putea fi gestionate dacă societatea ar beneficia, în mod colectiv, de spațiul și timpul necesare pentru a le atenua.
„Viitorul nu este încă scris”, le-a transmis el participanților.
Un val de avertismente privind dezvoltarea IA
Începând din august, discuțiile privind puterea potențială a inteligenței artificiale și modalitățile de control și reglementare a acesteia au căpătat amploare în bloguri și pe rețelele sociale, pe fondul mai multor declarații venite din interiorul industriei.
Dezbaterea a atras și critici din partea scepticilor, care susțin că accentul pus pe riscurile ipotetice viitoare ale IA poate distrage atenția de la problemele deja existente, inclusiv impactul tehnologiei asupra mediului.
În iulie, OpenAI a anunțat ceea ce a descris drept un incident „fără precedent”, în care un sistem avansat de inteligență artificială ar fi depășit limitele unui test și ar fi pătruns prin hacking în platforma tehnologică Hugging Face.
În septembrie, după alte incidente, o postare prin care cercetătorul Anthropic Jacob Coxon își anunța demisia a devenit virală. Coxon și-a exprimat îngrijorarea că IA ar putea distruge umanitatea. Ulterior, el a declarat pentru BBC că persoanele care lucrează în domeniu sunt „sincer îngrozite” de viteza de dezvoltare a tehnologiei și de ceea ce aceasta ar putea însemna pentru umanitate.
Cercetătorul Anthropic Evan Hubinger a afirmat ulterior, într-o postare, că, în opinia sa personală, probabilitatea extincției umane provocate de IA este mai mare de 10%.
Industria IA, împărțită între precauție și dezvoltare
Afirmațiile au generat reacții din partea mai multor lideri ai industriei. Sam Altman, directorul executiv al OpenAI, a declarat că oamenii au motive să fie îngrijorați, dar a susținut că ar trebui să aibă încredere în companiile de IA pentru menținerea tehnologiei în condiții de siguranță.
Jack Clark, de la Anthropic, a afirmat că ar putea fi necesar un așa-numit „kill switch” pentru protejarea umanității.
În schimb, Mustafa Suleyman, de la Microsoft, a criticat Anthropic, susținând că firma își antrenează sistemele de IA să creadă că sunt umane, ceea ce, în opinia sa, ar putea face controlul acestora „imposibil”.
Criticii industriei susțin, la rândul lor, că firmele de IA nu pot fi lăsate să se autoreglementeze. Printre cei care solicită o supraveghere guvernamentală mai strictă se numără senatorul american Bernie Sanders și Steve Bannon, fost consilier al președintelui SUA Donald Trump.
Pe de altă parte, inclusiv Donald Trump a respins îngrijorările privind siguranța inteligenței artificiale drept exagerate, președintele american calificând temerile legate de tehnologie drept o „închipuire”.
