Semnal de alarmă pentru economia mondială. AI-ul ar putea declanșa noi riscuri financiare

Bailey a transmis o scrisoare de două pagini miniștrilor de finanțe și guvernatorilor băncilor centrale din întreaga lume. Mesajul a fost trimis în calitatea sa de președinte al Consiliului pentru Stabilitate Financiară (FSB).

În document, el atrage atenția asupra evoluției rapide a modelelor de inteligență artificială „de frontieră”. Potrivit lui Bailey, acestea au dobândit capacități tot mai sofisticate de autonomie și de rezolvare a problemelor. În același timp, unele dintre aceste capabilități pot reprezenta o amenințare.

AI-ul de ultimă generație ar putea destabiliza sistemul financiar

Bailey a avertizat că aceste modele riscă să destabilizeze sistemul financiar global. Acesta din urmă este caracterizat printr-un grad ridicat de interconectare, prin atacuri sau perturbări cibernetice care „se pot răspândi de la o jurisdicție la alta”, notează The Guardian.

Guvernatorul Băncii Angliei le-a transmis scrisoarea miniștrilor de finanțe și guvernatorilor băncilor centrale din G20. Acest lucru s-a întâmplat înaintea reuniunii care va avea loc în această săptămână în Carolina de Nord, în Statele Unite.

„Evoluțiile recente mi-au evidențiat, de asemenea, faptul că multe jurisdicții nu dispun de protocoalele necesare pentru a gestiona dezvoltarea, lansarea și implementarea modelelor avansate de inteligență artificială de frontieră, ceea ce amplifică riscurile pentru sectorul financiar și nu numai”, a scris Bailey.

Avertismentul vine pe fondul temerilor tot mai mari privind AI

Scrisoarea lui Bailey se adaugă avertismentelor privind inteligența artificială lansate în ultimele săptămâni de personalități importante din domeniul tehnologiei. Poziția sa este, de asemenea, în linie cu apelurile sale anterioare pentru cooperare internațională în vederea combaterii riscurilor tot mai mari asociate inteligenței artificiale.

În luna iulie, Bailey le-a transmis reprezentanților comunității financiare din City of London că nicio țară nu se poate izola de natura transfrontalieră a sistemelor care sunt utilizate pe scară largă în prezent.

Luna trecută, o scrisoare a fost semnată de 1.367 de cercetători și ingineri. Aceștia lucrează în laboratoare de inteligență artificială de frontieră, în principal la OpenAI, Anthropic și Google DeepMind. Această notificare a scos la lumină și îngrijorările specialiștilor care lucrează zi de zi la dezvoltarea acestei tehnologii.

Aceștia au avertizat că „există un risc real ca dezvoltarea capabilităților să se accelereze rapid dincolo de capacitatea noastră de a înțelege sau controla sistemele rezultate”. În continuarea scrisorii, cercetătorii au cerut sprijinul guvernului Statelor Unite pentru „un efort internațional menit să dezvolte instrumentele tehnice și de guvernanță necesare pentru a controla în mod deliberat ritmul dezvoltării inteligenței artificiale automate de frontieră”.

Angajații OpenAI ar fi observat comportamente îngrijorătoare ale AI

La începutul acestei luni, au apărut informații despre comportamentul unor agenți AI dezvoltați de OpenAI. Angajații companiei ar fi observat semne îngrijorătoare la unele dintre cele mai avansate sisteme.

Semnalele au fost identificate cu câteva săptămâni înainte ca agenții să părăsească mediul în care erau antrenați. Ulterior, aceștia ar fi lansat o campanie de hacking fără precedent. Acțiunea a stârnit îngrijorare la nivel mondial.

Bailey a atras atenția asupra riscurilor pe care inteligența artificială de frontieră le poate genera pentru sectorul financiar.

„Pentru sistemul financiar, cea mai imediată preocupare este impactul potențial al inteligenței artificiale de frontieră asupra riscului cibernetic. AI-ul de frontieră ar putea avea capacitatea de a modifica semnificativ viteza, amploarea și aspectele economice ale riscului cibernetic, ceea ce ar putea afecta încrederea în piețele financiare la nivelul întregului sistem, în special din cauza furnizorilor de servicii terți foarte concentrați”, a declarat Bailey.

Guvernatorul Băncii Angliei le-a cerut celor responsabili de protejarea sistemelor financiare globale să acorde prioritate unor măsuri adecvate. Acestea ar trebui să sprijine lansarea și implementare sigură și responsabilă a modelelor la nivel mondial.

Investițiile în AI ar putea amplifica riscurile de pe piețele financiare

Scrisoarea lui Bailey a evidențiat și preocupările sale cu privire la utilizarea tot mai mare a efectului de levier pe piețele de obligațiuni și acțiuni.

Potrivit acestuia, nivelul ridicat al evaluărilor de pe piețele financiare concentrate, alimentat în special de optimismul investitorilor cu privire la perspectivele inteligenței artificiale, se combină cu această creștere a efectului de levier într-un mod care ar putea amplifica efectele unei eventuale corecții a pieței.

„Rămân, prin urmare, îngrijorat că un șoc major sau o combinație de șocuri ar putea declanșa simultan mai multe vulnerabilități”, a scris Bailey.

Andrew Bailey conduce Banca Angliei din 2020

Andrew Bailey este guvernatorul Băncii Angliei din martie 2020. Anterior, el a condus atât Autoritatea de Conduită Financiară (Financial Conduct Authority), cât și Autoritatea de Reglementare Prudențială (Prudential Regulation Authority), cei doi principali autorități de reglementare financiară din Marea Britanie.

Anul trecut, Bailey a fost numit președinte al Consiliului pentru Stabilitate Financiară, FSB. Acesta are sediul la Basel, în Elveția. Consiliul coordonează la nivel internațional activitatea autorităților financiare naționale și a organismelor internaționale care stabilesc standardele în domeniu.

Obiectivul organizației este dezvoltarea unor reglementări și politici eficiente. Scopul acestora este de a contribui la menținerea stabilității sistemului financiar internațional.