CQ | 12 bune practici FSB pentru adoptarea responsabilă a AI în instituțiile financiare: Ghid practic de gestionare a riscurilor

Adoptarea inteligenței artificiale în sectorul financiar promite eficiență și inovație, dar vine la pachet cu riscuri complexe, de la cele etice la cele operaționale și de conformitate. Financial Stability Board a sintetizat 12 bune practici care pot transforma aceste provocări în avantaje competitive, dacă sunt aplicate corect.

În contextul presiunilor de reglementare și al așteptărilor crescute privind responsabilitatea tehnologică, instituțiile financiare trebuie să depășească abordările ad-hoc și să adopte un cadru robust de guvernanță și management al riscului AI. Acest articol detaliază cele 12 bune practici FSB și oferă recomandări concrete pentru integrarea lor eficientă în procesele organizaționale.

Standardele FSB și nevoia de bune practici în AI financiar

Financial Stability Board (FSB) a publicat în 2024 raportul final privind Sound Practices for Responsible Adoption of Artificial Intelligence (AI), oferind un cadru de referință pentru instituțiile financiare care doresc să adopte AI într-un mod responsabil. Spre deosebire de alte inițiative fragmentare, recomandările FSB sunt rezultatul unui proces consultativ internațional și acoperă atât aspectele tehnice, cât și cele de guvernanță și conformitate.

Adoptarea AI fără un cadru solid de bune practici expune instituțiile la riscuri sistemice, inclusiv:

• Risc etic: decizii automate părtinitoare, lipsă de explicabilitate, discriminare algoritmică;
• Risc operațional: erori de model, lipsa controlului asupra datelor, dependență excesivă de sisteme automate;
• Risc de securitate: vulnerabilități la atacuri adversariale, exfiltrare de date sensibile;
• Risc de conformitate: nerespectarea cerințelor de audit, trasabilitate și reglementare.

Cele 12 bune practici FSB: explicații și aplicabilitate

FSB grupează bunele practici în patru arii-cheie: guvernanță, gestionarea riscurilor, transparență/explicabilitate și monitorizare continuă. Mai jos, prezentăm fiecare practică, cu accent pe relevanța pentru managementul riscului:

1. Guvernanță clară pentru AI: Definirea responsabilităților și a structurii de decizie pentru proiectele AI, inclusiv la nivel de board și management executiv.
2. Strategie AI aliniată cu apetitul la risc: Adoptarea AI trebuie să reflecte profilul de risc al instituției și să fie integrată în strategia globală de risk management.
3. Procese robuste de due diligence: Evaluarea riguroasă a furnizorilor, datelor și modelelor AI înainte de implementare, pentru a preveni riscurile de tip “black box”.
4. Controlul calității datelor: Implementarea de procese și instrumente pentru validarea, curățarea și monitorizarea continuă a datelor folosite pentru antrenarea modelelor AI.
5. Documentație și trasabilitate: Menținerea unei documentații detaliate privind dezvoltarea, testarea și modificările aduse modelelor, pentru a asigura auditabilitatea și trasabilitatea deciziilor automate.
6. Explicabilitate și interpretabilitate: Dezvoltarea și utilizarea de metode care permit interpretarea deciziilor AI, mai ales în zonele cu impact semnificativ asupra clienților sau asupra stabilității financiare.
7. Testare și validare riguroasă a modelelor: Testarea continuă a performanței și robustetei modelelor, inclusiv în fața scenariilor adverse sau a datelor neobișnuite.
8. Monitorizare post-implementare: Supravegherea permanentă a comportamentului modelelor AI în producție, pentru a detecta devieri sau degradări de performanță.
9. Gestionarea riscurilor de terță parte: Evaluarea și monitorizarea riscurilor asociate furnizorilor de tehnologie AI și a dependențelor critice.
10. Planuri de răspuns la incidente AI: Elaborarea de proceduri pentru identificarea, raportarea și remedierea incidentelor legate de AI, inclusiv cele de natură etică sau de securitate.
11. Conformitate cu reglementările: Asigurarea alinierii cu cerințele legale și de reglementare privind AI, inclusiv GDPR, DORA, EBA Guidelines etc.
12. Dezvoltarea competențelor interne: Investiții în formarea echipelor privind riscurile și bunele practici AI, pentru a reduce dependența de expertiză externă și a crește reziliența organizațională.

Exemplu aplicat: integrarea AI în procesul de credit scoring

Implementarea unui model AI pentru credit scoring implică, de exemplu, documentație detaliată (5), teste de bias și explicabilitate (6), validare continuă pe date noi (7, 8), precum și proceduri clare de răspuns la eventuale erori sau reclamații (10). Fără aceste elemente, riscul de decizii părtinitoare sau de non-conformitate cu reglementările crește exponențial.

Integrarea bunelor practici în procesele de risk management și guvernanță

Adoptarea celor 12 bune practici nu trebuie privită ca un exercițiu de conformitate punctuală, ci ca o transformare a modului în care instituția gestionează riscurile tehnologice. Recomandările concrete includ:

• Actualizarea politicilor de risk management pentru a include riscurile specifice AI și ML;
• Crearea de comitete multidisciplinare pentru guvernanța AI, cu participarea IT, risk, legal și business;
• Automatizarea proceselor de monitorizare și alertare pentru modelele AI critice;
• Dezvoltarea de scenarii de testare adversarială și planuri de continuitate operațională pentru incidente AI;
• Audituri interne periodice axate pe trasabilitate, explicabilitate și respectarea principiilor etice;
• Programe de training continuu pentru echipele implicate în dezvoltarea, implementarea și supravegherea AI.

Concluzie: Pași următori și importanța guvernanței AI

Instituțiile financiare care tratează AI ca pe un simplu instrument tehnologic ratează atât oportunitățile, cât și riscurile sistemice pe care această tehnologie le aduce. Integrarea celor 12 bune practici FSB în procesele de guvernanță și risk management este esențială pentru a asigura nu doar conformitatea, ci și reziliența și scalabilitatea adopției AI.

Pașii următori vizează evaluarea maturității actuale a guvernanței AI, prioritizarea implementării bunelor practici relevante și crearea unui cadru de monitorizare continuă, adaptat la dinamica tehnologică și la cerințele reglementatorilor. Doar astfel, AI poate deveni un diferențiator competitiv sustenabil în sectorul financiar.

(Acest material a fost asistat de un instrument AI și a fost revizuit de echipa noastră înainte de publicare).