CQ | AI literacy: noua competență obligatorie pentru companii în era AI Act

Inteligența artificială nu mai este un subiect rezervat departamentelor tehnice. În tot mai multe organizații, AI este folosită pentru redactarea documentelor, analiza datelor, automatizarea proceselor, suport decizional, recrutare, marketing, servicii financiare, relația cu clienții sau managementul riscului. Tocmai de aceea, întrebarea importantă nu mai este doar dacă o companie folosește AI, ci dacă oamenii care o folosesc înțeleg suficient de bine limitele, riscurile și responsabilitățile asociate.

Ce înseamnă AI literacy

AI literacy nu mai înseamnă doar să știi să formulezi un prompt. Înseamnă să înțelegi ce poate și ce nu poate face un sistem AI, când trebuie verificat, ce riscuri produce, ce date nu trebuie introduse și cine rămâne responsabil pentru decizie. În Uniunea Europeană, AI Act introduce obligația ca furnizorii și utilizatorii de sisteme AI să ia măsuri pentru asigurarea unui nivel suficient de AI literacy pentru persoanele care operează sau folosesc aceste sisteme.

Pentru companii, această schimbare este importantă deoarece mută discuția despre AI din zona de productivitate individuală în zona de guvernanță, risc și conformitate. Un angajat care folosește AI fără să înțeleagă riscurile poate expune organizația la erori, pierderi de date, decizii incorecte, prejudicii reputaționale sau încălcări de reglementare. În consecință, AI literacy trebuie tratată ca parte din infrastructura de control a companiei, nu ca un curs opțional despre instrumente digitale.

AI literacy poate fi înțeleasă ca ansamblul de cunoștințe, competențe și capacități de înțelegere care permit unei persoane să folosească inteligența artificială într-un mod informat, responsabil și proporțional cu riscurile implicate. Nu este vorba doar despre abilitatea de a utiliza o aplicație AI, ci despre capacitatea de a înțelege contextul în care AI este folosită și consecințele posibile ale utilizării sale.

• Primul nivel este cel funcțional: angajații trebuie să știe ce este AI, ce tipuri de sisteme sunt folosite în companie și în ce procese apar.
• Al doilea nivel este cel critic: oamenii trebuie să înțeleagă că AI poate produce rezultate greșite, incomplete, părtinitoare sau greu de explicat.
• Al treilea nivel este cel organizațional: utilizatorii trebuie să știe ce reguli interne se aplică, ce date pot fi folosite, cine validează rezultatele și când este necesară intervenția umană.

O confuzie frecventă este aceea dintre competența digitală generală și AI literacy. O persoană poate fi foarte bună în utilizarea aplicațiilor digitale, dar să nu înțeleagă specificul sistemelor AI. Spre deosebire de un software tradițional, care execută reguli relativ clare, un sistem AI poate produce rezultate probabilistice, poate genera răspunsuri plauzibile, dar false, și poate funcționa diferit în funcție de datele, contextul și instrucțiunile primite.

De ce AI Act transformă competența AI într-o obligație

AI Act schimbă cadrul în care organizațiile europene trebuie să privească inteligența artificială. Reglementarea pornește de la ideea că AI nu este doar o tehnologie neutră, ci un instrument care poate produce efecte asupra drepturilor, siguranței, muncii, accesului la servicii, deciziilor economice și relațiilor dintre organizații și persoane.

În acest context, AI literacy devine o obligație practică deoarece sistemele AI nu pot fi guvernate eficient dacă oamenii care le folosesc nu înțeleg ce fac. O politică internă scrisă nu este suficientă dacă angajații nu știu cum să identifice un risc. Un model de risc nu este suficient dacă managerii nu știu ce întrebări să pună. O procedură de validare nu este suficientă dacă utilizatorii acceptă automat răspunsurile generate de AI.

Pentru companii, mesajul este clar: nu este suficient să implementezi AI, trebuie să construiești și competența organizațională necesară pentru utilizarea ei. Această competență trebuie adaptată la rolul companiei, la tipurile de sisteme AI folosite, la nivelul de risc și la persoanele asupra cărora sistemele pot avea impact.

• De exemplu, o companie care folosește AI doar pentru redactarea unor texte de marketing are un profil de risc diferit față de o instituție financiară care utilizează modele automate pentru scoring, analiză de risc, prevenirea fraudei sau suport decizional.
• În primul caz, riscurile pot ține de acuratețe, reputație, drepturi de autor sau confidențialitate.
• În al doilea caz, riscurile pot include discriminare, decizii incorecte, lipsă de explicabilitate, impact financiar sau încălcări de conformitate.

AI Act nu transformă fiecare angajat într-un specialist tehnic, dar cere organizațiilor să se asigure că persoanele implicate au un nivel de înțelegere suficient pentru contextul în care acționează. Aceasta este diferența esențială: AI literacy nu este universală și identică pentru toată lumea, ci trebuie calibrată în funcție de rol, responsabilitate și risc.

Cine trebuie instruit într-o companie

Una dintre greșelile cele mai frecvente este tratarea AI literacy ca pe un training destinat exclusiv echipelor IT sau data science. În realitate, utilizarea AI este transversală. Ea poate apărea în departamente comerciale, financiare, juridice, operaționale, de resurse umane, marketing, audit, compliance sau management.

• În primul rând, trebuie instruiți utilizatorii direcți ai sistemelor AI. Aceștia sunt angajații care interacționează efectiv cu instrumentele AI, introduc date, formulează cereri, interpretează rezultate sau folosesc outputul în activitatea lor. Pentru ei, instruirea trebuie să fie practică și aplicată: ce date pot introduce, ce date nu pot introduce, cum verifică un rezultat, cum recunosc o eroare, când escaladează o problemă și ce responsabilitate au în proces.
• În al doilea rând, trebuie instruiți managerii. Aceștia nu au nevoie neapărat de detalii tehnice avansate, dar trebuie să înțeleagă suficient de bine AI pentru a lua decizii corecte privind implementarea, bugetarea, controlul și evaluarea impactului. Un manager care nu înțelege limitele AI poate supraestima beneficiile, poate subestima riscurile sau poate accepta automat promisiuni comerciale nerealiste.
• În al treilea rând, trebuie implicate funcțiile de control: compliance, risk management, legal, audit intern, securitate informațională și protecția datelor. Pentru aceste echipe, AI literacy trebuie să includă elemente de guvernanță, trasabilitate, documentare, protecția datelor, responsabilitate, auditabilitate și monitorizare continuă.
• În al patrulea rând, boardul și top managementul trebuie să aibă un nivel strategic de AI literacy. Nu este realist ca boardul să înțeleagă fiecare detaliu tehnic al modelelor AI, dar este esențial să înțeleagă unde sunt utilizate aceste sisteme, ce riscuri introduc, ce controale există și cum se aliniază utilizarea AI cu strategia și apetitul la risc al companiei.

În funcție de activitate, pot exista și persoane externe care trebuie incluse în această logică: contractori, furnizori, consultanți sau parteneri care folosesc sisteme AI în numele organizației. AI literacy nu se oprește la granița formală a contractului de muncă, deoarece riscurile pot apărea oriunde există utilizare operațională a AI în numele companiei.

Diferența dintre training de tool și înțelegere a riscurilor

Multe organizații confundă AI literacy cu trainingul de utilizare a unui instrument. Un curs despre cum se folosește o aplicație de tip chatbot, cum se formulează prompturi sau cum se generează automat un raport poate fi util, dar nu este suficient. Acesta răspunde la întrebarea „cum folosesc instrumentul?”, nu la întrebarea „ce riscuri apar când îl folosesc?”.

Un training de tool este orientat spre eficiență. Îi învață pe angajați să economisească timp, să automatizeze sarcini repetitive, să genereze conținut sau să accelereze analiza. În schimb, AI literacy este orientată spre utilizare responsabilă. Îi învață pe angajați să înțeleagă limitele sistemului, să verifice rezultatele, să respecte regulile de confidențialitate, să evite biasul și să păstreze responsabilitatea umană asupra deciziei.

Un program matur de AI literacy ar trebui să răspundă la întrebări precum: Ce tipuri de AI folosim? În ce procese? Cu ce date? Cine validează outputul? Ce facem dacă rezultatul este greșit? Cum documentăm utilizarea? Cum evităm introducerea de date confidențiale în sisteme neautorizate? Ce decizii nu pot fi delegate integral către AI? Cum recunoaștem un rezultat părtinitor sau neverificabil?

Companiile care se limitează la traininguri de prompt engineering riscă să producă utilizatori mai rapizi, dar nu neapărat mai responsabili. Iar într-un context de reglementare, viteză fără control poate deveni vulnerabilitate.

Cum arată un program minim de AI literacy

Un program minim de AI literacy ar trebui să fie suficient de simplu pentru a fi implementat rapid, dar suficient de riguros pentru a produce efecte reale. Nu este nevoie ca fiecare companie să creeze o academie internă complexă, însă este necesar un cadru coerent, documentat și adaptat la riscurile proprii.

• Primul pas este inventarierea utilizărilor AI. Organizația trebuie să știe unde este folosită inteligența artificială: instrumente aprobate, aplicații integrate în software existent, modele dezvoltate intern, instrumente publice folosite informal de angajați și soluții AI furnizate de parteneri. Fără această imagine de ansamblu, orice program de training rămâne incomplet.
• Al doilea pas este segmentarea audienței. Nu toți angajații au nevoie de același nivel de instruire. Utilizatorii ocazionali au nevoie de reguli clare de bază. Utilizatorii avansați au nevoie de instruire aplicată pe procese. Managerii au nevoie de înțelegere decizională și de guvernanță. Funcțiile de control au nevoie de cunoștințe despre risc, conformitate, audit și documentare.
• Al treilea pas este definirea conținutului minim. Acesta ar trebui să includă noțiuni despre ce este AI, cum funcționează la nivel general, ce tipuri de riscuri produce, ce înseamnă halucinațiile, biasul, lipsa de explicabilitate, protecția datelor, securitatea informației, responsabilitatea umană și utilizarea proporțională cu scopul.
• Al patrulea pas este integrarea politicilor interne. AI literacy nu trebuie să fie ruptă de regulile companiei. Trainingul trebuie să explice clar ce instrumente sunt aprobate, ce date pot fi folosite, ce procese necesită validare, cum se raportează incidentele și cine poate aproba utilizări noi ale AI.
• Al cincilea pas este documentarea. Companiile ar trebui să păstreze evidențe privind instruirile realizate, publicul instruit, materialele folosite, politicile comunicate și acțiunile de follow-up. Nu pentru a crea birocrație inutilă, ci pentru a putea demonstra că AI literacy este tratată ca proces de guvernanță, nu ca inițiativă punctuală.
• Al șaselea pas este actualizarea periodică. AI evoluează rapid, iar riscurile se schimbă odată cu instrumentele. Un program făcut o singură dată și uitat într-un folder intern nu este suficient. AI literacy trebuie revizuită periodic, mai ales atunci când compania introduce sisteme noi, schimbă furnizori, extinde automatizarea sau folosește AI în procese cu impact asupra clienților, angajaților sau deciziilor financiare.

Un program minim eficient nu este cel mai lung sau cel mai sofisticat, ci cel care schimbă comportamente: angajații nu introduc date sensibile în tool-uri neaprobate, managerii cer validări înainte de decizii importante, echipele de risc pot pune întrebări corecte, iar boardul înțelege unde AI poate crea valoare și unde poate crea expunere.

De ce boardul și managementul trebuie implicați

AI literacy nu poate fi delegată complet către IT. Aceasta este poate cea mai importantă concluzie pentru companii. Dacă AI este folosită în procese de business, atunci responsabilitatea nu aparține doar specialiștilor tehnici, ci întregii structuri de guvernanță.

Boardul și managementul trebuie implicați deoarece AI afectează strategia, riscul, cultura organizațională și modelul operațional. O companie poate decide să folosească AI pentru eficiență, dar această decizie are consecințe asupra modului în care sunt luate deciziile, asupra responsabilităților angajaților, asupra relației cu clienții și asupra controalelor interne.

• La nivel de board, AI literacy înseamnă capacitatea de a pune întrebări esențiale: Unde folosim AI? Ce sisteme sunt critice? Ce riscuri introduc? Ce date sunt procesate? Cine validează rezultatele? Ce controale există? Cum măsurăm valoarea creată? Ce facem dacă sistemul produce o eroare? Cine răspunde?
• La nivel de management, AI literacy înseamnă capacitatea de a transforma aceste întrebări în procese. Managerii trebuie să decidă ce utilizări sunt permise, ce training este necesar, ce proceduri trebuie actualizate, ce controale sunt implementate și cum se evită folosirea necontrolată a instrumentelor AI.

În companiile mature, AI literacy ar trebui să devină parte din cultura de risc. Așa cum angajații sunt instruiți în protecția datelor, securitate cibernetică sau conformitate, tot așa trebuie instruiți să înțeleagă utilizarea responsabilă a inteligenței artificiale. Diferența este că AI nu este un risc izolat. Ea traversează procese, departamente și decizii.

Concluzie: AI literacy este guvernanță, nu simplu training

AI literacy marchează trecerea de la entuziasmul față de AI la folosirea responsabilă a AI. Pentru companii, provocarea nu mai este doar să adopte instrumente noi, ci să construiască un cadru în care aceste instrumente pot fi folosite sigur, inteligent și proporțional cu riscurile.

O organizație care tratează AI literacy ca pe un simplu curs de productivitate va obține, cel mult, angajați mai rapizi. O organizație care o tratează ca parte din guvernanță va obține angajați mai atenți, manageri mai lucizi, procese mai controlate și decizii mai bine fundamentate.

CorpQuants poate ajuta organizațiile să transforme AI literacy într-un program aplicat de guvernanță și risc, adaptat contextului lor operațional, reglementar și strategic.

(Acest material a fost asistat de un instrument AI și a fost revizuit de echipa noastră înainte de publicare).