CQ | Când algoritmul recomandă, cine mai răspunde pentru decizie?

AI nu elimină oamenii din organizații. Îi obligă să devină mai buni.Inteligența artificială este prezentată frecvent ca o tehnologie care va reduce drastic numărul angajaților și va înlocui activitățile desfășurate în prezent de oameni. În realitate, transformarea este mai complexă. Eficiența imediată oferită de AI constă în stabilitatea operațională, costuri mai mici și rapiditate în obținerea informațiilor dorite pentru adoptarea deciziilor necesare managementului și creșterea abilității utilizatorilor din domeniu.

Profesionalizarea resursei umane în era AI

AI nu reduce resursa umană, ci obligă profesionalizarea și specializarea superioară a acesteia.
Această afirmație surprinde una dintre cele mai importante consecințe ale adoptării inteligenței artificiale. Organizațiile nu mai au nevoie doar de persoane capabile să execute proceduri, ci de profesioniști care înțeleg procesele, datele și limitele instrumentelor utilizate. Angajații trebuie să știe nu numai cum să folosească o soluție AI, ci și cum să evalueze dacă rezultatul oferit este logic, relevant și suficient de bine fundamentat.

Automatizare și supraveghere inteligentă

Într-un proces tradițional, angajatul colectează date, verifică documente, realizează calcule și formulează o concluzie. Prin introducerea AI, o parte importantă a acestor activități poate fi automatizată. Sistemul poate identifica informațiile relevante, poate semnala anomalii și poate propune o anumită acțiune.
Bazată pe algoritmi și parametri judicios stabiliți, AI reduce considerabil traficul de date, oferind recomandări, permite decizii rapide și diminuează în mod real expunerea informațiilor către rețele externe companiei.
Beneficiile depind însă de modul în care sunt construiți algoritmii, de calitatea datelor și de regulile stabilite de organizație. Un sistem bine configurat poate elimina o mare parte din zgomotul informațional și poate prezenta utilizatorului exact elementele necesare. Un sistem configurat superficial poate produce, dimpotrivă, concluzii incomplete sau recomandări aparent convingătoare, dar greșite.
AI nu transformă automat un proces slab într-un proces performant. Dacă datele sunt eronate, responsabilitățile sunt neclare sau regulile de decizie sunt prost definite, tehnologia poate doar accelera propagarea problemelor existente.

Eficiență operațională și decizii mai rapide

• Unul dintre cele mai vizibile avantaje ale AI este rapiditatea. Activități care necesitau ore sau zile pot fi realizate în câteva minute.
• În domenii precum analiza financiară, riscul, conformitatea, auditul sau relația cu clienții, accesul rapid la informații poate îmbunătăți semnificativ calitatea procesului decizional.
• Eficiența imediată oferită de AI constă în stabilitatea operațională, costuri mai mici și rapiditate în obținerea informațiilor dorite pentru adoptarea deciziilor necesare managementului și creșterea abilității utilizatorilor din domeniu.
• Stabilitatea operațională rezultă din capacitatea sistemelor de a aplica aceleași reguli în mod consecvent.
• Automatizarea poate reduce diferențele de abordare dintre utilizatori, poate diminua erorile manuale și poate asigura continuitatea proceselor, inclusiv în perioade cu volume mari de activitate.
• Reducerea costurilor nu trebuie interpretată exclusiv ca reducere de personal. Economiile pot proveni din scurtarea timpului de procesare, prevenirea unor erori, diminuarea pierderilor și alocarea mai eficientă a angajaților.
• Un profesionist eliberat de activitățile repetitive poate analiza mai multe situații, poate investiga excepțiile și poate contribui la îmbunătățirea procesului.

Riscurile delegării către AI

Riscul delegării excesive către AI
Beneficiile tehnologiei pot crea însă o dependență periculoasă. Atunci când răspunsul este obținut imediat, utilizatorul poate fi tentat să nu mai verifice logica acestuia. În timp, utilizarea pasivă a sistemelor automate poate reduce capacitatea oamenilor de a analiza independent o problemă.
Acest fenomen poate apărea atunci când recomandarea algoritmului devine, în practică, o decizie automată. Utilizatorul nu mai analizează informațiile, ci doar confirmă rezultatul afișat. Într-o asemenea situație, controlul uman există formal, dar își pierde valoarea reală.
Mai grav, o eroare repetată de sistem poate afecta un număr mare de cazuri înainte de a fi identificată. Automatizarea nu elimină eroarea; uneori îi mărește viteza și amploarea. De aceea, organizațiile trebuie să definească mecanisme de verificare, praguri de escaladare și responsabilități clare. Pentru deciziile cu impact ridicat, validarea umană nu trebuie să fie o simplă formalitate.

Responsabilitatea deciziilor și rolul uman

Responsabilitatea nu poate fi transferată algoritmului
O recomandare generată de AI nu are responsabilitate juridică, morală sau profesională. Algoritmul nu poate răspunde pentru consecințele unei decizii și nu poate înțelege pe deplin efectul acesteia asupra unei persoane, al unei organizații sau al societății.
De reținut că analiza, controlul, asumarea riscului și empatia nu pot fi automatizate, ele rămânând oamenilor.
AI poate identifica tipare, dar omul trebuie să stabilească dacă acestea sunt relevante pentru situația concretă. Poate estima un risc, dar nu poate decide singur dacă acel risc trebuie acceptat. Poate semnala o abatere, dar nu poate înțelege întotdeauna circumstanțele care au produs-o. Poate genera un răspuns corect din punct de vedere tehnic, fără să evalueze implicațiile umane ale aplicării lui.
Empatia este esențială mai ales în domeniile în care deciziile afectează direct oamenii: sănătate, educație, resurse umane, servicii financiare sau administrație. Eficiența nu poate deveni singurul criteriu. O soluție rapidă și ieftină nu este neapărat și o soluție echitabilă.

Organizația augmentată

Organizația viitorului este una augmentată, nu complet automatizată
Companiile care vor obține cele mai bune rezultate nu vor fi cele care înlocuiesc mecanic oamenii cu algoritmi, ci cele care definesc inteligent colaborarea dintre aceștia. AI trebuie să preia activitățile repetitive, să organizeze informațiile și să sprijine decizia. Oamenii trebuie să păstreze controlul asupra obiectivelor, excepțiilor, riscurilor și consecințelor.
Profesionalizarea devine astfel condiția principală a automatizării responsabile. Cu cât instrumentele sunt mai puternice, cu atât utilizatorii trebuie să fie mai bine pregătiți. Viitorul muncii nu înseamnă alegerea între oameni și AI, ci construirea unui model în care tehnologia amplifică expertiza umană fără să îi înlocuiască discernământul.
Inteligența artificială poate accelera decizia, dar responsabilitatea pentru calitatea și consecințele acesteia trebuie să rămână întotdeauna la oameni.

(Acest material a elaborat de Florin P, asistat de un instrument AI și a fost revizuit de echipa noastră înainte de publicare).