În general, când vorbim despre viitor sau previziuni, vrem să înțelegem dacă avem de-a face cu o profeție ce provine din gândirea unui magician sau cu un rezultat generat de cercetarea științifică.

Odată stabilită această delimitare, în cazul abordarii științifice dorim să înțelegem cum a fost obținut rezultatul și în aceeași măsură ne așteptăm ca acel rezultat să fie obținut într-o manieră etică deoarece este cunoscut că algoritmii de previziune au potențialul de a discrimina pe baza atributelor utilizate.

În acest context, există unele atribute care necesită o atenție sporită din partea dezvoltatorilor deoarece prin natura lor pot introduce un tratament incorect, pot fi părtinitoare și implicit pot conduce la o încălcare a principiilor etice. Exemple ale unor astfel de atribute sunt vârsta, religia, rasa, sexul, dizabilitățile, originea națională.

Dintre clasificarile privind datele părtinitoare am optat pentru împărțirea lor în 2 grupe și anume:

• părtiniri generate de metodologie și/sau de persoanele care sunt implicate în cercetare
• prejudecăți legate de existența unor nedreptăți în realitatea istorică și prin urmare încapsulate în datele culese în scopul cercetării

În ceea ce privește părtinirile generate de metodologie și/sau de persoanele care sunt implicate în cercetare mentionam câteva tendințe neconforme din punct de vedere etic precum :

• neraportarea tuturor informațiilor disponibile,
• ignorarea informatiilor contradictorii atunci cand sunt corecte,
• colectarea datelor părtinitoare precum si
• o potentiala inclinatie a dezvoltatorului spre suprageneralizare, stereotipuri și/sau anumite prejudecăți în procesul de modelare a datelor.

În ceea ce privește prejudecățile legate de existența nedreptăților istorice, acestea sunt legate de o realitate istorică bazată pe o inegalitate de șanse sau paritate datorită faptului că iluminismul uman se află într-o continuă evoluție. Astfel, datele pe care modelul va învăța pot avea o părtinire dată de reflectarea principiilor etice trecute mai degrabă decât a celor prezente și cu atât mai puțin a celor viitoare.

Pentru a atenua aceste probleme ar trebui să ne straduim sa asigurăm imparțialitatea în construirea procesului de modelare. Prin aceasta ne referim cel puțin la evitarea comportamentului care poate induce un model neetic, la utilizarea datelor imparțiale, la formalizarea criteriilor nediscriminatorii sau egalizarea șanselor, a parității demografice și la calibrarea modelelor pentru egalitatea de șanse.

Fără îndoială, pe lângă cele de mai sus trebuie să înțelegem responsabilitatea pe care o purtăm pentru realizarea algoritmilor de previziune și să adoptăm un comportament bazat pe standarde etice înalte astfel încât rezultatele cercetării sa contribuie la aplatizarea inegalităţilor existente.