Data Science și AI au o mare varietate de aplicații cu impact social pozitiv. De exemplu, data science este utilă pentru a investiga modul în care rețelele sociale influențează drepturile omului. Pe de altă parte, data science și aplicațiile AI implică, de asemenea, riscuri pentru sănătate, siguranță, mediu și drepturile omului. Prejudecățile și discriminarea, preocupările legate de confidențialitate și efectele nocive asupra mediului sunt doar câteva dintre efectele posibile.

Pentru a ne asigura că aplicațiile de data science aduc beneficii oamenilor și planetei, este necesar să se înțeleagă atât capacitățile, cât și riscurile acestora. În acest curs, vor fi introduse ambele aspecte și, de asemenea, vor fi introduse și unele metode de adresare a riscurilor.
 

Exemple din industrie

Barometro dell‘Odio:  Monitorizare anuală a campaniilor Social Media din 2018.  

Care este tonul discursului online, în special al discuțiilor politice și legate de drepturile omului? În ce măsură intoleranța și discriminarea modelează peisajul rețelelor sociale și care este impactul asupra grupurilor dezavantajate?

Data Science în serviciul evaluării impactului asupra drepturilor omului.

Modalități:

Prejudecată, discriminare, stereotipuri … 

Aplicațiile Data science nu sunt  nici obiective, nici neutre:

De la utilizarea roboților pentru a crea nuduri deepfake nudes peTelegram, generarea de avatare sexualizate ale femeilor (dar nu ale bărbaților), nedezvoltarea de funcționalități  utile unui anumit grup de persoane sau subminarea identității de gen prin clasificare binară, aplicațiile Data Science pot provoca daune.

Algoritmii de clasificare de gen care utilizează recunoașterea facială, clasificau în mod frecvent greșit femeile cu pielea mai închisă decât bărbații (și femeile) cu pielea mai deschisă. Acest lucru se datora faptului că seturile de date pe care modelele investigate de Joy Buolamwini și Timnit Gebru au fost instruite conțineau o pondere disproporționată de imagini cu bărbați și femei cu pielea deschisă la culoare.  Citește aici studiul din 2018 al celor doi specialiști în analiza datelor!

Algoritmii utilizați pentru a detecta discursul ofensator pe platformele online aveau mai multe șanse să clasifice tiparele de vorbire comune în rândul americanilor de culoare ca fiind ofensatoare – iar seturile de date au afișat, în mod similar, o părtinire larg răspândită față de engleza afro-americană. Aceasta arată cât de importantă este etichetarea setului de date: dacă datele sunt etichetate într-un mod părtinitor, rezultatele vor fi și ele părtinitoare. Citește aici articolul din 2019 și cele două studii la care face referire!

 

În plus, aplicațiile Data Science pot consuma foarte mult date, implicând diferite probleme:

ØConfidențialitate

ØProtecția datelor 

ØCalitate slabă a datelor (”garbage in, garbage out”)

 

 

Etică – Ghiduri

 

•OECD https://www.oecd.ai/ai-principles

•UNESCO:  https://en.unesco.org/news/unesco-launches-worldwide-online-public-consultation-ethics-artificial-intelligence

•UNICEF:  https://www.unicef.org/globalinsight/reports/policy-guidance-ai-children

•EU:  https://ec.europa.eu/info/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en

•Microsoft AETHER:  https://www.microsoft.com/en-us/ai/responsible-ai

•Google fostul Comitet de etică:  https://www.reuters.com/article/us-alphabet-google-ai-idUSKCN1RH00S 

•Partnership on AI:  https://www.partnershiponai.org/

•... Peste 80 de ghiduri de etică sunt disponibile astăzi

 

Etică – Ghiduri

Frumos, dar să discutăm când devin obligatorii...

 

 

HLEG UE a stabilit următoarele caracteristici ale unui sistem de AI de încredere, bazat pe Carta drepturilor fundamentale a UE:
(1) agenție umană și supraveghere, 

(2) robustețe tehnică și siguranță, 

(3) confidențialitate și guvernanța datelor, 

(4) transparență, 

(5) diversitate, nediscriminare și corectitudine, 

(6) bunăstarea mediului și a societății și 

(7) responsabilitate

în contextul Data Science și al învățării automate în general, multe definiții diferite ale părtinirii se întâlnesc și se pot contrazice (utilizare colocvială vs. Statistică vs. Deep Learning)
În contextul unui AI de încredere, vom considera părtinirea (bias) drept o prejudecată care favorizează un grup în detrimentul altuia.

Corectitudinea grupului

Paritate statistică condiționată

Rata de eroare fals pozitivă

Rata de eroare fals negativă

Rata de acuratețe a utilizării condiționate

Rata de acuratețe generală

Corectitudinea testelor

Calibrarea corectă

Echitate prin neconștientizare

Corectitudine contrafactuală    ... Și multe altele ...

Proporția de riscuri ridicate prezise corect este aceeași, indiferent de criteriile demografice

Paritate predictivă

(Toate grupurile au aceeași PPV)

În cadrul fiecărei categorii de risc real, procentul de predicții false este egal pentru fiecare grup demografic

Cote egalizate

(Toate grupurile au același FNR și același FPR)

Ce definiție ai spune că este echitabilă?

Ce se întâmplă când prevalența riscului ridicat este mai mare pentru un grup decât pentru altul?

Dacă p este proporția indivizilor cu risc ridicat în populație:

.... Atunci această formula ne spune că nu putem avea

atât cote egalizate, cât și paritate predictivă

Pentru a înțelege de ce, să presupunem că atât cotele egalizate, cât și paritatea predictivă sunt adevărate. Introduceți în formulă și câteva elemente de algebră vă vor arăta că atunci prevalența p ar trebui să fie aceeași pentru ambele populații ... 

Să ne amintim un exemplu larg dezbătut:

În mai 2016, ProPublica a publicat un articol care indica faptul că predicțiile realizate de un model larg răspândit pentru recidivism (COMPAS), erau părtinitoare:
https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

Pentru explicații în detaliu, vezi: