Hvorfor det er tid til at stoppe blindt tro på big data

algoritmer beslutter nu som godkende lånet, forsikring eller som modtager en invitation til en samtale, men ofte de gør det uretfærdigt. Og det kun øger kløften mellem lagene af befolkningen.

Katie O'Neill (Cathy O'Neil)

Den matematiker, om analysen af ​​de finansielle markeder specialist, forfatter til bogen "Våben af ​​matematisk nederlag."

For at konstruere en algoritme, vi har brug for to ting: data (hvad der skete i fortiden) og definitionen af ​​et vellykket resultat (hvad du ønsker at finde ved hjælp af denne algoritme). Den bestemmer derefter, hvilke kriterier fører til et godt resultat. Men den definition af succes kan ikke være universel.

Algoritme - er en andens mening, den indbyggede kode.

Vi plejede at tro, at algoritmer er objektive og pålidelige, men det er kun en markedsføring gimmick designet til at skræmme os og gøre os tillid i algoritmer og matematiske data.

O'Neill anfører flere eksempler, hvor algoritmer kan forårsage alvorlig skade. Dette sker, når de evaluerer medarbejdere. For eksempel i 2011 i en skole i Washington County er blevet afskediget mere end 200 lærere efter deres

Desuden er de algoritmer er ofte årsagen til fjernelse af forudindtaget domme. Nyheder organisation ProPublica nylig gennemført en undersøgelse, og fundetAt de algoritmer, der bestemmer risikoen for tilbagefald, arbejder objektivt. På samme forbrydelser sætninger ofte taget ud sorte amerikanere.

Vi er alle underlagt fordomme, og vi bringer dem ind i de algoritmer, der afgør hvilke databehov, der skal tages i betragtning.

Algoritmer er blot at gentage fortidens fejl, automatisere den eksisterende orden. Så vi ikke blindt kan stole på dem, vi har brug for at teste dem for at være objektive: at genoverveje definitionen af ​​et vellykket resultat, fejl, er ikke forsikret af nogen algoritme. Hvor ofte de opstår, og hvem der er berørt? Hvad er prisen for sådanne fejl?

Fagfolk, der arbejder med de data, bør ikke være de dommere af retfærdighed. Det er tid til at stoppe blindt tro big data.