Kaj se je zgodilo?

Sredi dvajsetega stoletja je znano fotografsko podjetje obvladovalo trg barvne fotografije. Za umerjanje barv v laboratorijih so tehniki uporabljali tako imenovane Shirley kartice – standardizirano fotografijo belopolte ženske s standardnimi barvami v ozadju.

Ker so bile kemikalije filma zasnovane izključno na tej svetli polti, so bile temnejše kože na fotografijah vedno slabo vidne ali zamegljene.

Ta izrazito izključujoča tehnološka napaka se ni odpravila iz etičnih razlogov, temveč šele mnogo let kasneje, ko so proizvajalci čokolade in pohištva začeli pritiskati na podjetje, da filmi ne znajo natančno prikazati njihovih rjavih izdelkov.

Zgodba je jasen dokaz, da v tehnologiji ne obstaja popolna nevtralnost, saj snovalci vanjo pogosto vgradijo svoje lastne nenamerne predsodke in slepe pege. 

Nauk zgodbe: Če so standardi tehnologije zasnovani le po meri ene skupine, tehnologija sistemsko izključuje vse ostale.

Predlogi izboljšav

Posameznik: Smiselno je, da ostane pozoren na to, kako algoritmi ali digitalna orodja delujejo pri različnih skupinah ljudi, in o ugotovljenih napakah javno spregovori.

Industrija: Da bi se izognila pritisku javnosti in očitkom o diskriminaciji, bi morala v razvojne ekipe vključevati raznolike inženirje in sisteme dosledno testirati na vseh uporabnikih.

Odločevalci: Na podlagi zahtev civilne družbe morajo uvesti standarde in certifikate tehnološke nevtralnosti, posebej pri sistemih, ki se uporabljajo v javnem sektorju.