Osta kirja itsellesi
(Kirjavinkit.fi saa komission linkkien kautta tekemistäsi ostoksista.)
Cathy O’Neilin Weapons of Math Destruction : How Big Data Increases Inequality and Threatens Democracy on tietokirja, joka kertoo siitä, miten USA:ssa suurten kaupallisten ja julkisten instituutioiden algoritmit muuttavat todeksi scifi-kirjailijoiden kauhudystopiat. Terra Cognita on julkaissut kirjan vuonna 2017 suomeksi nimellä Matikkatuhoaseet : miten suuraineisto lisää eriarvoisuutta ja uhkaa demokratiaa.
O’Neil selittää, että monet laskukaavat ja tietokoneohjelmistot, joita suuret amerikkalaiset instituutiot käyttävät optimoidakseen työntekijöiden tai asiakkaiden tuottavuutta, on suunniteltu tahattomasti harhaisilla moraali- ja logiikkakäsityksillä, jotka päällisin puolin vaikuttavat äärimmäisen loogisilta, puolueettomilta ja tehokkailta, mutta jotka huomaamattomasti suurentavat yhteiskunnan epätasa-arvoa.
Kirja antaa lukuisia esimerkkejä tapauksista, joissa työntekijöitten tehokkuuden mittaamiseen on käytetty parametrejä, jotka eivät todellisuudessa osoita tehokkuutta, mikä on johtanut hyvinkin pätevien ihmisten irtisanomiseen tai työntekijöiden terveyden pilaantumiseen. Pahimmissa tapauksissa, joidenkin suuryritysten palkkaus- ja lainausalgoritmit ovat syrjineet etnisiä vähemmistöjä sekä tuhonneet kirjaimellisesti kokonaisten kansanosien elämän.
Monet kirjassa kuvatuista tapauksista kuulostavat dystooppisen tulevaisuuden kauhuvisioilta, mutta ovat arkea USA:ssa, missä suurin osa algoritmeista on kaupallisten yritysten omistamia.
Koska algoritmien toimintamallit ovat yrityssalaisuuksia, algoritmien uhriksi joutuneella ei ole valitusoikeutta. Esimerkiksi pankki ei myönnä lainaa, koska asut alueella, joka on algoritmin mukaan korkean rikollisuuden aluetta tai algoritmi on onnistunut sekoittamaan sinut kaimaasi, jolla on rikostausta.
Pankki ei tule kertomaan sinulle, miksi et saanut lainaa, etkä voi tarkastaa algoritmin päätöksiä, koska eivät pankkivirkailijatkaan tarkasta, koska hekin luottavat ohjelmiston puolueettomuuteen. Et saa koskaan tietää, että sinun kohdallasi tehtiin virhe. Kirjailijan mukaan tällaisia virheitä alkaa kasautua yksilöissä ja ihmisryhmissä, jolloin epätasa-arvon kierre kasvaa.
Koska näiden algoritmien yhteiskunnalliset vaikutukset ovat massiivisia, kirjailija kutsuu niitä matikkatuhoaseiksi, ”Weapons of math destruction”. Kukaan tietotekniikan insinööri tai matemaatikko ei ole suunnitellut näitä algoritmejä ilkeydestään tai syrjiäkseen tiettyjä kansankerroksia, mutta he eivät huomioineet kaikkia muuttujia, joita yhteiskunnassa on, vaan he käsittivät joko kaikki ihmiset kaavamaisina robotteina tai sovelsivat maalaisjärkeä, mikä ei käänny kovin hyvin monimutkaisiin sosiaalisiin tilanteisiin, joissa on lukuisia muuttujia.
Kirjassa ehkä ikävin kuvattu ongelma WMD:ssä on se, että niitä sovelletaan laajasti keskiluokkaan ja köyhiin kansankerroksiin, jotka ovat USA:n enemmistö. Syy tähän on se, että nämä kaksi sosiaalista luokkaa käyttävät algoritmeille alistettuja julkisia palveluita tai työskentelevät matalapalkkaisilla aloilla, joilla tehokkuuspaineet ovat suuremmat.
Näin maan eliitti ei joudu kohtamaan automaation ongelmia koko elämänsä aikana. Siinä missä köyhä joutuu googlaamaan parhaan koulun, johon on varaa, jolloin hänet ohjataan hakukonealgoritmien kautta riistävien, mutta huonolaatuisten yksityiskoulujen uhriksi, rikkaat vanhemmat lähettävät poikansa tunnettuihin eliittikouluihin, joissa asiakas ja palveluntarjoaja tapaavat kasvokkain ja useimmiten tuntevat jo ennestään toisensa golfklubilta.
Keskiluokka ja köyhälistö jäävät kasvottomien algoritmien armoille, ilman mitään valitusoikeutta tai edes tietoa siitä, miten heitä ohjataan yhteiskunnan marginaaliin ja samaan aikaan rikkaat nousevat yhteiskunnan huipulle henkilökohtaisilla kontakteillaan.
Samaan aikaan, kun köyhä afroamerikkalainen joutuu poliisin pysäyttämäksi, koska häntä epäillään rikoksesta, hän joutuu automaattisesti rikostietokantaan, vaikka häntä ei tuomittaisi mistään, niin rikkaalla alueella elävä humalassa ajava opiskelija ei edes joudu poliisin pysäyttämäksi, koska poliisiaseman algoritmi on ohjannut suurimman osan poliisivoimista köyhälle ja suuremman rikostiheyden alueelle.
Näin afroamerikkalainen, joka kerran joutui kenties rasistisen poliisin pysäyttämäksi, ei saakaan töitä, koska rekrytointifirman algoritmi hylkäsi hänet havaittuaan, että tämä kuuluu poliisin rikosepäiltyjen tietokantaan.
Kirjan mukaan nämä WMD:t ovat haitallisia ensiksi, koska lainsäädäntö ei ole pysynyt niiden perässä ja samaan aikaan voittoa ja tehokkuutta tavoitteleva vapaa markkinatalous on edistänyt häikäilemättömien algoritmien leviämisen kaikille aloille, missä ne ovat saaneet vapaasti luoda kokonaisen luokan ihmisiä, joiden ihmisoikeuksia poljetaan jatkuvasti, ilman että kukaan edes tajuaa sen tapahtuvan.
Tietenkin varmaan olette jo huomanneet, mihin tämä kirja päättyy. Kirjailijan mukaan markkinoitten näkymätön käsi on liian hidas pysäyttääkseen WMD:t, joten lakia, valvovia elimiä, sääntelyä on luotava ja koodit tehtävä julkisiksi, jotta mahdollisimman moni voi tarkastaa virheitä ja korjata ne, ennen kuin USA muuttuu Blade Runnerin ja Minority Reportin kaltaiseksi seksikkääksi, mutta todellisuudessa todella kurjaksi dystopiaksi.