Matikkatuhoaseet

Cathy O’Neilin ”Matikkatuhoaseet” (oma suomennos) on tietokirja, joka kertoo siitä, miten USA:ssa suurten kaupallisten ja julkisten instituutioitten algoritmit muuttavat todellisiksi scifi-kirjailijoitten kauhu-dystopiat.

20170614_084620

O’Neil selittää, että monet laskukaavat ja tietokoneohjelmistot, mitä suuret ameriikkalaiset instituutiot käyttävät optimoidakseen työntekijöitten tai asiakkaitten tuottavuutta, on suunniteltu tahattomasti harhaisilla moraali ja logiikkakäsityksillä, jotka päällisin puolin vaikuttavat äärimmäisen loogisilta, puoleettomilta ja tehokkailta, mutta jotka huomaamattomasti suurentavat yhteiskunnan epätasa-arvoa.

Kirja antaa lukuisia esimerkkejä tapauksista, joissa työntekijöitten tehokkuuden mittaamiseen on käytetty parametrejä, jotka eivät todellisuudessa osoita tehokkuutta, mikä on aiheuttanut hyvinkin pätevien ihmisten irtisanomiseen tai työntekijöitten terveyden pilaantumiseen. Pahimmissa tapauksissa, joittenkin suuryritysten palkkaus- ja lainausalgoritmit ovat syrjineet etnisiä vähemmistöjä sekä tuhoneet kirjaimellisesti kokonaisten kansanosien elämän.

Monet kirjassa kuvatuista tapauksista kuulostavat dystooppisen tulevaisuuden kauhuvisioilta, mutta ovat arkea USA:ssa, missä suurin osa algoritmeista on kaupallisten yritysten omistamia. Koska algoritmien  toimintamallit ovat yrityssalaisuuksia, algoritmien uhriksi joutuneella ei ole valitusoikeutta. Esimerkiksi pankki ei myönnä lainaa, koska asut alueella, joka on algoritmin mukaan korkean rikollisuuden aluetta tai algoritmi on onnistunut sekoittamaan sinut kaimaasi, jolla on rikostausta, niin pankki ei tule kertomaan sinulle, miksi et saanut lainaa? Etkä voi tarkastaa algoritmin päätöksiä, koska eivät pankkivirkailijatkaan tarkasta, koska hekin luottavat ohjelmiston puolueettomuuteen. Et saa koskaan tietää, että sinun kohdallasi tehtiin virhe. Kirjailiijan mukaan tällaisia virheitä alkaa kasautua yksilöissä ja ihmisryhmissä, jolloin epätasa-arvon kierre kasvaa.

Koska näitten algoritmien yhteiskunnalliset vaikutukset ovat massiivisia, niin kirjailija kutsuu niitä ”Weapons of math destruction” (eli matikkatuhoaseet) joka lyhennettiin WMD:iksi. Kukaan tietotekniikan insinööri tai matemaatikko ei suunnitellut näitä algoritmejä ilkeydestään tai syrjiäkseen tiettyjä kansankerroksia, mutta he eivät huomioineet kaikkia muuttujia, joita yhteiskunnassa on, vaan he käsittivät joko kaikki ihmiset kaavamaisina robotteina tai sovelsivat maalaisjärkeä, mikä ei käänny kovin hyvin monimutkaisiin sosiaalisiin tilanteisiin, joissa on lukuisia muuttujia.

Kirjassa ehkä ikävin kuvattu ongelma WMD:ssä on se, että niitä sovelletaan laajasti keskiluokkaan ja köyhiin kansankerroksiin, jotka ovat USA:n enemmistö. Syy tähän on se, että nämä kaksi sosiaalista luokkaa käyttävät algoritmeille alistettuja julkisia palveluita tai työskentelevät matalapalkkaisilla aloilla, joihin tehokkuuspaineet ovat suuremmat. Näin maan eliitti, eli rikaat eivät edes joudu kohtamaan automaation ongelmia koko elämänsä ajan. Siinä missä köyhä joutuu googlaamaan parhaan koulun, mihin on varaa, jolloin hänet ohjataan hakukonealgoritmien kautta riistävien, mutta huonolaatuisten yksityiskoulujen uhriksi, niin rikkaat vanhemmat lähettävät poikansa tunnettuihin eliittikouluihin, joissa asiakas ja paleveluntarjoaja tapaavat kasvokkain ja useimmiten tuntevat jo ennestään toisiaan golf-kerhossa. Keskiluokka ja köyhälistö jäävät kasvottomien algoritmien armoille, ilman mitään valitusoikeutta tai edes tietoa siitä, miten heitä ohjataan yhteiskunnan marginaaliin ja samaan aikaan rikkaat nousevat yhteiskunnan huipulle henkilökohtaisilla kontakteillaan.

Samaan aikaan, kun köyhä afromamerikkalainen joutuu poliisin pysäyttämäksi, koska häntä epäillään rikoksesta, niin hän joutuu automaattisesti rikostietokantaan, vaikka hänet ei tuomittaisi mistään, niin rikkaassa alueessa elävä humalassa ajava opiskelija ei edes joudu poliisin pysäyttämiseksi, koska poliisiaseman algoritmi on ohjannut suurimman osan poliisivoimista köyhälle ja rikostiheämmälle alueelle. Näin afroamerikkalainen, joka kerran joutui kenties rasistisen poliisin pysäyttämäksi, ei saakkaan töitä, koska rekrytointifirman algoritmit hylkäsi hänet, havaittuaan, että tämä kuuluu poliisin rikosepäiltyjen tietokantaan.

Kirjan mukaan nämä WMD:t ovat haitallisia ensiksi, koska lainsäädäntö ei ole pysynyt niitten perässä ja samaan aikaan voittoa ja tehokkuutta tavoitteleva vapaa markkinatalous on edistänyt häikäilemättömien algoritmien leviämisen kaikkiin aloihin, missä ne ovat saaneet vapaasti luoda kokonaisen luokan ihmisiä, joitten ihmisoikeuksia poljetaan jatkuvasti, ilman että kukaan edes tajuaa sen tapahtuvan. Tietenkin varmaan olette jo huomanneet mihin tämä kirja päättyy. Kirjailijan mukaan markkinoitten näkymätön käsi on liian hidas pysäyttääkseen WMD:t, joten lakia, valvovia elimiä, sääntelyä on luotava ja koodit tehtävä julkisiksi, jotta mahdollisimman moni voi tarkastaa virheitä ja korjata ne, ennen kuin USA muuttuu Blade Runnerin ja Minority Reportin kaltaiseksi seksikkääksi, mutta todellisuudessa todella kurjaksi dystopiaksi.

Mainokset

Jätä kommentti

Kategoria(t): Politiikka ja yhteiskunta

Vastaa

Täytä tietosi alle tai klikkaa kuvaketta kirjautuaksesi sisään:

WordPress.com-logo

Olet kommentoimassa WordPress.com -tilin nimissä. Log Out /  Muuta )

Google photo

Olet kommentoimassa Google -tilin nimissä. Log Out /  Muuta )

Twitter-kuva

Olet kommentoimassa Twitter -tilin nimissä. Log Out /  Muuta )

Facebook-kuva

Olet kommentoimassa Facebook -tilin nimissä. Log Out /  Muuta )

Muodostetaan yhteyttä palveluun %s