Katri-Maria Järvinen:

Automatisoitu päätöksenteko ja digitaalinen hyvinvointivaltio – Virginia Eubanksin vierailuluento

Digitaalisiin teknologioihin kytkeytyy paljon lupauksia paremmasta yhteiskunnasta, ja niiden odotetaan myös ratkaisevan monia yhteiskunnallisia ongelmia. Samalla digitaalisten teknologioiden, esimerkiksi datapohjaisten päätöksentekojärjestelmien, on havaittu ajoittain tuottavan epätasa-arvoisia lopputulemia, joilla voi olla vaikutuksia muun muassa ihmisten hyvinvointiin. Tähän tematiikkaan liittyviä kysymyksiä käsitteli “In/equalities in Digitalized Society” -symposium, jonka keynote-luennon piti apulaisprofessori Virginia Eubanks University at Albany, New York State Universitysta. Eubanks tunnetaan vuonna 2018 julkaistusta kirjastaan “Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor”.  Symposiumissa hän puhui otsikolla ”Data and Story: Global Narratives of the Digital Welfare State”.

”In/equalities in Digitalized Society” -symposiumissa pureuduttiin erityisesti sosiaali- ja terveydenhuollon näkökulmasta hyvinvointivaltion digitalisoitumiseen ja erilaisiin datapohjaisiin teknologioihin liittyvään epä/tasa-arvoon. Symposiumin järjestivät Itä-Suomen yliopiston Learning in Digitalized Society (DIGS) -tutkimusyhteisö ja Datalukutaito ja vastuullinen päätöksenteko (DataLit) -hanke tammikuun puolivälissä.

Kolme esimerkkiä automatisoidusta päätöksenteosta

Eubanks tutustutti kuulijat kolmeen “Automating Inequality” -kirjassakin esiteltyyn tapaukseen, jotka valottavat erityyppisissä sosiaalialan automatisoiduissa päätöksentekojärjestelmissä piileviä ongelmia sekä järjestelmien taustalla vaikuttavia poliittisia järkeilyjä. Kaikki tapaukset sijoittuvat Yhdysvaltoihin.

Ensimmäiseksi Eubanks esitteli Indianan osavaltiossa vuonna 2006 käyttöönotettua automatisoitua järjestelmää, joka valvoi Medicaid-sairausvakuutuksen piiriin pääsyä. Ongelmallista oli, että järjestelmä antoi hylkäävän päätöksen virheistä, jotka saattoivat johtua työntekijästä, hakijasta tai järjestelmästä. Asiakas saattoi saada ilmoituksen yhteistyökyvyttömyydestä (failure to cooperate) esimerkiksi jonkin puuttuvan dokumentin vuoksi, mutta järjestelmä ei kertonut, mikä dokumentti puuttui. Asian korjaaminen jätettiin kuitenkin yhteiskunnallisesti haavoittuvassa asemassa olevan hakijan vastuulle. Järjestelmän käyttöönoton jälkeisten kolmen vuoden aikana tehtiin arviolta noin miljoona hylkäävää päätöstä, joiden myötä evätyistä sairausvakuutuksista seurasi ongelmia monien sairaiden ihmisten elämään.

Toiseksi Eubanks avasi Alleghenyn piirikunnassa Pennsylvaniassa käyttöönotettua lasten kaltoinkohtelutapausten ennustamiseen suunniteltua AFST-työkalua (Allegheny Family Screening Tool). Taustalla oli ajatus, että työkalun ja sen taustaksi perheistä kerätyn datan avulla voitaisiin arvioida lasten kaltoinkohtelun riskiä perheissä. Eubanksin mukaan ongelmaksi muodostui kuitenkin se, että järjestelmä keräsi tietoja yksipuolisesti vain tietyntyyppisistä perheistä: Tiedonkeruun piirissä olivat julkiselta sektorilta apua hakeneet perheet. Siten esimerkiksi keskiluokkaiset työnantajien sairausvakuutuksen piirissä olevat perheet olivat datan keruun ulkopuolella. Lopputulemana tästä kaikesta on järjestelmä, jossa vain järjestelmän sisään päätyneet perheet ovat datapohjaisen arvioinnin ja tarkkailun alaisina, koska ovat kerran päätyneet dataan.

Kolmanneksi Eubanks kertoi Los Angelesissa asunnottomien ja asuntojen yhdistämiseen eli mätsäämiseen suunnitellusta keskitetystä järjestelmästä (coordinated entry system). Asunnon saadakseen asunnottoman täytyy täyttää VI-SPDAT-kysely (Vulnerability Index – Service Prioritization Decision Assistance Tool), jolla kerätään yksityiskohtaisia, jopa arkaluontoisia, tietoja asunnottoman taustoista ja sen hetkisestä tilanteesta. Kyselyn avulla tuotetaan asunnottomuuden tarvetta arvioiva indeksi (vulnerability index), jonka jälkeen – algoritmipohjaisella työkalulla etsimällä – osalle kyselyn täyttäneistä löydetään asunto. Eubanksin mukaan indeksin muodostamiseen liittyy monia ongelmia: Esimerkiksi vankilassa oleminen katsotaan asumiseksi, jolloin vankilasta vapautumisen jälkeen laskettu indeksiluku on todennäköisesti liian alhainen, jotta asunnon saaminen olisi mahdollista. Tämä voi asunnottomien näkökulmasta johtaa asunnottomuuden kierteeseen, josta Eubanksin haastatteleman Garyn tapaus on esimerkki. Järjestelmän käyttö ei ratkaise myöskään varsinaista ongelmaa eli sitä, että asuntoja on liian vähän.

Digitaalinen köyhäintalo ja digitaalinen hyvinvointivaltio

Eubanks kertoi myös käynnissä olevasta tutkimustyötään, jossa hän kollegoineen tutkii digitaalisen hyvinvointivaltion ilmentymiä eri maissa. Aiemmin Yhdysvaltoihin keskittynyt näkökulma laajenee käsittämään maita eri puolilta maailmaa. Kuten Automating Inequality -kirjassakin, kenttätyön keskiössä ovat ihmiset, heidän kokemuksensa ja tarinansa digitaalisessa hyvinvointivaltiossa elämisestä ja erilaisista kohtaamisista järjestelmien kanssa. Eubanksin mukaan nimenomaan näiden kerättyjen tarinoiden kautta voidaan ymmärtää digitaalista hyvinvointivaltiota.

Eubanks kuvaa datapohjaisen päätöksenteon ja siinä käytettävien työkalujen olevan eräänlainen osin entisaikojen köyhäintalon perintöön nojaava digitaalinen köyhäintalo, jossa teknologioiden avulla kontrolloidaan ihmisiä. Hänen luentonsa sanoma on, että päätöksenteon ulkoistamiseen automatisoiduille päätöksentekojärjestelmille liittyy monia ongelmia. Esimerkiksi tekoälyn hyödyntävät päätöksentekojärjestelmät eivät ole neutraaleja ratkaisuja, joilla inhimilliset virheet päätöksenteossa voidaan estää. Kun tehdään ihmisiä koskevia päätöksiä, tarvitaan päätöksenteossa esimerkiksi sosiaalialan asiantuntijoita, jotka ymmärtävät päätöksen taustalla olevia erilaisia tilanteita ja olosuhteita. Yksin automatisoitujen järjestelmien avulla sosiaaliset ongelmat eivät ratkea.

Teknologian ja oikeudenmukaisuuden kysymyksiä on tutkittu viime vuosina eri yhteyksissä, mutta Automating Inequality -kirja tuo kouriintuntuvasti esille, millaisia seurauksia datapohjaiset järjestelmät ja automatisoitu päätöksenteko voivat tuottaa.

Lue lisää:

Eubanks, Virginia (2018) Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. St. Martin’s Press.

Symposiumin tiedot:

https://www.uef.fi/fi/tapahtuma/in-equalities-in-digitalized-society-symposium