Lausuntopyyntö, arviomuistio hallinnon automaattiseen päätöksentekoon liittyvistä yleislainsäädännön sääntelytarpeista, Oikeusministeriö

Pormestari antoi oikeusministeriölle seuraavan lausunnon:

Yleistä

Helsingin kaupunki pitää hyvänä, että automaattisen päätöksenteon mahdollisuuksia edistetään ja toisaalta, että sen käytön harkinnassa punnitaan huolellisesti oikeusturvaa, virkavastuuta sekä lainsäädännön tarkkuutta. Kaupunki tukee pääosin arviomuistiossa esitettyä.

1. kysymys: Miten arvioitte automaattiseen päätöksentekoon liittyvää tilannekuvaa ja yleisesti asiaan liittyviä sääntelytarpeita?

Tarve automaattisen päätöksenteon yleiselle laintasoiselle sääntelylle on olemassa ja myös kiireellinen. Kunnilla on sellaista päätöksentekoa, jossa automatiikkaa voitaisiin hyödyntää. Nykyinen tilanne, jossa eri viranomaiset itse määrittelevät automaattisen päätöksenteon käytölle omia edellytyksiään ei ole hyvän hallinnon näkökulmasta tyydyttävä, vaan asiasta tulee säätää yleislaissa. Oppivan tekoälyn jättäminen sääntelyn ulkopuolelle tässä vaiheessa on turvallinen ratkaisu, mutta sen lainsäädännöllisten reunaehtojen selvittäminen samassa yhteydessä palvelisi mahdollisia tulevaisuuden tarpeita.

2. kysymys: Miten arvioitte arviomuistiossa ehdotettua käyttöalan rajaamista tilanteisiin, joissa ratkaisu on johdettavissa koneellisesti lainsäädännöstä ja tiedossa olevista yksiselitteisistä faktoista tilanteessa, jossa päätöksentekoon ei liity harkintavaltaa?

Arviomuistiossa esitetty käyttöalan rajaus on turvallinen ja perusteltu. Tässä yhteydessä on kuitenkin syytä arvioida myös mahdollisuutta sisällyttää lainsäädäntöön oikeus osittaisen automaation hyödyntämiseen myös niissä päätöksissä, jotka edellyttävät harkintavaltaa, sekä edellä kuvatulla tavalla ennakoida myös oppivan tekoälyn käytön oikeudellisia reunaehtoja.

3. kysymys: Miten arvioitte ehdotettua lähtökohtaa, jonka mukaan automaattinen päätöksenteko voisi yleislainsäädännön nojalla perustua vain viranomaisen ennalta määrittelemiin, lainsäädännön mukaisiin päättelysääntöihin (ei esimerkiksi oppivaan tekoälyyn)?

Rajaaminen on tässä vaiheessa oikea lähtökohta. Oppivan tekoälyn hyödyntämistä olisi kuitenkin jatkovalmistelussa tutkittava. Vaarana on muuten, että lainsäädäntö on vanhentunutta sen valmistuttua.

4. kysymys: Olisiko lakiin syytä ottaa säännös, jossa korostetaan viranomaisen velvollisuutta varmistua, että automaattisen päätöksentekojärjestelmän käyttö ei vaaranna hyvän hallinnon,oikeusturvan ja perusoikeuksien toteutumista? Tulisiko näiden periaatteiden toteutumista varmistaa jollain muunlaisella menettelyllä?

Ehdotettu julistuksenomainen säännös voi asian korostamiseksi olla hyödyllinen, joskin koko hallinnon lainsäädäntö lähtee tästä viranomaisen velvollisuudesta kaikessa sen toiminnassa. Periaatteiden toteumista varmistetaan näin ensisijaisesti itse säännösten antamisella sellaisella tarkkuudella, että periaatteiden vaarantaminen ei ole mahdollista.

5. kysymys: Muistiossa ehdotetaan, että virkavastuun asianmukainen toteutuminen pyrittäisiin varmistamaan kohdentamalla virkavastuu tiettyihin järjestelmän käyttöä koskeviin virkatehtäviin. Miten arvioitte ehdotuksen toimivuutta?

Lähtökohta on oikea. Pelkkä muodollinen asema ilman liityntää järjestelmän määrittelyyn tai käyttöön ei voi tulla kyseeseen virkavastuuta määriteltäessä, vaan virkavastuulla tulee olla selkeä yhtymäkohta käsiteltävään asiakokonaisuuteen siten, että vastuullinen henkilö voi konkreettisesti vaikuttaa tehtäviin päätöksiin.

Koska virkavastuuseen joutuminen on yksittäisen viranhaltijan kannalta merkittävä seuraamus, ei sääntelyyn saa jäädä epäselvyyttä virkavastuun sisällöstä. Järjestelmän käyttöä koskevista virkatehtävistä tulee säätää tai määrätä yksiselitteisesti. Mahdollista voisi olla, että virkavastuusta eri tehtäväkokonaisuuksien osalta ei säädettäisi yksityiskohtaisesti laissa, vaan sen sijaan säädettäisiin, että viranomaisessa johdon olisi huolehdittava siitä, että vastuut määritellään esimerkiksi hallintosäännössä tai muussa päätöksessä, kuten on laissa julkisen hallinnon tiedonhallinnasta.

Virkavastuun kohdentuminen yksittäisten automatisoitujen päätösten laillisuuden osalta edellyttää vielä selvitystyötä. Arviomuistiosta ei käy ilmi, onko esimerkiksi järjestelmän valvonnasta, kehittämisestä tai testaamisesta vastaava viranhaltija vastuussa myös yksittäisen automatisoidun päätöksen laillisuudesta, vai onko tältä osin vastuu viranhaltijalla, joka on päättänyt automaattisessa päätöksenteossa sovellettavista päätöksentekosäännöistä.

6. kysymys: Miten arvioitte ehdotusta, jonka mukaan järjestelmässä käytettävät päätöksentekosäännöt tulisi hyväksyä nimenomaisella päätöksellä? Millaisessa menettelyssä tai kokoonpanossa säännöt tulisi hyväksyä?

Nimenomaisen hyväksyntäpäätöksen tekeminen järjestelmässä käytettävien päätöksentekosääntöjen osalta on toimintatapana kannatettava. Kyseisenlainen päätös tarkentaisi ja täsmentäisi ne automaattisen päätöksenteon alaiset asiat sekä niitä koskevat sääntörakenteet. Päätös myös osoittaisi ne tilanteet, joissa automaattinen päätöksenteko tulisi keskeyttää ja siirtää ihmisen käsiteltäväksi.

Päätöksenteon taso, menettely ja kokoonpano tulisi jättää kunkin viranomaisen harkintaan. Päätöksentekosäännöistä tulisi päättää sen viranomaisen, jonka toimivaltaan päätösten tekeminenkin kuuluu. Olisi keinotekoista muodostaa sääntöjen hyväksymiselle moniammatillisia ja monijäsenisiä toimielimiä taikka edellyttää, että kunnassa päätöksenteko keskitettäisiin toimielimiin, koska pontentiaalisen automaattisen päätöksenteon kohteena olevat asiat eivät kuulune toimielinten toimivaltaan. Selvää on, että päätöksentekosäännöistä päättävä tarvitsee päätöksen valmistelussa eri tahojen asiantuntemusta.

7. kysymys: Miten arvioitte järjestelmän tai siihen tehtyjen muutosten hyväksymistä ja vaatimustenmukaisuuden arviointia koskevaa ehdotusta?

Arviomuistiossa on esitetty oikea lähtökohta. Laissa on syytä säätää viranomaisen velvollisuudesta varmistua toiminnallisuudesta ja tietoturvasta sekä päätöksentekosääntöjen oikeasta toiminnasta.

8. kysymys: Miten arvioitte järjestelmän valvontaa koskevaa ehdotusta?

Arviomuistiossa on esitetty oikea lähtökohta. Laissa on syytä säätää viranomaisen velvollisuudesta varmistua valvonnasta eri tilanteissa. Valvonnan tulee olla oikeassa suhteessa automaattisesti tehtävien päätösten merkitykseen; liian raskas valvonta vesittää automaattisen päätöksenteon tausta-ajatuksena olevan resurssien vapauttamisen muuhun käyttöön.

9. kysymys: Tulisiko virkavastuun kohdentamiseksi ottaa käyttöön muita velvollisuuksia tai menettelyitä?

Automaattiseen päätöksentekoon kohdistuvan virkavastuun laajuuden on oltava oikeassa suhteessa verrattuna ihmisen tekemän päätöksenteon vastaaviin vastuisiin. Laissa tulisi säätää myös algoritmien toteuttavien ohjelmistokehittäjien vastuu.

10. kysymys: Miten arvioitte ehdotusta, jonka mukaan viranomaiselle tulisi asettaa velvollisuus esittää kuvaus automaattisessa päätöksenteossa sovellettavista päätöksentekosäännöistä ja asioiden valikoitumisesta automaattisesti ratkaistavaksi? Millainen kuvauksen tulisi olla?

Viranomaiselle tulee säätää velvollisuus julkaista päätöksentekosäännöt. Julkisuus on julkisen vallan käytön valvonnan suhteen automaattisesti ratkaistavissa asioissa erityisen tärkeää. Kuvauksen tulee olla selkeä, täsmällinen ja yksinkertainen, mutta kuitenkin riittävä niin, että sitä voidaan myös tosiasiassa käyttää päätöksen oikeellisuuden arvioimiseen. Lähdekoodin julkaisemisesta ei ole saatavissa lisäarvoa, se on usein liikesalaisuuksien piirissä, ja tavallisen kansalaisen on vaikea saada tarvitsemaansa tietoa koodista. Kuvauksessa pitäisi erityisesti perustella miten menetelmässä ja käytetyssä datassa on varmistettu etteivät ne johda syrjiviin päätöksiin.

11. kysymys: Miten arvioitte asiakirjan varmentamista koskevaa ehdotusta?

Automaattista päätöksentekoa koskevassa yleislainsäädännössä on selvyyden vuoksi tarpeen säätää erikseen automaattisesti tehdyn päätöksen varmentamisesta.

12. kysymys: Tulisiko automaattiseen päätöksentekoon liittää muunlaisia suojatoimia kuin mitä arviomuistiossa ehdotetaan?

Arviomuistiossa esitettyjä suojatoimia voidaan pääosin pitää riittävinä. Oleellista on, että automaattisesta päätöksenteossa otetaan huomioon hyvän hallinnon vaatimukset, joiden ei tule heikentyä ihmisen tekemään päätöksentekoon verrattuna. Erityisen tärkeää on rekisteröidyn informoiminen sekä oikeus ilmoittaa kantansa. Järjestelmän rakentamisessa on otettava huomioon menetelmät virheiden ehkäisemiseksi, riippumattomat tarkastukset, tietoturvallisuuden varmistaminen sekä henkilötietojen käsittelyn oikeusperusteen ja tietojen säilytysaikojen määritteleminen ja rekisteröidyn oikeus saada tietonsa tarkastettua ja poistettua. Tietosuoja-asetuksen mukaisen vaikutustenarvioinnin tekemisellä voidaan omalta osaltaan välttää tietosuojaan liittyviä riskejä.

13. kysymys: Miten lasten erityinen suojan tarve tulisi huomioida automaattisessa päätöksenteossa?

Tietosuoja-asetuksen johdanto-osassa oleva toteamus, että pelkästään automaattiseen käsittelyyn perustuvaa päätöksentekoa, jolla on oikeusvaikutuksia tai vastaavalla tavalla merkittäviä vaikutuksia, ei tulisi kohdistaa lapsiin, tulee ottaa huomioon. Ainoastaan erityisissä tilanteissa, joissa kyse olisi lasten hyvinvoinnin suojelemisesta, voisi automaattista käsittelyä kohdistaa lapsiin.

On otettava huomioon, että lapsen mahdollisuudet vaikuttaa automaattisen päätöksenteon alaiseen asiaansa ja myös sitä koskevaan päätöksentekoon ovat heikommat aikuiseen verrattuna.

14. kysymys: Millä muilla tavoin hallinnon lainalaisuuden, hyvän hallinnon, oikeusturvan ja virkavastuuntoteutuminen tulisi yleislainsäädännössä varmistaa?

Hallinnon lainalaisuutta, hyvää hallintoa, oikeusturvaa sekä virkavastuun toteuttamista koskevan yleislainsäädännön osalta on tarpeellista arvioida niiden muodostama kokonaisuus ja lainsäädäntökehikko. Kokonaisuuden tulee olla ymmärrettävä ja yhtenäinen.

Jatkovalmistelussa on syytä tarkasti pohtia, säädetäänkö laissa, mitä asioita voidaan ratkaista automaattisessa päätöksenteossa, vai jääkö tämän arviointi viranomaisen vastuulle. Mikäli jälkimmäinen ratkaisu omaksutaan, on erityisesti säädettävä siitä, että viranomainen varmistaa järjestelmän tuottavan vain lakiin perustuvia päätöksiä ja muutoin huolehtii hallinnon lainalaisuusperiaatteen toteutumisesta.

15. kysymys: Onko teillä muita huomioita arviomuistiossa käsitellyistä aiheista?

Jatkovalmistelussa on pohdittava, miten automaattinen päätöksenteko soveltuu moninaisiin päätöksenteon muotoihin, esimerkiksi onko mahdollista ratkaista automaattisesti useaa asianosaista koskeva asia.

Kuntien toiminnassa korostuu moniviranomaisuus ja suuri erityislainsäädännön määrä. Samalla kun yleislainsäädäntöön tehdään muutoksia, on varmistettava, tarvittaessa lakimuutoksin, että ne eivät tarpeettomasti ole ristiriidassa eri erityislakien kanssa, mikä ehkäisisi tehokkaan automaation soveltamisen. Erityislaissa voi olla määriteltynä esimerkiksi, kuka viranhaltija on oikeutettu tekemään päätöksen. Mikäli tällainen päätös on mahdollista tehdä automaattisessa päätöksenteossa, ei päätöksentekijä enää ole erityislaissa säädetty viranhaltija.