Tekoäly

Tekoäly näkyy yhä useammin arjessa – opiskelussa, hallinnollisissa palveluissa ja työtehtävissä. Siksi on tärkeää ymmärtää, miten tekoälyn käyttöä säännellään. Euroopan unionin tekoälyasetus (AI Act) on vuonna 2024 voimaan tullut säädös, joka luokittelee tekoälyjärjestelmät neljään riskitasoon. 

Mitä suurempi riski, sitä tiukemmat vaatimukset järjestelmän suunnittelulle, käytölle ja valvonnalle. Asetus koskee myös oppilaitoksia ja työelämää, ja vaikuttaa esimerkiksi siihen, miten tekoälyä voidaan käyttää opetuksessa, arvioinnissa tai opiskelijavalinnassa.

Kielletyt tekoälymuodot eivät kuulu oppilaitoksen tai työelämän arkeen, mutta suuri ja rajoittunut riski voivat olla osa opiskelijan tai henkilöstön kokemaa palvelua. Tekoälyn käyttö ei siis ole itsessään kiellettyä, mutta sen vastuullinen, läpinäkyvä ja tietoturvallinen käyttö on kaikille yhteinen velvoite.

1. Kestämätön riski – Kielletyt käyttötapaukset

Käyttö on kokonaan kielletty. Näihin kuuluvat tekoälyjärjestelmät, jotka muodostavat selkeän uhan ihmisten turvallisuudelle, oikeuksille tai vapaudelle.

• Käytännön esimerkki: Tunteiden tunnistaminen opiskelijoista tai työntekijöistä tekoälyn avulla.
• Miksi tämä koskee sinua: Koulutuksessa tai työpaikalla ei saa käyttää järjestelmiä, jotka pyrkivät analysoimaan kasvojen tai äänen perusteella, miten tunnet tai käyttäydyt.
   

2. Suuri riski – Sallittu tiukoin ehdoin

Tällaiset järjestelmät ovat sallittuja, mutta ne on suunniteltava ja käytettävä tarkkojen vaatimusten mukaisesti. Suuririskisiin sovelluksiin kohdistuu viranomaisvalvontaa.

• Käytännön esimerkki: Tekoälyn käyttö opiskelijoiden arvioinnissa, pääsykokeiden valvonnassa tai hakemusten automaattisessa käsittelyssä.
• Miksi tämä koskee sinua: Jos tekoäly arvioi suoritustasi tai vaikuttaa opiskelijavalintaan, järjestelmän on täytettävä asetetut läpinäkyvyys- ja oikeudenmukaisuusvaatimukset.
   

3. Rajoittunut riski – Sallittu, jos läpinäkyvyysvaatimukset täyttyvät

Nämä järjestelmät ovat sallittuja, kunhan käyttäjälle on selvää, että hän on vuorovaikutuksessa tekoälyn kanssa.

• Käytännön esimerkki: Chatbotit oppilaitoksen verkkosivuilla, tekoälyavustajat opintoneuvonnassa.
• Miksi tämä koskee sinua: Kun saat tietoa tai ohjausta tekoälyn kautta, sen pitää olla selvästi ilmoitettu – et saa luulla puhuvasi ihmiselle, jos kyseessä on tekoäly.*
  
  

4. Vähäinen riski – Sallittu vapaasti

Käyttö on sallittua ilman erityisiä vaatimuksia. Näitä käytetään usein arjessa esimerkiksi esteettisiin tai viihteellisiin tarkoituksiin.

• Käytännön esimerkki: Tekoälypohjaiset kuvasuodattimet, tekstin oikoluku, kalenterisuositukset.
• Miksi tämä koskee sinua: Käytät tällaisia työkaluja päivittäin, usein huomaamattasi. Niiden käyttö ei vaadi erillistä valvontaa.