0
Hopp til hovedinnhold

Styrker truverdet til kunstig intelligens

Noregs forskingsråd har løyvd 15,9 millionar kroner til eit forskingsprosjekt ved UiA om ansvarleg bruk av kunstig intelligens i offentleg forvaltning.

Illustrasjonsfoto
FORSTÅELEG VERKTØY: Ei internasjonalt forskingsgruppe leia frå UiA skal sjå nærare på korleis ein kan gjere kunstig intelligens til eit forståeleg verktøy i offentleg forvaltning i Noreg. (Ill. foto: Colourbox.)

Pengane er tildelt det fireårige prosjektet Ansvarleg bruk av kunstig intelligens gjennom ansvarleg og forståeleg design (Responsible Use of Artificial Intelligence through Design for Accountability and Intelligibility), forkorta AI4Users.

Finansieringa kjem frå Forskingsrådets program IKTPLUSS, for forskingsaktivitet innanfor temaet Data og tenester overalt. Programmet finansierer forskingsprosjekt som «rører forskingsfronten, fremmar vesentleg kompetansebygging og skaper nye moglegheiter». Prosjektet vert leia av førsteamanuensis Polyxeni Vasilakopoulou ved Senter for digital transformasjon (CeDiT) ved Fakultet for samfunnsvitenskap ved Universitetet i Agder.

Ansvarleg bruk av kunstig intelligens

Polyxeni Vasilakopoulou, foto

Polyxeni Vasilakopoulou

Forskinga ved UiA stammar delvis frå den norske regjeringas uttalte mål om å framme ansvarleg bruk av kunstig intelligens (KI) i offentleg forvaltning, der målet er å ta leiinga i utviklinga av humane og pålitelege løysingar.

– AI4Users-prosjektet tar eit menneskesentrert perspektiv for utvikling av verktøy og designprinsipp for å hjelpa brukarane å stola på AI-løysingar. Det nye med AI4Users-prosjektet er at det spesifikt rettar seg mot ikkje-ekspertar og difor utvidar rekkevidda til forskinga ut over KI-ekspertar og dataforskarar, seier Polyxeni Vasilakopoulou.

Kunstig intelligens viser i prosjektet til maskiner som utfører dei kognitive funksjonane som vanlegvis er knytte til menneske, inkludert oppfatning, resonnement og læring. Det er ikkje ein spesifikk teknologi, men er eit paraplyuttrykk som inkluderer ei rekke ulike teknologiar. Til dømes inkluderer KI-teknologiar maskinlæringsalgoritmar som behandlar data for å gjera spådommar eller avgjerder utan å vera eksplisitt programmert til å gjera det.

Prosjektet blir utført av eit konsortium av samarbeidspartnarar frå akademia: Universitetet i Agder (leiar), Universitetet i Oslo og Norges teknisk-naturvitskaplege universitet (NTNU). Vidare inkluderer prosjektet internasjonale forskarar frå Bentley University i USA, Vrije University Amsterdam i Nederland, Exeter University i England og Universitetet i Gøteborg i Sverige.

– Samarbeidet med internasjonale ekspertar gir høve til å utnytta erfaringar frå andre land, samanlikna og betre spreia resultat, konstaterer Vasilakopoulou.

Ulike brukarar har ulike behov

Det er aukande bekymring for mangelen på openheit i KI-løysingar. Dette kallast ofte "Black Box-problemet". Ansvarleg bruk av KI kan oppnåast viss brukarane forstår informasjonen slike løysingar har, evnene og avgrensingane deira.

Ulike brukarar har ulike behov, til dømes:

• innbyggarane må vera oppmerksame på den algoritmiske støtta som blir brukt til avgjerder som rører dei, og kva typar data som blir brukte; dei må stola på at data ikkje er ufullstendige eller ikkje-representative.

• Offentlege tenestemedarbeidarar på operativt nivå må vera klar over grensene for KI-løysningene og om måtar å handtera uventa situasjonar på.

• avgjerdstakarar og leiarar har ei spesiell interesse for den tidsmessige dimensjonen, dei må vera i stand til å overvaka utviklinga av KI-yting over tid for å sikra rettferd og rett bruk av regelverk.

– AI4Users er eit godt døme på sosioteknisk forsking for den pågåande digitale transformasjonen av samfunna våre. Dette er kjernen i CeDITs mål, seier Vasilakopoulou.

Vektlegg samarbeid 

For å sikra at forskinga er relevant, vil prosjektet samarbeida med NAV. NAV utforskar i dag kunstig intelligens for å levera betre og meir effektive tenester på ein ansvarleg måte. Nøkkelen til dette er etableringa av Navs KI-lab. Prosjektet er tydeleg retta mot brukarar, og samarbeid med NAV er sentralt i dette.

– Prosjektet varar frå november 2020 til  oktober 2024 og vil følgje ei aksjonsforskingstilnærming Dette er ein iterativ og adaptiv forskingsmetode nært knytt til praksis. Metoden vektlegg samarbeid og er vurderingsdriven, seier Polyxeni Vasilakopoulou.

Illustrasjonsfoto

Kort om Senter for digital transformasion (CeDiT)

  • Senter for digital transformasion (CeDiT) er eit samfunnsvitskapleg senter ved Universitetet i Agder som forskar på effektar av digital transformasjon (omforming) på samfunn, organisasjonar og enkeltpersonar i vår tid.
  • Måla til CeDiT er mellom anna å utøva teoretisk fundert og empirisk informert forsking, påverke den akademiske diskursen ved å publisera i internasjonalt anerkjente tidsskrift, laga ein tverrfagleg arena for å utforska eigenskapane og følgja av digital transformasjon, og aktivt søkje samarbeid med andre leiande forskingsmiljø, t.d. gjennom deltaking i eksternt finansierte prosjekt