Gervigreind hjá hinu opinbera
Eftirfarandi efni er ætlað til leiðbeiningar fyrir opinbera aðila sem nýta eða hyggjast nýta sér gervigreind í starfsemi sinni. Þeim er ætlað að stuðla að því að opinberir aðilar nýti tækifæri gervigreindar til þess að bæta opinbera þjónustu og skilvirkni í störfum með ábyrgum, gagnsæjum og áreiðanlegum hætti.
Efninu er ekki ætlað að vera tæmandi um allt sem þarf að hafa í huga við notkun gervigreindar, heldur frekar veita almenna leiðsögn um þætti sem þarf að líta til þegar tækifæri gervigreindar eru nýtt í opinberri þjónustu. Vefsíðan verður uppfærð eftir tilefni og er hér um að ræða fyrstu útgáfu. Efnið er unnið af hálfu fjármála- og efnahagsráðuneytinu og háskóla-, iðnaðar- og nýsköpunarráðuneytinu í samvinnu við norsku stofnunina DigDir.
„Til þess að skilgreina hugtakið á einfaldan máta má segja að það sé leið okkar til að fá vélar, í víðum skilningi, til að vinna mannanna verk. Sé mannleg greind skilgreind sem hæfileikinn til að öðlast og nota þekkingu og hæfni þá er gervigreind sá hæfileiki að búa til tölvukerfi sem hefur hæfileika til að öðlast og nota þekkingu og hæfni. Þetta á sérstaklega við um verkefni sem aðeins maðurinn gat gert áður en gervigreind kom til sögunnar."
Úr Stefnu Íslands um gervigreind
Ísland í góðri stöðu til að nýta gervigreind í opinberri þjónustu
Fámenni Íslands og hátt stafrænt læsi gera það að verkum að íslenskt samfélag er í einstakri stöðu til að nýta gervigreind þvert á opinbera þjónustu. Þá styðja núverandi stafrænir innviðir og opinber gagnasöfn við þróun gervigreindarlausna, en möguleikar til þess eru háðir aðgangi að fullnægjandi gögnum.
Íslendingar bera tiltölulega mikið traust til opinberrar stjórnsýslu. Af því leiðir að á sama tíma og til staðar eru tækifæri til að byggja á þessu trausti og nýta tækninýjungar til að bæta opinbera þjónustu er einkar mikilvægt að standa vörð um þá stöðu og forðast breytingar sem eru til þess fallnar að draga úr traustinu.
Samkvæmt könnun fjármála- og efnahagsráðuneytisins frá 2023 hafa 43% þeirra ríkisaðila sem svöruðu könnuninni tekið upp gervigreind og 80% sjá möguleika til umbóta í starfsemi með nýtingu gervigreindar. Hefur hlutfallið hækkað töluvert frá 2020 þegar sömu spurningar voru lagðar fyrir.
Gervigreindartækifæri í opinberri þjónustu
Með notkun gervigreindar geta verið tækifæri til umbyltingar á ýmsum sviðum. Meðal helstu tækifæra fyrir starfsemi hins opinbera eru:
Atriði sem líta skal til við notkun gervigreindar
Gervigreind er öflugt tól sem getur aukið skilvirkni og gæði opinberrar þjónustu. Notkun hennar hefur jafnframt í för með sér áskoranir svo sem hugsanlega hlutdrægni og skort á gagnsæi. Þess vegna er mikilvægt að vandað sé til verka við þróun, innleiðingu og notkun gervigreindar.
Eftirtalin atriði skal almennt hafa í huga:
Frammistaða gervigreindarkerfis getur verið breytileg eftir ýmsum þáttum, svo sem breytingum á gögnum, umhverfi eða hegðun notenda. Því er mikilvægt að frammistaða þess sé reglulega vöktuð með viðeigandi vísum og mælikvörðum.
Þar skal sérstaklega skoða eftirfarandi:
- Settir séu árangursvísar og -mælikvarðar sem eru viðeigandi og til þess fallnir að mæla skilvirkni, gæði og árangur af notkun kerfisins.
- Árangursvísar og mælikvarðar séu gagnsæir og aðgengilegur hagaðilum.
- Árangursvísa og mælikvarða ætti að endurskoða og uppfæra reglulega til að endurspegla breytingar.
- Niðurstöður eftirlits og mælinga ætti að nota til að lagfæra og breyta hönnun, útfærslu eða þróun kerfis.
Öll notkun gervigreindar byggist á gögnum. Gæði, áreiðanleiki og fjölbreytileiki gagnanna ræður miklu um frammistöðu gervigreindarkerfis. Jafnframt þarf að hafa í huga að ekki er alltaf heimilt að nota gögn sem stjórnvöld hafa umráð yfir við þjálfun kerfisins, til að mynda þegar gögnin eru bundnum sérstökum trúnaði eða notkun þeirra í þessum tilgangi væri í andstöðu við lög um persónuvernd og vinnslu persónuupplýsinga.
Við mat á því hvort gögn eru hæf til þessarar notkunar skal meðal annars líta til eftirfarandi:
- Gögn skulu vera rétt, áreiðanleg, sannreynanleg og fjölbreytt.
- Aðferðir við gagnaöflun skulu vera gagnsæjar og í samræmi við almenn siðferðisviðmið í opinberri stjórnsýslu.
- Gögn skulu vera viðeigandi m.t.t. fyrirhugaðs tilgangs í hvert og eitt skipti.
- Komi fram skekkjur eða gloppur í gögnum skal leiðrétta þær.
- Gögn geta falið í sér hlutdrægni, mismunum eða fordóma sem geta skaðað tiltekna hópa eða einstaklinga. Gæta þarf varúðar við notkun gagnasetta og mögulega getur verið nauðsynlegt að framkvæma úttekt á gagnasettinu.
Notkun ætti að vera í samræmi við skýrar stefnur, staðla og almennar siðferðis- og lagareglur sem gilda um opinbera stjórnsýslu.
Við mótun umgjarðar gervigreindarnotkunar getur meðal annars þurft að líta til eftirfarandi:
- Notkun sé í fullu samræmi við lagalegar skyldur í opinberri stjórnsýslu. Í því felst meðal annars að farið sé eftir stjórnsýslulögum, lögum um persónuvernd og vinnslu persónuupplýsinga og öðrum reglum eða viðmiðum sem einkenna vandaða stjórnsýslu.
- Framkvæma skal mat á áhættu við notkun tiltekinna aðferða og huga að mögulegum mótvægisaðgerðum.
- Aðferðin sem er beitt hverju sinni skal vera í samræmi við verkefnið eða áskorunina sem er til úrlausnar. Í því felst bæði að væntur ávinningur skal metinn í samræmi við fyrirsjáanlegar áhættur og að leggja skal mat á áætlaðan kostnað.
- Notkun skal eftir því sem við á vera háð mannlegri íhlutun og eftirliti. Í öllum tilvikum skal gætt að mannlegri reisn notenda og annarra sem verkefnið hefur áhrif á.
- Öll notkun skal vera gagnsæ og rökstudd. Í því felst bæði að gervigreindarkerfi skal veita fullnægjandi upplýsingar um hvernig var komist að tiltekinni niðurstöðu og að upplýsa skal um gervigreindarnotkun og uppbyggingu ákvarðanatökuferla, þar með talið forsendur undirliggjandi algríms.
Nýtum tækifærin á ábyrgan hátt
Til þess að gervigreind geti skapað virði fyrir hið opinbera með skilvirkum hætti þarf að líta á hana sem tæki til nýsköpunar og eflingar þjónustu á sama tíma og henni er stjórnað með áherslu á siðferðileg og lagaleg viðmið.
Við gerð leiðbeiningnanna var stefna Íslands um gervigreind (2021) höfð til hliðsjónar, sem og erlend viðmið um notkun gervigreindar hjá hinu opinbera, m.a. hjá hinum Norðurlöndunum og OECD. Þá byggist efnið á samráði við hagaðila innanlands. Við mótun þess var gervigreind notuð til að skerpa textann og koma með tillögur.
Efnið verður í stöðugri uppfærslu og er hér um að ræða fyrstu útgáfu. Öllum ábendingum er tekið fagnandi á [email protected].
Upplýsingatæknimál ríkisins
Ábendingin verður notuð til að bæta gæði þjónustu og upplýsinga á vef Stjórnarráðsins. Hikaðu ekki við að hafa samband ef þig vantar aðstoð.