Kunstig intelligens gir både muligheter og utfordringer

Samtidig er mange av disse stiftelsene små, med begrensede administrative ressurser. Søknader behandles ofte manuelt, via e-post eller papir, og styremedlemmer gjør vurderinger ved siden av ordinære jobber. Resultatet kan være fragmenterte prosesser, dårlig dokumentasjon og risiko for at utdelingene ikke skjer i tråd med formål og lov.

Her kommer digitale løsninger og kunstig intelligens (AI) inn som viktige verktøy for profesjonalisering, effektivisering – og ikke minst – regeloverholdelse.

Bare de siste månedene har det vært en betydelig økning i tydelige bruksområder for kunstig intelligens. Dette gir naturlig nok økt risiko for misbruk også, ved at søknader kan manipuleres eller ved at det er:

Manglende transparens og etterprøvbarhet

• AI-modeller (særlig de som bruker maskinlæring) kan være «black boxes», hvor det er vanskelig å forstå hvorfor en søknad fikk et bestemt utfall.

• Dette kan gjøre det utfordrende å dokumentere og begrunne vedtak, noe som er viktig i henhold til stiftelsesloven og krav til forsvarlig forvaltning.

Skjevhet og diskriminering (bias)

• AI-modeller trenes på historiske data, som kan inneholde skjevheter. Hvis tidligere søknadsbehandling har favorisert visse typer søkere, kan dette videreføres automatisk.

• Dette kan stride med prinsippet om likebehandling og gi grunnlag for klager eller tilsyn.

Brudd på personvern og datasikkerhet

• AI-systemer som behandler søknadsdata må følge GDPR. Det inkluderer krav om samtykke, innsynsrett og sikker håndtering av sensitive opplysninger.