Publisert: 15.07.2025

Kunstig intelligens kan være et viktig verktøy i journalsystemer, både integrert i hovedsystemet og/eller i tilknyttede systemer for å: 

  1. Forbedre og automatisere oppgaver i saksbehandling og tjenesteproduksjon 
  2. Redusere behovet for at personell må gjøre rutinemessige oppgaver og sørge for arbeidsflyt 
  3. Bidra til bedre innsikt ved å analysere data  
  4. Gi bedre verktøy for beslutningsstøtte ved å analysere data  

Leverandøren bør beskrive: Hvordan systemet tilrettelegger for at kommunen kan ta i bruk KI-systemer fra andre aktører for 1), 2), 3) og/eller 4) (over) i tilknytning til systemet.

Leverandøren bør beskrive: Hvordan KI er tatt i bruk for å bidra til 1), 2), 3) og/eller 4) (over) og hvordan bruk av KI skjer i tråd med gjeldende regelverk, etiske prinsipper og med fokus på pasientsikkerhet: 

KI-funksjonalitet

  • Dokumentere hvordan KI-komponentene er utviklet, trent og validert, inkludert hvilke datasett som er brukt og hvordan algoritmene er kvalitetssikret for bruk i helsetjenesten og gir mulighet for etterrettelighet. Dette omfatter også dokumentasjon på testing for skjevheter og potensielle feilkilder.
  • Være transparente om KI-systemets begrensninger og hvilke situasjoner der systemet ikke bør brukes eller der menneskelig vurdering er særlig viktig. Dette inkluderer tydelig markering av når prediksjoner eller anbefalinger kommer fra KI-systemer.
  • Implementere robuste mekanismer for logging og sporbarhet av KI-systemets beslutninger og anbefalinger, samt mulighet for menneskelig overstyring der det er relevant.

Tekniske forutsetninger for å sikre forsvarlig bruk av KI

  • Ha klare grensesnitt og API-er som muliggjør integrasjon med eksterne KI-systemer, samtidig som datasikkerhet og personvern ivaretas.
  • Tilby strukturerte data i standardiserte formater som kan brukes av KI-systemer, både interne og eksterne.
  • Inkludere mekanismer for versjonskontroll og oppdatering av KI-modeller, samt mulighet for å rulle tilbake endringer ved behov.

Juridiske og etiske hensyn 

  • Dokumentere samsvar med relevant regelverk, inkludert KI-forordningen, personvernforordningen og helselovgivningen.
  • Beskrive hvordan systemet ivaretar grunnleggende rettigheter og etiske prinsipper, særlig med tanke på ikke-diskriminering og transparens.
  • Redegjøre for ansvarsforhold og rutiner ved feil eller uheldige utfall fra KI-løsningen 

Se også: 

Det utvikles europeiske standarder innen KI (inkludert terminologi, risikostyring, tillit, datahåndtering og cybersikkerhet) i CEN etter bestilling fra EU-kommisjonen. Standardene som blir harmonisert er relevante fordi regelverket også gjelder i Norge.