RefveraKI i saksbehandling: dokumentasjonsplikten og kildene
Stadig flere kommuner og offentlige virksomheter bruker språkmodeller i utredningsarbeid. Det kan være god ressursbruk – men det flytter et ansvar: Alt en språkmodell skriver, inkludert kildene den viser til, må kontrolleres av et menneske før det blir del av et beslutningsgrunnlag. Erfaringen viser hva som skjer når det glipper: en norsk kommune måtte stanse en hel høringsprosess etter at fabrikkerte forskningskilder ble avslørt i et kunnskapsgrunnlag. Lærdommene fra den saken gjelder alle som skriver utredninger.
Hva forvaltningen må kunne svare på
Når en rapport utfordres, kommer tre spørsmål: Er kildene ekte? Hvem kontrollerte dem? Kan dere dokumentere det? De to første kan besvares med en times manuelt arbeid per rapport. Det tredje krever at kontrollen etterlater spor.
Kontrollspor i praksis
En forsvarlig rutine er enkel:
1. Alle referanselister i KI-assisterte dokumenter kontrolleres mot åpne
registre før dokumentet går videre.
2. Kontrollrapporten – hva som ble funnet, hva som avvek, hvilke registre som
ble søkt, og når – legges i saksmappen.
3. Kilder som ikke lot seg bekrefte, avklares med forfatteren før
publisering. Merk: kommunale plandokumenter og annen grålitteratur finnes sjelden i registre –
det er ventet, og må vurderes manuelt.
Refvera er bygget for denne rutinen: lim inn listen, få svar per kilde med dokumentert begrunnelse, kopier rapporten rett i saksmappen. Innlimt tekst lagres aldri – et poeng i seg selv når dokumenter er unntatt offentlighet.
KI-regler uten kildekontroll er halve jobben
Mange virksomheter har fått retningslinjer for KI-bruk. De fleste handler om personvern og åpenhet. Færre sier noe om det som faktisk veltet den første store norske KI-saken: referansene. En setning er nok: «Kilder i KI-assisterte dokumenter skal kontrolleres mot åpne registre, og kontrollen skal dokumenteres.»