En leder sender ut en e-post til 40 ansatte. Teksten er ryddig, profesjonell, strukturert. Hen har skrevet den med en LLM (Large Language Model). Et av tre faktapåstander i den er feil – det handler om et regulatorisk forhold som har endret seg siden modellens kunnskap. Ingen sjekket. Alle leste e-posten som autoritativ.
Dette er ikke et hypotetisk scenario. Det er noe jeg ser, i ulike varianter, hos kunde etter kunde i 2026 – og hos meg selv hvis jeg ikke er våken. Og det er, etter min mening, den raskest voksende risikoen i moderne kunnskapsarbeid: ikke at LLM-en gjør feil, men at vi slutter å sjekke.
La meg være tydelig fra start: Jeg bruker AI selv hver dag. Jeg vil at vi i Norden skal ligge i front, ikke vente på at andre prøver først. Men det er nettopp derfor jeg er opptatt av at vi bruker det riktig. Innovatører er ikke de som godtar alt verktøyet sier. De er de som først forstår hvordan verktøyet brukes uten å gå i fellene.
Det er ikke transaksjonene. Det er analysene, tekstene og vurderingene.
Når jeg snakker med andre i bransjen om AI-risiko, hopper samtalen ofte til transaksjonelle ting: kontering, fakturahåndtering, momskoder. Det er reelle problemstillinger, men det er ikke der den største risikoen ligger akkurat nå. Den ligger i alt vi gjør med språkmodeller – analyser, sammendrag, vurderinger, tekstforslag, beslutningsstøtte.
Det er her folk er minst kritiske. Og det er her output ser mest overbevisende ut.
👉 Les del 1 i serien «AI i ERP – mellom løfter og virkelighet»: Når leverandørens AI-visjon løper fra din endringskapasitet
Vi har vært her før – GPS og autokorrektur
På 2000-tallet fikk vi GPS i bilen. Det er nesten en egen sjanger med historier om mennesker som kjørte seg fast i et skispor, ned en sti som ikke var en vei, eller en time i feil retning – fordi «GPS-en sa det». Verktøyet var som regel rett, så folk sluttet å sjekke. Og når det var feil, var det feil på en måte som var pinlig åpenbar i etterkant.
Litt senere kom autokorrektur og prediktiv tekst. Mange av oss har sendt e-poster der et helt setningsledd ble byttet ut av en velmenende algoritme som trodde den visste bedre. Vi merket det først når mottakeren spurte hva i alle dager vi mente.
Forskjellen nå er at LLM-en ikke produserer en feil rute eller et morsomt ordbytte. Den produserer en fortelling. Og fortellinger er det vi mennesker er mest tilbøyelige til å akseptere uten å stoppe opp.
Hvorfor LLM-output er farligere enn et tall
Et tall som ser galt ut, vekker mistanke. En tekst som er godt skrevet, flytende og profesjonelt formulert, vekker tillit — selv når den er feil. Og det er nettopp her LLM-er er overlegne mennesker: de skriver flytende. De argumenterer godt. De sammenfatter klart. De høres ut som om de har tenkt seg om.
Men de har ikke tenkt seg om. De har generert det mest sannsynlige neste ordet, igjen og igjen. Det er imponerende, men det er ikke det samme som å vurdere. Og når det blir feil, er det feil på en måte som er vanskelig å oppdage – fordi det ikke ser feil ut.
Konkrete eksempler jeg har sett
- Et anbudssvar skrevet med LLM-hjelp beskrev kapasitet bedriften ikke faktisk hadde. Ingen leste teksten kritisk nok til å fange det opp. Kontrakten ble vunnet, leveransen sprakk.
- En leder skrev en sak til styret basert på et «sammendrag» av et komplekst forhold. Sammendraget hadde tonet ned det mest kontroversielle punktet fordi modellen pleier å glatte ut konflikt. Styret tok beslutning på mangelfullt grunnlag.
- En medarbeidervurdering ble skrevet med LLM-hjelp. Teksten var velformulert, men inneholdt to faktiske feil om hva personen hadde levert. Den ble brukt i en lønnssamtale.
- En leverandøranalyse ble basert på et LLM-generert sammendrag av offentlig informasjon. Modellen hadde blandet sammen to selskaper med lignende navn. Forhandlingen begynte på feil grunnlag.
I alle disse tilfellene var verktøyet «riktig brukt». Ingen brøt noen regler. Men resultatet var feil – fordi mennesket i loopen ikke faktisk var i loopen. Hen var blitt redaktør for noe hen ikke leste skikkelig.
Den særlig farlige varianten: LLM-output som input til ny LLM
Det skjer mer og mer at det vi får ut av en modell, går rett inn i neste. Et sammendrag blir kilde for en analyse, som blir grunnlag for en presentasjon, som blir grunnlag for en beslutning. Hvert ledd er litt mindre presist enn det forrige. Til slutt har du tatt en beslutning basert på en kjede av antakelige, men ikke-verifiserte vurderinger.
Dette er kanskje den minst diskuterte risikoen i hele AI-bølgen. Den fortjener mer oppmerksomhet enn den får.
Den fremoverlente kunden er særlig utsatt
De kundene som er raskest til å ta i bruk AI, er ofte også de som er minst tilbøyelige til å bremse opp og kvalitetssikre. Det er ikke en kritikk – det er en observasjon. Kjenner du noen som har lest tre AI-bøker det siste året og snakker varmt om hvordan dette skal forandre virksomheten, er hen sannsynligvis også den som først lar en LLM-generert tekst gå rett ut til kunder, styret eller ansatte.
Det er ikke fordi hen er uforsiktig. Det er fordi tilliten til verktøyet er bygget på alt det fungerer godt på, og fordi det er vanskelig å være kritisk til et verktøy som hjelper deg så mye av tiden.
Min observasjon er at de mest ambisiøse AI-brukerne trenger den strengeste kvalitetssikringsrutinen – ikke den mest avslappede. Det er motsatt av hva mange tror.
Hvor må mennesket fortsatt være helt med?
Min huskeregel: mennesket skal være helt med der innholdet skal stå seg overfor noen som faktisk vet. Det inkluderer:
- Alt som forlater bedriften: kundekommunikasjon, anbud, pressemeldinger, sosiale medier
- Vurderinger av mennesker — medarbeidere, kandidater, samarbeidspartnere
- Analyser som ligger til grunn for vesentlige beslutninger
- Tekster med juridisk eller kontraktsmessig betydning
- Sammendrag der det er kritisk å vite hva som ble utelatt, ikke bare hva som står
For utkast, ideer, brainstorming, omformuleringer og inspirasjon kan du være rausere. Men da skal du fortsatt lese kritisk, ikke godkjenne reflektorisk.
Hva ledelsen og styret bør være opptatt av
Det er to spørsmål her, og de blir viktigere etter hvert som adopsjonen øker:
Beslutningskvalitet. Hvor i organisasjonen tar vi beslutninger basert på AI-generert innhold? Hvordan vet vi at innholdet er kvalitetssikret? Hva er prosessen når det viser seg å være feil?
Datasikkerhet. Hvilke data sender vi inn i offentlige LLM-er? Med digitalsikkerhetsloven (norsk implementering av NIS2) i kraft fra 1. juli 2026, blir dette ikke bare et personvern-spørsmål. Det blir et compliance-spørsmål med personlig styreansvar.
Det handler ikke om å bremse AI — det handler om å være først til å bruke det riktig
Jeg vil ikke at noen skal bremse AI-adopsjon. Tvert imot. Jeg vil at vi skal være de første til å bruke det skikkelig. Det er stor forskjell på å være rask og å være ukritisk.
De som lykkes med AI i kunnskapsarbeid behandler det som en svært dyktig junior: verdt å lytte til, men aldri verdt å signere på vegne av uten å lese dokumentet selv. Innovatører er ikke de som godtar alt verktøyet sier. De er de som finner ut hvordan verktøyet brukes riktig – først.
I del 3 av denne serien ser jeg på den andre store debatten leverandørene fører: må ERP-grensesnittet rives ned og erstattes med chat for at AI skal gi verdi? Jeg er ikke overbevist.