Effektiv altruisme og KI: hvem bestemmer verdiene?

The Economist brukte lederplassen 3. oktober 2026 på effektiv altruisme, og dommen var hard. Bevegelsen dominerer Silicon Valley, skriver avisen, og ønsket om å optimalisere etikken gjør den farlig. Det høres ut som en debatt for filosofer. Jeg leser den som noe mer jordnært, nemlig et spørsmål om hvem som bestemmer hva KI-verktøyene i norske virksomheter får gjøre.

Hva er effektiv altruisme?

Effektiv altruisme vokste frem blant filosofer i Oxford på 2000-tallet. Utgangspunktet var praktisk. Hvordan får man mest ut av hver krone som gis til veldedighet? Svaret var å gi der pengene redder flest liv, uansett om mottakerne bor i nabolaget eller på et annet kontinent.

Siden har bevegelsen tatt på seg langt større spørsmål. For mange tilhengere er den viktigste oppgaven i dag å hindre at kunstig intelligens en dag utsletter menneskeheten. Andre retninger legger stor vekt på dyrs lidelse eller på de mange milliarder mennesker som ennå ikke er født. Felles for dem er at etikk behandles som et regnestykke. Det riktige valget er det som gir størst samlet nytte, for alle, overalt og over svært lang tid.

Hvorfor advarer The Economist mot effektiv altruisme i KI-bransjen?

Avisen gir bevegelsen mye honnør. Den tar empiri og logikk på alvor, og den har i flere år spådd KI-utviklingen bedre enn de fleste. Advarslene om risiko har også fått støtte i virkeligheten. Avisen viser til at OpenAI 28. september stanset lanseringen av GPT-6.1 Astra etter at intern testing viste at modellen ikke holdt selskapets egne sikkerhetskrav.

Kritikken gjelder regnestykket. Når alt skal veies mot alt, mister de nære pliktene tyngde, som å holde det man har lovet eller ta vare på sine egne. Usikkerheten blir enorm når regnestykket omfatter billioner av fremtidige liv. Og en liten sannsynlighet for at menneskeheten går under, vil i en grov moralsk aritmetikk alltid veie tyngre enn konkrete behov i dag. Den som sitter med regnearket og store tanker om menneskehetens fremtid, er ifølge avisen ikke langt unna å utnevne seg selv til sentralplanlegger.

Avisen frykter ingen giljotin. Bekymringen er at kontroll over kraftig KI kan gi en liten krets svært stor makt, og at enkelte i Silicon Valley mener at bare de selv kan stoles på med teknologien. Lederen ender med et poeng jeg synes treffer. Tilhengerne av effektiv altruisme frykter maskiner som optimaliserer for ett feil mål. Den samme faren gjelder en liten gruppe mennesker som gjør det samme.

Hva skjedde mellom Anthropic og Pentagon?

Anthropic hadde en avtale med det amerikanske forsvarsdepartementet verdt opptil 200 millioner dollar. Selskapet nektet å la modellene brukes til masseovervåking av amerikanske borgere og til helt autonome våpen. Pentagon krevde full tilgang for alle lovlige formål. Da Anthropic sa nei, erklærte forsvarsminister Pete Hegseth selskapet som en risiko i forsyningskjeden. I uttalelsen omtalte han filosofien bak som «defective altruism». Presidenten ba samtidig alle føderale etater slutte å bruke Anthropics tjenester.

Saken er ikke endelig avgjort. En føderal dommer i California kom 27. august til at stemplingen var ulovlig gjengjeldelse i strid med ytringsfriheten. En ankedomstol i Washington opprettholdt 25. september et annet vedtak mot selskapet, med dissens 2–1. Flertallet la vekt på hva Anthropic faktisk gjør med modellene, uavhengig av motivet. Anthropic har sagt at selskapet vurderer å be hele domstolen om å se på saken.

Hvem bestemmer verdiene i KI-verktøyene norske virksomheter bruker?

Leser man lederen og Pentagon-saken side om side, blir bildet enkelt. Grensene for hva en språkmodell kan brukes til, settes av noen få selskaper i USA. De står i bruksvilkårene, de er bygget inn i selve modellen, og de kan endres. Endringen kan komme fordi leverandøren selv mener noe nytt om hva som er etisk forsvarlig. Den kan også komme fordi en regjering presser frem et annet svar.

Jeg deler uroen til The Economist over at en liten krets med én moralsk modell får stor innflytelse over teknologien. Alternativet Pentagon står for, der staten krever ubegrenset bruk og straffer den som setter grenser, er etter mitt syn ikke mer betryggende. For en norsk virksomhet har begge modellene samme svakhet. Ingen av dem gir kunden plass ved bordet.

Lovgivningen hjelper lite på kort sikt. EUs KI-forordning er ennå ikke tatt inn i EØS-avtalen, og Norge har ingen egen KI-lov. Ifølge Digitaliserings- og forvaltningsdepartementet tar regjeringen sikte på en lovproposisjon våren 2027. Personvernforordningen, alminnelig avtalerett og selskapsretten gjelder fullt ut i mellomtiden. Men ingen av dem regulerer hvilke verdier en amerikansk KI-leverandør bygger inn i produktet sitt.

Hva bør norske virksomheter gjøre nå?

Det mest konkrete svaret ligger i leverandøravtalen. Tabellen under viser hvor endringene typisk kommer fra, og hvilke avtalemekanismer som gir virksomheten handlingsrom.

Start med en oversikt over hvilke KI-modeller virksomheten faktisk bruker, også de som ligger skjult i standardprogramvare. Les deretter bruksvilkårene og finn ut om leverandøren kan endre dem ensidig. Mange standardvilkår gir leverandøren den retten, ofte med kort varsel. Store kunder kan forhandle. Mindre kunder bør i det minste vite hva de har akseptert og ha en plan for å bytte.

Spørsmålet hører også hjemme i styret. Etter aksjeloven § 6-12 skal styret sørge for forsvarlig organisering av virksomheten. Når KI brukes i kjerneprosesser, mener jeg valget av leverandør og vilkårene for bruken er en del av dette ansvaret. Avhengighet av én leverandør er en risiko styret bør kjenne til og ta stilling til.

Til slutt bør virksomheten bestemme sine egne grenser. En intern retningslinje for hva KI skal og ikke skal brukes til, gjør det lettere å oppdage når leverandørens regler og virksomhetens egne verdier ikke lenger passer sammen.

The Economist avslutter med at alle bør bekymre seg når en liten gruppe mennesker optimaliserer for ett mål. Det er jeg enig i. Den mest praktiske beskyttelsen en norsk virksomhet har, står i klausulen om endringer i leverandøravtalen. Den er det få som har lest.

Sist oppdatert 4. oktober 2026

Kilder: The Economist, leder 3. oktober 2026 · The Hill (Pentagon-vedtaket) · CNN (dom i California) · CNBC (ankedomstolen i Washington) · CNBC (GPT-6.1 Astra) · TU/NTB (status for KI-loven) · Lovdata, aksjeloven § 6-12