EU AI Act

EU AI Act stiller omfattende krav til højrisiko-AI-systemer inden for blandt andet finans, sundhed, den offentlige sektor og kritisk infrastruktur. Kravene påvirker både systemdesign, datastyring, dokumentation og risikohåndtering og skal tænkes ind fra starten af udviklingen. Vi udvikler AI-løsninger, der er bygget til at leve op til kravene og er klar til dokumentation og revision.

Vores services inden for EU AI Act-compliance

Risikoklassificering af AI-systemer

EU AI Act opererer med fire risikoniveauer: forbudt AI, høj risiko, begrænset risiko og minimal risiko. Den korrekte klassificering afgør, hvilke dokumentations- og driftskrav der gælder for dit system. Vi hjælper med at vurdere dit AI-system ud fra lovgivningen, delegerede retsakter samt din konkrete anvendelse og branche.

Conformity assessment og teknisk dokumentation

Højrisiko-AI-systemer kræver en conformity assessment samt omfattende teknisk dokumentation, før de kan tages i brug. Vi strukturerer dokumentationen som en integreret del af arkitekturen og udviklingsprocessen – ikke som en eftertanke.

Audit trails og sporbarhed

Lovgivningen kræver, at højrisiko-AI-systemer logger beslutninger, inputdata og systemadfærd på en måde, der kan verificeres af myndigheder og tilsynsorganer. Vi implementerer audit trails gennem Infrastructure as Code, så alle beslutninger kan spores, og alle modelændringer dokumenteres.

Bias-detektion og fairness-evaluering

AI-systemer, der træffer beslutninger med betydning for mennesker – eksempelvis adgang til ydelser, kreditvurdering, ansættelse eller sundhedsbehandling – skal kunne dokumentere, at de ikke udviser uacceptabel bias. Vi etablerer de målemetoder og evalueringsmekanismer, der gør bias og fairness synlige og håndterbare.

Human oversight mechanisms

EU AI Act kræver, at højrisiko-AI-systemer understøtter menneskelig overvågning, og denne overvågning skal være mere end en funktion, der kan slås til eller fra. Vi designer brugergrænseflader, eskaleringsprocesser og override-mekanismer, der gør menneskelig kontrol reel og effektiv.

Data governance for træningsdata

Kvalitet, repræsentativitet og dataproveniens er obligatoriske dokumentationskrav for højrisiko-AI-systemer. Vi hjælper med at etablere de governance-strukturer, der opfylder kravene og samtidig kan skaleres i takt med, at jeres AI-landskab vokser.

Vores tilgang til EU AI Act-compliance

EU AI Act beskriver forpligtelser i juridiske termer. Men implementeringen er en teknisk disciplin, der starter med den første designbeslutning og fortsætter længe efter go-live. Vi omsætter de juridiske krav til konkrete arkitekturvalg, så compliance bliver en integreret del af systemet frem for et lag, der tilføjes bagefter.

Fra lovtekst til arkitekturkrav

Tekniske ledere har brug for at vide, hvad reguleringen betyder i praksis. Hvilken logging kræves? I hvilket format? Hvor længe skal data opbevares? Hvordan dokumenterer man menneskelig overvågning over for en myndighed? Vi oversætter de juridiske krav til konkrete arkitekturkrav, så udviklings- og engineeringteams ved præcis, hvad der skal bygges.

Governance, der skalerer med AI-porteføljen

Ét højrisiko-AI-system kan håndteres operationelt. Ti AI-systemer på tværs af forskellige risikokategorier med hver deres dokumentationskrav, overvågningsmekanismer og evalueringscyklusser er en helt anden udfordring. Vi hjælper med at etablere en governance-model, der passer til jeres nuværende AI-portefølje og kan vokse i takt med den.

Hvorfor samarbejde med iO?

Teknisk dybde og ikke kun juridisk fortolkning

Advokatfirmaer rådgiver om EU AI Act. Teknologivirksomheder bygger AI-systemer. Vi gør begge dele – og det er netop dét, forordningen kræver. Langfuse-observability, automatiseret bias-detektion og revisionsklare beslutningslogs er ikke ekstra funktioner – det er standard i vores leverancer.

Compliance som en integreret del af vores leverancemodel

I AI-programmer for kunder som fx Etex, SBB og Worldline er compliance-relaterede elementer allerede en del af arkitekturen: guardrails, observability gennem standardiseret monitorering, revisionsklare IaC-deployments og sikkerhed ved grænsefladen mellem AI og forretningssystemer. Vi lægger ikke et compliance-lag oven på et eksisterende system – vi bygger med compliance som arkitekturprincip.

Erfaring fra højrisikosektorer

EU AI Act stiller de strengeste krav til højrisiko-AI-systemer inden for finans, sundhed, offentlig sektor og kritisk infrastruktur. Vi arbejder på tværs af disse sektorer – fra Worldline inden for betalingsløsninger til offentlige organisationer og sundhedsaktører. Denne erfaring er værdifuld, når risikoklassificeringen skal fastlægges, og dokumentationen skal leve op til myndighedernes krav.

Bro mellem teknisk ledelse og bestyrelse

EU AI Act er blevet et emne på ledelses- og bestyrelsesniveau, men de tekniske krav lander ofte hos CTO'en. Vi hjælper med både arkitekturen og business casen: Hvad er risikoen ved manglende compliance? Hvad koster en compliant arkitektur? Og hvordan kan compliance bruges som en konkurrencefordel frem for en administrativ byrde?