Hva betyr EUs AI Act for din virksomhet?

Natt til lørdag 9. desember stupte representanter fra EU-parlamentet, ministerrådet og EU-kommisjonen over målstreken, og annonserte enighet om den nye forordningen om kunstig intelligens. Forordningen vil tre i kraft i EU i 2026.

Formålet med AI Act er å innføre regler for å sikre at kunstig intelligens brukt i Europa er trygg, respekterer grunnleggende rettigheter og demokrati, samtidig som den gir rom for at bedrifter kan vokse og ekspandere.

Våre advokter med ekspertise på teknologi, kunstig intelligens og personvern har sett nærmere på forordningen og hva den innebærer.

Den risikobaserte modellen beholdes. Som tidligere vil det praktisk viktigste derfor være om KI-systemet vil klassifiseres som høyrisiko. Høyrisikosystemer underlegges en rekke forpliktelser. Ved klassifisering på et nivå under høy risiko, vil hovedforpliktelsen være å gi informasjon. Hvor grensen for høyrisiko trekkes i den endelige teksten er enda ukjent, da den forhandlede teksten ikke vil bli offentlig før på nyåret.

De som synes at AI er skremmende, vil være glade for at lovgiverne har blitt enige om å forby applikasjoner som bruker maskinlæring til ting som har stor negativ innvirkning på oss mennesker, for eksempel bruk av AI-systemer som manipulerer menneskelig oppførsel eller utnytter sårbare personer.

Av nyheter registrerer vi:

• Brukere av høyrisiko AI-systemer må vurdere virkningen systemet har på grunnleggende menneskerettigheter før det tas i bruk.
• Listen over forbudte bruksområder for KI er utvidet.
• Det foreslåtte totalforbudet mot politiets bruk av biometrisk gjenkjenningsteknologi i offentlig rom ble oppmyket, slik at det blir lovlig under visse vilkår.
• Forskning, utvikling og open-source unntas virkeområdet.
• Innovasjonsfokus: Lettet regulering og insentiver for mindre og nystartede virksomheter.
• En oppdateringsmekanisme for reglene skal visstnok gjøre forordningen «fremtidssikker».
• Sandkassen utvides: Også skarp bruk i den virkelige verden skal omfattes av testmulighetene.

Bøtene for brudd på forbudene skal utgjøre det høyeste av €35 millioner eller 7% av årlig omsetning. Ellers: €15 millioner eller 3% av omsetning eller lavere for brudd. Uansett er dette skarpe sanksjoner som kan koste din virksomhet dyrt.

Mange spørsmål gjenstår å få klarhet i, inkludert hvordan store språkmodeller skal spesialreguleres. Hva skal gjelde mht. treningsdata og transparens? Og hva betyr egentlig «general purpose» og «foundation models»? Og hvor går grensen?

Se mer informasjon i lenken her, eller ta kontakt med en av våre advokater med ekspertise på teknologi om du har spørsmål.