EU-Parlamentet har for nylig indført den første specifikke lovgivning for kunstig intelligens, kendt som AI Act. Hvordan kan du så sikre, at din virksomhed opfylder de nye krav under AI Act?
Den 13. marts 2024 markerede EU-Parlamentet et afgørende øjeblik i reguleringen af kunstig intelligens ved at godkende AI Act, en handling med vidtrækkende implikationer for virksomheder og organisationer både indenfor og udenfor EU. Dette er særligt relevant, hvis et AI-system tilbydes på EU’s marked eller hvis dets anvendelse berører individer indenfor EU’s grænser.
Imidlertid medfører enhver ny lovgivning spørgsmål, især på et felt så forholdsvis uudforsket som kunstig intelligens. Hvad præcist indebærer AI Act? Hvilke aspekter af AI-brugen bør virksomheder være særligt opmærksomme på? Og hvilke potentielle virkninger kan denne lovgivning have på forretningsdriften?
Selvom kunstig intelligens stadig befinder sig i en tidlig fase af sin udvikling, har vi hos 2ai fremlagt vores overvejelser omkring, hvordan man bedst navigerer i forhold til fem væsentlige spørgsmål, som fremkommer i kølvandet på indførelsen af AI Act.
Hvilke virksomheder er påvirket af reguleringen?
Hvornår skal man være klar? – hvornår træder den i kraft?
Hvordan kommer du godt i gang?
Hvem har ansvaret for at sikre overholdelsen af reguleringen?
.
AI Act – hvad er det?
AI Act sigter mod at garantere, at anvendelsen af AI-systemer er i overensstemmelse med europæiske principper og lovgivning. Den fastsætter diverse kriterier og ansvar, som alle involverede parter i værdikæden – herunder leverandører, brugere, importører, distributører, fabrikanter og autoriserede repræsentanter – er forpligtede til at følge.
De nye krav omfatter:
- De nye krav omfatter:
- Risikostyringssystem og risikovurdering af AI-systemer
- Data og Data Governance styring og dokumentation
- System til kvalitetsikring
- Teknisk beskrivelse af AI-systemet
- Transparens og kommunikation til brugerne af AI-systemerne
- Menneskelig overvågning og kontrol med AI-systemet
- Nøjagtighed, robusthed og cybersikkerhed
- Anmeldelse af AI-systemet til EU.
.
Hvilke virksomheder er påvirket af reguleringen?
AI Act vil gælde for enhver virksomhed og organisation både inden for og uden for EU, så længe et AI-system er placeret på markedet i EU eller dets anvendelse påvirker personer, som befinder sig i EU.
Det omfatter særligt virksomheder inden for følgende industrier:
- Finans og forsikringsvirksomheder, hvis AI fx bruges til fastsættelse af forsikringspræmie og kreditvurdering.
- Sundhedsområder, hvor AI fx indgår i medical devices, eller i behandlingssystemer.
- Produktionsvirksomheder, som udvikler maskiner, legetøj, gas, olie og benzin samt elevator med AI indbygget.
- Transport virksomheder, inden for bil, fly, tog, skibe samt landbrug og skovdrifts køretøjer samt ved to og tre hjulede køretøjer og droner.
- Kritisk infrastruktur, specielt drift, sikkerhed, miljø, forurening og kontrolsystemer.
- Offentlig sektor, hvor der anvendes systemer til sagsbehandling af svage grupper af borgere eller til fastsættelse af sociale ydelser.
.
Hvornår skal man være klar? – hvornår træder den i kraft?
Europa-Parlamentets medlemmer vedtog den 13. marts 2024 EU AI Act, der nu står klar til at træde i kraft i løbet af de kommende måneder. Det må forventes, at der inden offentliggørelse alene foretages mindre ændringer uden materiel betydning.
Den endeligt vedtagne AI-forordning skal i den kommende tid gennemgå adskillige proceduremæssige protokoller, herunder juridisk sproglig kontrol. Denne afsluttende lovgivningsproces er kendt som EU’s Corrigendum-procedure.
Derudover skal EU-Rådet formelt tilslutte sig AI-forordningen, hvilket forventes at ske i april eller i begyndelsen af maj 2024.
AI-forordningen træder herefter i kraft 20 dage efter dens offentliggørelse i Den Europæiske Unions Tidende (”EU-Tidende”). AI-forordningen forventes offentliggjort i EU-Tidende i maj/juni 2024.
AI-forordningen vil være anvendelig i sin helhed 24 måneder efter ikrafttrædelsen, dog med undtagelse af visse særlige forbud og forpligtelser, som enten træder i kraft allerede 6-18 måneder eftBilleer ikrafttrædelsesdatoen eller senest 36 måneder efter ikrafttrædelsesdatoen.
Tidslinje fra Dansk Industri
.
Hvordan kommer du godt i gang?
2ai kan hjælpe jer igang med de vigtigste emner for jeres virksomhed eller organisation. Det gælder om at starte i god tid.
Vi forslår følgende aktiviteteranbefaler, at man starter med en eller flere af følgende 5 aktiviteter:
- Impact analyse: Hvilke områder i jeres virksomhed er påvirket og hvordan. Hvad er det absolut mest nødvendige i bør foretage jer
- System analyse og risko vurdering: Oversigt over jeres AI-systemer. Benytter i f.eks. generative AI systemer eller gør nogen af jeres leverandører. Oversigt over hvilke af jeres systemer der er forbudt’ eller høj-risiko-systemer iht. klassificering.
- Træning: Træning af medarbejdere i AI systemer og hvordan man sikrer data sikkerhed i en AI verden.
Kom godt i gang nu og:
.
Hvem har ansvaret for at sikre overholdelsen af reguleringen?
Da det er en forordning, er AI Act direkte gældende i de enkelte medlemslande og skal ikke implementeres formelt i dansk lovgivning. Det er endnu ikke fastlagt, hvilken myndighed der bliver ansvarlig for at føre tilsyn i Danmark.