Dette uttrykkes i et brev Negotia nylig har sendt til EU-kommisjonen, som svar på høringsdokumentet som kom tidligere i år. Forslaget fra kommisjonen innebærer en ambisjon om å etablere et rettslig rammeverk for å regulere bruken av kunstig intelligens (på engelsk: artificial intelligence – AI).

I høringsdokumentet beskrives de politiske endringene og investeringene medlemslandene må gjennomføre for å utvikle det som kalles en «menneskeorientert, bærekraftig, sikker, inkluderende og pålitelig kunstig intelligens».

Negotia har tidligere i år gitt innspill til regjeringen om det foreslåtte regelverket.

Sikring av arbeidstakernes medbestemmelse

I sitt høringssvar etterlyser Negotia reguleringer som sikrer arbeidstakernes medbestemmelse og rettigheter i møte med den teknologiske utviklingen.

- Den foreslåtte reguleringen fra EU-kommisjonen tar ikke for seg de tillitsvalgtes rolle i å ivareta arbeidstakernes rettigheter ved innføring av kunstig intelligens på arbeidsplassene. Gjennom det lokale partssamarbeidet mellom tillitsvalgte og ledelse, kan det utvikles KI-løsninger som bidrar til innovasjon og konkurransedyktighet, samtidig som de ansattes interesser ivaretas, sier Negotia-leder Monica A. Paulsen, og legger til:

- For å sikre ansattes medbestemmelse mener jeg at partene i arbeidslivet må ha et tydelig definert ansvar i reguleringen av kunstig intelligens på bedriftsnivå.

Negotia har engasjert seg i denne tematikken i lengre tid, blant annet ved at arbeidstakernes medbestemmelsesrett ved innføring av KI-teknologi på arbeidsplassen forankres i tariffavtalene. Denne modellen er trukket fram som et positivt eksempel i den internasjonale fagforeningssammenslutningen UNIs eget innspill til EU.

- KI i arbeidslivet må kategoriseres som høy-risiko

I EU-kommisjonens forslag benyttes en tilnærming hvor forskjellige former for kunstig intelligens kategoriseres etter fire risikograder – uakseptabel, høy, begrenset og minimal risiko. For eksempel bruk av KI-systemer for siling av kandidater ved ansettelsesprosesser, er kategorisert som høy-risiko.

- Generelt mener vi at all bruk av kunstig intelligens i arbeidslivet bør plasseres i kategorien høy-risiko. Ansettelsesprosesser er et aktuelt eksempel. Det samme gjelder evaluering av ansatte, og forskjellige former for sporing og overvåking i jobbsammenheng. Ukritisk bruk av teknologien vil fort true personvernet, og kan i verste fall føre til systematisk diskriminering. KI må derfor benyttes med stor varsomhet på disse områdene.

Monica Paulsen peker på to forhold hun mener er særlig viktige for at medvirkning og innflytelse skal ivaretas når virksomheter innfører systemer med kunstig intelligens

- Det ene er at bestemmelser i tariffavtalene må gjøre det mulig for de lokale partene å iverksette tiltak som sikrer at KI-løsninger er i tråd med gjeldende lov- og avtaleverk. Det andre er å få på plass styringssystemer hvor fagforeningene har en aktiv rolle. Hensikten er at de etiske prinsippene som bør ligge til grunn skal få reell betydning.

- Data er makt, og den som har tilgang til dataen er den som har makten. Derfor må dette reguleres på en ny måte, og vi må sikre at arbeidstakerne tar del i utviklingen, forvaltningen og reguleringen av alle ansattes data. I tillegg må norske myndigheter være forberedt på å veie opp for eventuelle svakheter i det endelige regelverket som kommer fra EU, sier forbundsleder Monica A. Paulsen.