EU setter seg i førersetet med regulering av kunstig intelligens

Avstemmingen i EU-parlamentet er ett av de siste stegene for at forskriften kan bli lovfestet. Nok en gang kan EU lage modellen som resten av verden følger. Det kan ta et par år før forslaget blir lov som gjelder for hele EU.

Ønsket om å sette opp kjøreregler for kunstig intelligens (KI) har vært der i mange år. Den raske utviklingen med blant annet språkmodellen ChatGPT aktualiserer reguleringsarbeidet. ChatGPT har blitt allemannseie og viser fordelene ved den nye teknologien – og noen utfordringer.

Risiko fra «minimal» til «uakseptabel

Forslaget som gikk gjennom EU-parlamentet, ble først fremmet i 2021. Det omhandler alle produkter eller tjenester som benytter seg av kunstig intelligens. Reguleringen klassifiserer KI-systemer i fire ulike risikonivå fra «minimal» til «uakseptabel», ifølge nyhetsbyrået Associated Press.

Mer risikable applikasjoner som til helse eller teknologi rettet mot barn vil møte hardere reguleringer, som å være mer åpen og å benytte seg av korrekte data.

Det blir opp til EUs 27 medlemsland å håndheve forskriften. Myndighetene kan tvinge selskaper til å fjerne applikasjoner fra markedet. I ekstreme tilfeller kan det utstedes bøter på opptil 40 millioner Euro, eller 7 prosent av overskuddet. Tek-giganter som Google og Microsoft kan dermed bli ilagt milliardbøter i euro etter denne forskriften.

Forbudt å utnytte sårbare mennesker

Ett av de viktigste målene for EU er å verne mot at KI representerer en fare for helse, sikkerhet og fundamentale rettigheter. Det innebærer et forbud mot KI-systemer som klassifiserer og dømmer folk ut fra deres oppførsel.

Det blir også forbudt å utnytte sårbare mennesker, inkludert barn. Det blir også forbudt å produsere interaktive leketøy som fremmer farlig oppførsel. Det blir heller ikke lov for politiet å benytte seg av verktøy som kan peke ut hvem som ligger an til å bli kriminelle i framtiden.

Politikerne skjerpet forbudet mot fjernstyrt ansiktsgjenkjenning i sanntid. Et omstridt motforslag som ville tillate politiet å bruke KI i jakten på savnede barn eller terrorister fikk ikke flertall bak seg.

Krav om å identifisere kopibeskyttet materiale

Innenfor arbeidsliv og utdanning stiller regelverket harde krav til brukernes rett til innsyn og å for å hindre at algoritmene utvikler partiskhet. De fleste KI-systemene, som spill eller spamfilter, hører hjemme i lavrisiko- eller ingen risiko-kategorien.

Den første forskriften nevnte knapt chatboter. Etter det raske inntoget til ChatGTP ble chatboter skrevet inn i kategorien «høyrisiko». Et kjerneelement i tillegget er kravet om å dokumentere om det er brukt kopibeskyttet materiale i KI-systemer som genererer tekst, bilder, video og musikk. Det vil gi innholdsleverandører kunnskap om deres blogg, e-bok, vitenskapelige artikkel eller sanger har blitt brukt i opplæringen av algoritmene som driver ChatGPT eller lignende tjenester.

EU ligger derimot ikke i førersetet i utviklingen av KI. Den rollen er det USA og Kina som innehar. Når store tek-selskaper skal reguleres, blir gjerne Brussel rolle å være trendsetteren som resten av verden ser til.

– Andre land kan tilpasse seg

Ifølge eksperter er EUs indre marked med 450 millioner konsumenter så stort at det kan være enklere for selskapene å spille med heller enn å utvikle ulike produkter for flere regioner. Med et felles regelverk for KI forsøker også Brussel å skape utvikle et marked der konsumentene føler seg trygge.

– Det er viktig at selskaper kan bli holdt ansvarlige med denne forskriften. I Singapore og USA har man knapt tenkt ut retningslinjer for KI. Andre land kan komme til å tilpasse seg og kopiere EU-forskriftene, sier teknolog Kris Shrishak, til AP.

Boniface de Champris i tek-industriens lobbygruppe Computer and Communications Industry Association, mener det er et åpent spørsmål om EU-forskriftene vil gi EU-landene en lederposisjon i utvikling av ny KI.

– De nye KI-forskriftene må håndtere klart definerte risikoer, samtidig som utviklerne nå ha nok rom til å utvikle KI-applikasjoner som er til nytte for alle europeere, sier han.

– Feil å innføre nå

Toppsjefen i OpenAI som har utviklet ChatGPT har støttet tanken om retningslinjer for KI.

– Men det er feil å innføre forskrifter nå, sier Sam Altman til AP.

Den britiske statsministeren Rishi Sunak vil også ta en lederposisjon i utviklingen av KI. Storbritannia forlot EU i 2020 og står fritt til å vedta egne reguleringer. Til høsten arrangerer Storbritannia et globalt toppmøte om sikkerhet innenfor KI.

– Mitt mål er at Storbritannia blir ikke bare det intellektuelle hjemmet for KI, men også det geografiske hjemstedet for globale sikkerhetsforskrifter for KI, sa Sunak på en konferanse i forrige uke.