AI Act - ett steg närmare den slutliga versionen av EU:s rättsakt

Som vi tidigare har skrivit om på Företagarbloggen har EU-parlamentet och rådet kommit överens om ett förslag på EU:s rättsakt om Artificiell Intelligens (AI Act) och att förslaget måste formellt godkännas av EU:s instanser innan det kan träda i kraft. Nu har två inofficiella texter av lagförslaget läckts vilka kan visa på vissa förändringar i den slutliga lagtexten. Här redogör vi för det vi vet i nuläget.

Med de två inofficiella texterna läckta går det att börja fundera över vad som kommer bli lagens slutliga utformning. I texterna har förtydliganden lagts till och definitioner modifierats. Nedan redogörs kort för vad vi för tillfället kan förvänta oss av den stundande AI-förordningen, eller AI Act som den kallas i folkmun.

AI-förordningens syfte 

Huvudsakliga syftet med AI Act är att fastställa harmoniserade regler för att tillhandahålla tillförlitliga AI-system och säker användning systemen inom EU. AI-förordningen förbjuder därför vissa användningsområden för AI samt ställer särskilda krav på AI-system som klassificeras som högrisksystem. Vidare fastställer förordningen skyldigheter för operatörer av högrisksystem, samt harmoniserar insynsregler och transparenskrav för vissa AI-system. Vidare återfinns regler om marknadsövervakning, efterlevnad och sanktioner samt regler för att stödja innovation med särskilt fokus på små och medelstora företag, inklusive nystartade företag. 

Vad och vilka omfattas av AI-förordningen?

AI-förordningen omfattar leverantörer av AI-system, oavsett om dessa leverantörer är etablerade eller belägna inom EU eller i ett tredjeland, det vill säga ett land utanför EU. Enligt det inofficiella utkastet av AI-förordningen omfattas även “Deployers” av AI-system (i tidigare lagförslag benämnt “Users”, utförare/användare), samt importörer, distributörer, produkttillverkare och auktoriserade företrädare. AI-system som används i samband med en personlig icke-professionell aktivitet omfattas inte.

AI Act avser främja förtroende för Artificiell Intelligens 

Genom att skapa ramverk för utveckling och användande av AI syftar AI-förordningen att bidra till högre förtroende för användande av AI samtidigt som den avser att respektera och skydda grundläggande mänskliga rättigheter och juridiska rättsprinciper. AI-förordningen berör även förhållandet till immateriella rättigheter, produktansvar och AI-systems hantering av personuppgifter. 

Så förbereder du dig inför AI-förordningen

AI-förordningen är i sitt slutskede vilket innebär att många företag behöver se över sin användning, utveckling och distribution av AI och undersöka vilka eventuella krav som kommer att bli tillämpbara för den enskilda organisationen. Ett första steg kan vara att inventera användning av AI-system inom organisationen i produkter och/eller tjänster. Vidare bör man göra en initial bedömning per AI-system för att utvärdera systemets risknivå enligt AI-förordningen. Dessutom behöver företag se över och inkorporera AI-specifika riskbedömningar och förhållningssätt till produkt- och tjänsteutveckling samt interna IT-system som använder sig av AI. 

Det återstår att se hur den faktiska lagtexten kommer att utformas, då den officiella lagtexten för AI-förordningen inte ännu har publicerats.

Hur kan PwC hjälpa dig?

PwC:s Responsible AI team är ett tvärfunktionellt team som hjälper organisationer att se till att deras användning, utveckling eller distribution av AI sker på ett ansvarsfullt sätt. PwC hjälper företag att förbättra och/eller skapa nya metoder för att på ett ansvarsfullt och etiskt sätt driva innovation med hjälp av AI framåt samtidigt som framtida regleringar tas i beaktande. Exempelvis hjälper PwC företag med: 

• Strategi för AI-utveckling  
• Strategi för AI-livscykel
• AI-principer och riskhanteringsriktlinjer
• Mognadsanalyser och riskkartläggning 
• AI-inventering och riskklassificering 
• Regulatorisk kartläggning avseende AI-produkter och AI-system 
• Implementering av Responsible AI Governance Frameworks