Läser in
Läser in
Artikeln definierar riskhantering som en kontinuerlig iterativ process snarare än en engångsaktivitet. Providern ska identifiera och analysera kända och rimligen förutsebara risker som systemet kan utgöra för hälsa, säkerhet eller grundläggande rättigheter vid avsett syfte. Analysen inkluderar risker som kan uppstå vid rimligen förutsebar felanvändning.
Providern ska vidta riskmitigeringsåtgärder som är proportionerliga och effektiva. Kvarvarande risker ska vara acceptabla och tydligt kommunicerade till deployer. Testning ska genomföras för att verifiera att systemet presterar enligt sitt avsedda syfte och mitigeringsåtgärderna fungerar.
Dokumentationen uppdateras genom hela livscykeln. Nya risker som uppstår via användning eller feedback inkorporeras i nya iterationer. Art. 9 är integrerat med Art. 10 (datakvalitet), Art. 11 (teknisk dokumentation), Art. 13 (transparens mot deployer) och Art. 72 (post-market monitoring).
Providers av högrisk-AI, alltså aktörer som utvecklar eller låter utveckla AI-system och släpper ut dem på EU-marknaden under eget namn. Svenska providers inkluderar mindre specialiserade bolag (exempelvis inom medtech via Getinge, Elekta, Sectra) och större tech-bolag med egna modeller (Axis inom vision-AI).
Deployers som väsentligt modifierar ett system aktiverar Art. 25 och blir provider för den modifierade versionen. Då gäller Art. 9 för deployer också. Typiska exempel: deployer som finjusterar modell på egen data, deployer som sätter eget varumärke, eller deployer som ändrar avsett syfte. Enkel konfiguration (justering av parametrar) aktiverar inte Art. 25.
Art. 9 i praktiken kräver fyra ramverk som måste vara på plats innan produkten släpps på marknaden. Först: riskidentifieringsmetodik som tydligt definierar vad som granskas (teknisk prestanda, bias, cybersäkerhet, användarpåverkan). Ofta baserat på ISO 31000 eller branschspecifika standarder (ISO 14971 för medtech, ISO/IEC 23894 för AI).
Andra: mitigeringsstrategi per risk med tydlig ägare och deadline. Svenska providers integrerar ofta detta med befintligt ISMS om de är NIS2-omfattade.
Tredje: testprogram som täcker pre-release och post-release. Test inkluderar robusthet (performance under olika indata), bias (prestanda över olika kundgrupper), säkerhet (adversariella inmatningar) och användarsäkerhet (rimligen förutsebar felanvändning).
Fjärde: loggning och post-market monitoring. Feedback från deployers och incidentrapporter återföras in i riskhanteringssystemet. Providern måste kunna visa att systemet kontinuerligt granskas och uppdateras baserat på verklig drift.
Art. 9 är direktverkande. Svenska providers kan integrera Art. 9 med befintliga ramverk. Läkemedelsverkets MDR-krav för SaMD överlappar delvis med Art. 9 om riskhantering enligt ISO 14971. Maskindirektivet (EU 2023/1230) har egna riskhanteringskrav för produkter som innehåller AI. Finansinspektionens modellriskvägledningar påverkar AI-modeller i bank och försäkring parallellt med Art. 9.
Cybersäkerhetslagen Art. 21(2)(a) kräver riskanalys för NIS2-entiteter. En provider som också är NIS2-entitet kan samordna dokumentationen men måste markera vilken del som uppfyller vilket krav.
Delvis. ISO 27001 täcker informationssäkerhet, inte AI-specifika risker som bias, datakvalitet eller modellrisk. Art. 9 kräver AI-fokuserad riskhantering. ISO 42001 (AI Management) är närmare men täcker inte alla Art. 9-krav. Dokumentera vilka krav som uppfylls av vilken standard.
Nej. Art. 9 är uttryckligen iterativ. Riskanalysen ska uppdateras när systemet uppdateras, när ny felanvändning upptäcks, när post-market-data ger ny information, och minst årligen. Fryst riskanalys som inte uppdateras är inte compliant.
Jo. Art. 9 nämner uttryckligen att risker från rimligen förutsebar felanvändning ska identifieras. Exempel: ett medicinskt diagnostikverktyg som marknadsförs för röntgen kan rimligen förutses användas för CT, och den risken ska bedömas.
Nej. Deployer har Art. 26-skyldigheter som bygger på provider-riskhantering. Provider-skyldigheten under Art. 9 kan inte överföras. Om deployer väsentligt modifierar systemet blir de provider för den versionen och har egen Art. 9-skyldighet parallellt.