Läser in
Läser in
Artikeln listar åtta kategorier som i AI-förordningens bemärkelse utgör oacceptabel risk och därmed är förbjudna. Förteckningen är uttömmande men formuleringarna är breda och täcker både uppenbara fall (social scoring) och gränsdragningsområden (emotionsigenkänning på arbetsplatsen med undantag för medicinska eller säkerhetsmässiga syften).
De åtta kategorierna: subliminala eller manipulativa tekniker som påverkar beteende, exploatering av sårbarhet på grund av ålder, funktionsnedsättning eller social/ekonomisk situation, social scoring baserad på socialt beteende eller personliga egenskaper, riskbedömning för brott enbart baserat på profilering eller personlighetsdrag, oriktad skörd av ansiktsbilder från internet eller övervakningskameror för biometriska databaser, emotionsigenkänning på arbetsplats och i skola (med smala undantag), biometrisk kategorisering för att härleda ras, politisk åsikt, facktillhörighet, religion eller sexuell läggning, och realtidsbiometri i offentliga utrymmen (med smala brottsbekämpningsundantag).
Alla. Art. 5 har ingen storlekströskel, inget sektorundantag och inget risktröskelvärde. Både providers som släpper ut förbjudna system på marknaden och deployers som använder dem omfattas. Även om ett enmansföretag skulle införa en förbjuden praktik aktiveras hela sanktionsregimen.
Undantag finns men är smala. Brottsbekämpning kan använda realtidsbiometri i vissa specifika fall som listas i Art. 5 punkt 1 bokstav h. Emotionsigenkänning får användas för medicinska eller säkerhetsmässiga ändamål. Forskning för utveckling innan utsläppande på marknaden undantas enligt Art. 2 punkt 6. Militära ändamål och nationell säkerhet undantas enligt Art. 2 punkt 3.
I praktiken är två kategorier mest relevanta för svenska organisationer. Emotionsigenkänning på arbetsplats fångar AI-verktyg som analyserar anställdas känslor via kameror, chatlogs eller röst. Förbudet gäller oavsett samtycke och oavsett om beslut fattas manuellt eller automatiskt. Typiska träffar: call center-verktyg som larmar vid stress, mötesanalyser som bedömer engagemang, telematik-AI som identifierar trötthet hos förare (grå zon, säkerhetssyftet kan aktivera undantag men juridiken är oprövad).
Exploatering av sårbarhet fångar dynamisk prissättning som använder ålder, funktion eller ekonomisk situation för att pressa priser uppåt. Typiska träffar: e-handelsplatser som höjer priser för ålderspensionärer baserat på demografisk data, kreditinstitut som använder ekonomisk utsatthet som grund för att erbjuda sämre villkor.
Social scoring är sällan aktuellt i svensk kontext men kan aktiveras om organisationen själva skapar poängssystem baserat på kundernas beteende över flera områden.
Art. 5 är direktverkande. IMY är primär marknadskontrollmyndighet för förbudsaspekten. Parallella regelverk förstärker flera punkter. GDPR Art. 9 förbjuder i princip behandling av särskilda kategorier (religion, politisk åsikt) utan specifik rättslig grund, vilket överlappar med Art. 5 om biometrisk kategorisering. Arbetsmiljölagen och MBL påverkar emotionsigenkänning på arbetsplats där fackliga förhandlingar kan komplicera införande även innan juridisk prövning skett. Marknadsföringslagen reglerar vilseledande affärsmetoder och kan aktiveras parallellt med Art. 5 punkt 1 bokstav a om subliminala tekniker.
Nej. Art. 5 har ingen samtyckesundantag för förbjudna praktiker på arbetsplats och i skola. Samtycke är ogiltigt eftersom maktobalansen gör det icke-frivilligt. Undantag finns endast för medicinska eller säkerhetsmässiga syften.
Art. 5 punkt 1 bokstav a förbjuder subliminala tekniker i AI-system specifikt. Det inkluderar AI-drivna dynamiska layouter som pressar konverteringar via dolda beteendetriggers, rekommendationslogik som exploaterar psykologiska sårbarheter, och AI-genererat innehåll med medveten beteendemanipulation. Konsumentskyddslagen gäller parallellt men AI Act lägger till specifik AI-komponent.
Nej. Art. 5 punkt 1 bokstav h tillåter realtidsbiometri i offentliga utrymmen endast i tre smala fall: riktad sökning efter specifika brottsoffer, förhindrande av omedelbart hot mot liv eller säkerhet, och lokalisering av misstänkt för grova brott. Kräver förhandsgodkännande av judiciär eller oberoende administrativ myndighet.
Normalt inte. Sakförsäkringspriser baserade på riskbedömning är tillåtet om metoden är aktuariellt grundad. Social scoring i Art. 5:s mening kräver bedömning av beteende eller personliga egenskaper över flera områden som inte är direkt relaterade till den specifika tjänsten.