Europeiska kommissionens förslag till förordning om harmoniserade regler för artificiell intelligens

Myndigheten för delaktighet tillstyrker kommissionens förslag.

Myndighetens synpunkter

För att alla ska kunna gynnas av de möjligheter som Artificiell intelligens (AI) erbjuder måste de tjänster som bland annat hänvisas till i Annex III utvecklas med slutanvändarnas olika behov och förutsättningar i åtanke. Detta för att i högre utsträckning säkerställa att ingen vare sig missgynnas eller lämnas utanför. I dag finns risker i själva inlärningsprocessen för AI-system som kan leda till partiskhet och systematisk orättvisa i bedömnings-processer som regelmässigt kan missgynna redan marginaliserade grupper, så kallad bias. Om hänsyn exempelvis inte tas till att den träningsdata som används i AI-system kan bära på historisk bias, vara ofullständig eller icke-representativ eller att de som programmerar systemen bär med sig sina antaganden, erfarenheter och förväntningar finns det risk för att reproducera och förstärka denna bias i de system och datamodeller som utvecklas. Det riskerar också att medföra att exempelvis personer med funktionsnedsättning antingen missgynnas eller helt exkluderas från fördelarna med AI-systemen.

Myndigheten för delaktighets bedömning är att den föreslagna förordningen utgör behövliga riktlinjer som adresserar dessa risker och som möjliggör för ett ansvarsfullt utvecklande samt användande av AI-system i framtiden. Myndigheten för delaktighet tillstyrker därför kommissionens förslag.