Remissvar EU-kommissionens förslag till förordning om harmoniserade regler för artificiell intelligens - Sveriges Konsumenter

Sammanfattning

Sveriges Konsumenter välkomnar i grunden Europeiska kommissionens förslag och dess riskbaserade angreppssätt, men anser att ett tydligt konsumentperspektiv saknas. Det märks inte minst med tanke på avsaknaden av särskilda konsumenträttigheter.

För att förbättra förslaget måste definitionen av högriskapplikationer i artikel 6 vidgas eller fler regler och krav införas även för övriga applikationer. Vidare måste ekonomiska skador inkluderas i artikel 5.1.a och listan på sårbara grupper i artikel 5.1.b utvidgas och göras icke uttömmande.

Vi ställer oss frågande till att varken Sveriges Konsumenter eller Konsumentverket bjudits in till att svara på denna remiss. Vi inkommer trots detta med vårt yttrande och uppmuntrar Infrastrukturdepartementet att i framtida remisser och konsultationer på området se till att konsumenternas perspektiv hörsammas.

Sveriges Konsumenter vill särskilt lyfta följande:

Vi beklagar att förslaget saknar ett tydligt konsumentperspektiv och att det inte tillskriver konsumenter några särskilda rättigheter, till exempel möjligheten att bestrida algoritmiska beslut.

Europeiska kommissionen tycks i stället förlita sig på att ett fullgott konsumentskydd på AI-området kan uppnås genom existerande konsumentskyddslagstiftning^². Vi ställer oss tveksamma till detta. Den rättighet att bestrida automatiserade beslut som återfinns i GDPR gäller exempelvis inte om beslutet grundat sig på konsumentens samtycke eller om beslutet inte är helt och hållet automatiserat².
Definitionen av högrisk-applikationer är för snävt avgränsad med tanke på att övriga applikationer är exkluderade från många av förslagets regler och krav³. Det innebär att många av de AI-applikationer som konsumenter möter i sin vardag kommer att vara oreglerade annat än vad gäller vissa svaga transparenskrav.
Exempel på applikationer som exkluderas från högriskkategorin är uppkopplade leksaker, smarta högtalare samt applikationer som avgör försäkringspremier och som används för att avläsa personers känslotillstånd. För dessa applikationer föreslås att det räcker med att konsumenten informeras om deras användning⁴.

För att förbättra förslaget bör antingen definitionen av högriskapplikationer vidgas eller så bör fler regler och krav införas även för övriga applikationer⁵.
Listan på sårbara grupper i artikel 5.1.b utesluter felaktigt att konsumenter kan vara sårbara på grund av andra faktorer, till exempel ekonomiska eller beteendemässiga. I digitala kontexter där företag lätt kan personanpassa kommunikation och layout är alla konsumenter sårbara vid vissa tillfällen⁶.

Förslaget kan förbättras genom att ekonomiska skador inkluderas i artikel 5.1.a och att listan på sårbara grupper i artikel 5.1.b utvidgas och görs icke uttömmande.

Sinan Akdag, expert på digitala frågor.

23 juni, 2021