Sveriges Konsumenter uppmanar i dag tillsammans med 13 europeiska och en rad amerikanska konsumentorganisationer till snabba åtgärder för att säkerställa ett starkt konsumentskydd inom generativ AI.
Det är mot bakgrund av en ny rapport från den norska konsumentorganisationen Forbrukerrådet som en samlad konsumentrörelse på båda sidor av Atlanten slår fast att det är bråttom att applicera befintlig lagstiftning på den nya tekniken.
– Det är inte läge att vänta in ett nytt regelverk när vi ser en så snabbt växande användning och utveckling av de här tjänsterna. Redan i dag ser vi tydliga risker för konsumenter, därför behöver vi tillämpa de generella konsumentskyddsregler som redan finns och som kan appliceras på AI. För varje dag som går hamnar vi mer och mer på efterkälken, säger Sinan Akdag sakkunnig på Sveriges Konsumenter.
Tydliga risker för konsumenter
I rapporten ges exempel på vilka utmaningar och risker som generativ AI för med sig. Det handlar om inbyggd diskriminering, dålig transparens, desinformation, integritetsproblem, klimatpåverkan, usla arbetsförhållanden för innehållsgranskare och en ännu större maktkoncentration hos ett fåtal amerikanska jätteföretag.
– En av de större utmaningarna är bristen på insyn i systemen. Det är omöjligt för konsumenter att på egen hand upptäcka att AI-tjänsten de använder sig av har gjort ett allvarligt misstag eller att de blir diskriminerade eller lurade att köpa en undermålig produkt. Här måste ansvaret läggas på företagen bakom systemen, inte enskilda konsumenter, säger Sinan Akdag.
Nya AI-lagen kan dröja flera år
Nyligen röstade EU-parlamentet fram en gemensam hållning gällande den nya AI-lagstiftning som snart ska börja förhandlas med ministerrådet och EU-kommissionen. Parlamentets hållning stärker delvis konsumentskyddet och skulle innebära specifika regler för generativ AI. Men – lagstiftningen väntas vara på plats först under 2026.
Sveriges Konsumenter uppmanar därför i ett brev till Konsumentverket, Integritetsskyddsmyndigheten och Konkurrensverket att utan fördröjning undersöka hur befintlig lagstiftning kan användas för att skydda konsumenter som använder sig av de nya tjänsterna.
Som exempel på befintlig lagstiftning som kan appliceras på generativ AI lyfter rapporten bland annat direktivet om otillbörliga affärsmetoder, vilket skyddar konsumenters förmåga att fatta välgrundade beslut. I Sverige är direktivet genomfört i marknadsföringslagen som förbjuder aggressiv och på olika sätt vilseledande marknadsföring.
– Vi har dessutom en ny produktsäkerhetsförordning på ingång som för första gången kommer att vara applicerbar på mjukvara, och GDPR som reglerar hur persondata får användas av AI-modeller, säger Sinan Akdag.
Stå emot big tech-företagens lobbying
Konsumentorganisationerna bakom uppropet menar samtidigt att existerande lagstiftning måste uppdateras med nya vägledningar och att helt ny lagstiftning – som i form av den europeiska AI-akten – är helt nödvändig för att täppa till de kryphål som generativ AI kan ge upphov till.
– Det är av största vikt att EU skapar en så vattentät EU-lagstiftning som möjligt för att skydda konsumenter från skadliga användningar av den här tekniken. Vi uppmanar EU:s institutioner att stå emot big tech-företagens lobbyförsök att urvattna konsumentskyddet i den kommande lagstiftningen, säger Ursula Pachl, vice direktör för den europeiska konsumentorganisationen BEUC.
Det här är generativ AI
Generativa AI-modeller lär sig från stora mängder träningsdata och identifierar mönster och strukturer i dessa för att skapa nytt innehåll. Det kan handla om text, bilder, ljud och video som liknar eller imiterar människoskapat innehåll.
Några av de mest välkända tjänsterna som använder generativ AI är Chat GPT, Midjourney, Stable Diffusion och Dall-E. Företag som Microsoft, Google och Snapchat har också integrerat teknologin i existerande tjänster som sökmotorer, textbehandlare och chattprogram.
Generativ artificiell intelligens är inte självmedveten och kan inte lära sig nya saker på egen hand, men den kan imitera mänskliga beteenden genom maskininlärning.
Nuvarande lagstiftning som kan appliceras på generativ AI
Direktivet om otillbörliga affärsmetoder (2005/29/EG)
En affärsmetod anses vara otillbörlig om den sannolikt kommer att innebära ”avsevärd snedvridning av det ekonomiska beteendet i förhållande till produkten hos den genomsnittskonsument som affärsmetoden riktar sig till...”.
I Sverige är direktivet i huvudsak genomfört i marknadsföringslagen (2008:486) som förbjuder aggressiv och på olika sätt vilseledande marknadsföring.
GDPR (EU 2018/680)
Dataskyddsförordningen kräver att personuppgifter som behandlas ska ha samlats in “för särskilda, uttryckligt angivna och berättigade ändamål” och inte senare behandlas på något annat sätt.
Dataskyddsförordningens artikel 22 reglerar automatiserat beslutsfattande. Första stycket anger förenklat att en konsument har rätt att inte bli föremål för ett beslut som enbart grundas på automatiserad behandling. De enda undantagen från detta är om det automatiserade beslutet är nödvändigt på grund av ett avtal, tillåts enligt annan lagstiftning eller grundar sig på konsumentens samtycke.
När företag samlar in personuppgifter ska de bland annat lämna information om “ändamålen med den behandling för vilken personuppgifterna är avsedda samt den rättsliga grunden för behandlingen” (art. 13.1.c) och informera om “förekomsten av automatiserat beslutsfattande, inbegripet profilering enligt artikel 22.1 och 22.4, varvid det åtminstone i dessa fall ska lämnas meningsfull information om logiken bakom samt betydelsen och de förutsedda följderna av sådan behandling för den registrerade” (art. 13.2.f).
Produktsäkerhetsdirektivet och -förordningen (2001/95/EG och EU 2023/988)
EU:s allmänna produktsäkerhetsdirektiv är en av grundbultarna för den inre marknaden. Direktivet innehåller tydliga skyldigheter för både tillverkare och distributörer att tillse produkters säkerhet. Tillverkare ska endast släppa ut säkra produkter på marknaden och ska lämna information som hjälper konsumenter att bedöma vilka risker som produktens användning kan medföra.
Direktivet ersätts i slutet av 2024 av en uppdaterad förordning, vilken tydligt inkluderar mjukvara som produktkategori, och tvingar företag att analysera produkters säkerhet över tid i samband med att system uppdateras eller förändras. Förordningen kommer också explicit ta hänsyn till produkters effekt på konsumenters mentala hälsa.
Organisationerna bakom kampanjen
- Adiconsum (Consumers and Environment Protection Association), Italien
- Consumentenbond, Nederländerna
- Consumers' Organisation of Macedonia (OPM), Nordmakedonien
- dTest (Czech Association of Consumers TEST), Tjeckien
- EKPIZO (Consumers’ Association “The Quality of Life”), Grekland
- Federación de Consumidores y Usuarios CECU, Spanien
- Forbrukerrådet (The Norwegian Consumer Council), Norge
- Ghaqda tal-Konsumaturi (Consumers' Association Malta), Malta
- Latvijas Patērētāju Interešu Aizstāvības Asociācija - Lpiaa (Latvian National Association for Consumer Protection), Lettland
- Neytendasamtökin – NS (The Consumers´ Association of Iceland), Island
- Sveriges Konsumenter, Sverige
- Tænk, Danmark
- Zveza Potrošnikov Slovenije - ZPS (the Slovene Consumers’ Association), Slovenien
- Irish Council for Civil Liberties (ICCL), Irland (ej medlem i BEUC)
- TACD = flera amerikanska konsumentorganisationer
Läs hela rapporten här.
För intervjuer:
Sinan Akdag, sakkunnig, sinan.akdag@sverigeskonsumenter.se, 072-061 69 40
Presskontakt:
Kristina von Dolwitz, kristina.von.dolwitz@sverigeskonsumenter.se, 072-061 73 26
20 juni, 2023