Hoppa till innehållet

Stoppa Chat control

EU är på väg att införa en lag som innebär att all din kommunikation kommer att övervakas. Och du har antagligen aldrig hört talas om den.

Ladda ner vår broschyr Stoppa chat control

Satire

Skapa säkra platser på internet för barnen. Istället för att göra internet osäkert för alla.

EU-kommissionen arbetar under 2023 med ett lagförslag som kallas för chat control. Lagförslaget innebär att samtliga EU-medborgare ska få sin kommunikation övervakad och granskad: alla dina telefonsamtal, varje gång du ringer i videoläge, alla dina sms, varenda rad du skriver i olika meddelandeappar, dina mejl, chattkonversationer du har i tv-spel och dejtingappar, rubbet – allt kommer att filtreras i realtid och potentiellt fastna för noggrannare genomgång. Det här gäller även bilder och filmer som du sparar i molntjänster och plötsligt så innefattar lagen i princip allt som du gör med din mobiltelefon. Med andra ord: ditt privatliv står helt naket inför statlig beskådning. Trots att lagen kommer att påverka alla EU:s invånare har de flesta aldrig hört talas om den. Det är hög tid att börja debattera det här lagförslaget och se till att det dras tillbaka (åtminstone om man vill värna om mänskliga rättigheter och en demokratisk utveckling i EU).

EU-kommissionen påstår att lagen ska införas för att upptäcka och förhindra barnpornografi och grooming (vuxna som tar kontakt med barn i sexuellt syfte). Problemet är bara att lagförslaget knappast hjälper barnen, utan istället gör internet till en osäker plats för alla. Vi kommer till de stora risker som finns ifall lagen blir verklighet. Men låt oss först förklara hur det hela är tänkt att gå till och hur det medför en total kränkning av ditt privatliv.

Slutet för krypterad kommunikation: När tror du att du har ett enskilt samtal med en annan människa kommer ni alltid vara tre i den konversationen.

Hur ska det egentligen gå till när EU skapar ett massivt övervakningssystem av alla EU-medborgares kommunikation? Eftersom det här lagförslaget även innefattar krypterade meddelandetjänster leder det två alternativ. Antingen så kräver EU en bakdörr till all kommunikation. Alltså att varje konversation har en tredje part som lyssnar in. Eller så måste kommunikationen avlyssnas på telefonen eller datorn innan den lämnar enheten och skickas iväg. Båda alternativen innebär att all privat konversation inom EU är över. Det i sig leder till ödesdigra konsekvenser som vi återkommer till. Men först är det värt att ta en titt på all den här enorma mängden kommunikation ska övervakas och sorteras.

Artificiell intelligens kommer att dränka polisen i foton från familjesemestern och intima sms mellan 20-åringar.

Om den här lagen blir verklighet kommer EU kräva att företagen som tillhandahåller digitala tjänster ska leva upp till chat control och göra sin plikt. Alla digitala företag ska se till att AI-verktyg skannar alla deras användares kommunikation för att hitta barnpornografiskt innehåll eller kontakt mellan vuxna och barn i sexuellt syfte, sen ska de antingen själva granska materialet eller skicka vidare det till ett nytt EU-centrum som ska byggas (vi har många dystopiska namnförslag här, men det tar vi en annan gång).

Vi tar det igen: AI ska skanna alla medborgares kommunikation i jakt på det här materialet. Hur bra tror du att det kommer att gå? Polismyndigheter i Europa har testat att göra sökningar utifrån redan känt material och då har 80 till 90 procent av träffarna varit falska (alltså helt vanliga bilder). Chat control-lagen kräver dessutom att ”nytt material” ska upptäckas, vilket innebär att AI-verktygen ska avgöra om de är olagligt material eller bara intima sms mellan partner, nakenbilder som 20-åringar skickar till varandra, semesterbilder från stranden, familjealbum med foton från plastpoolen där badbyxorna sitter på huvudet och skummet yr. Det här systemet kommer att samla in oändligt mycket privata bilder och konversationer (helt lagliga) från hela EU:s befolkning. Det är en kränkning som är svår att hitta motsvarigheter till. Och frågan är, vad händer med bilderna?

Vi har läst historier om privata bevakningsbolag som skickat runt material på kontoret som de absolut inte borde skicka runt. Vi har hört Edward Snowden berätta för oss om hur NSA-anställda brukade sitta och spana på nakna kvinnor. Vad talar för att den här enorma mängden anställda som ska sköta den här granskningen gör det bättre? Och vilka är de ens? Varför har de sökt jobben och hur säkra kan vi vara på att de inte sprider materialet vidare (även de olagliga bilder som de är anställda att upptäcka). Men det här är inte ens de största bekymren som chat control för med sig.

En total massövervakning vars motsvarighet bara går att hitta i totalitära stater. Vad kommer det här massiva systemet att söka efter i framtiden?

Redan vid ett första införande av det här systemet innebär det en total kränkning av privatlivet. Men det finns ytterligare en sak att oroa sig över. Och det är hur systemet kan utnyttjas av olika regeringar i EU. För när systemet väl är på plats, när krypterade meddelandetjänster är ett minne blott och alla människors kommunikation går att lyssna på, då kan man när som helst ställa om systemet och söka efter annat. Under 2022 fick fem EU-länders regeringar kritik för att de hade övervakat politiska motståndare. Vad tror du att de kommer att använda det här verktyget till? Tänk på det mest auktoritära EU-land du kan komma på. Tänk nu på det här massövervakningssystemet. Kommer vi som EU-medborgare ens att få veta vilka ”extra sökningar” som underrättelsetjänster och makthavare kommer att göra? Eller kommer det att krävas en visselblåsare för att avslöja det (det blir förvisso betydligt svårare att blåsa i visslan utan krypterade meddelandetjänster)?

Det går att jämföra det här tilltänkta massövervakningssystemet med den övervakning som finns i USA, där myndigheter har en bakdörr in till sociala medier-företag och där de stora techjättarna redan gör den här typen av sökningar. Men det som gör det här EU-förslaget än värre är att det även inkluderar krypterade meddelandetjänster. I USA går det fortfarande att skicka säkra meddelanden via krypterade tjänster. Skulle chat control bli verklighet skulle Europa ta taktpinnen som västvärldens mest teknikdystopiska företrädare.

Chat control skulle äventyra alla människors säkerhet på internet.

Eftersom chat control skulle innebära slutet för krypterade meddelandetjänster betyder det att vi aldrig kan vara säkra på att vår kommunikation inte läcker. Det i sig är ett problem för företag som arbetar på en ny produkt som de tänkt patentera. Det är ett problem för de som pratar digitalt med sin psykolog, advokat, läkare eller annan med tystnadsplikt. All den här kommunikationen kan läcka genom att den som granskar råkar vara fel person (ekonomiskt motiverad, pressad på annat sätt eller bara intresserad av att läcka materialet alternativt har svårt att hålla tyst inför kollegor och vänner) eller om konversationen hackas. Dataläckor kommer att få en helt ny innebörd i och med chat control. Allvarligt talat: inser inte EU-kommissionen att ett internet där all kommunikation konstant lever med en förhöjd risk att hackas eller läcka är en Pandoras ask som vi inte bör öppna?

Men värst är det för de som verkligen har något att dölja: visselblåsare, anonyma källor, journalister som jobbar i auktoritära länder, politiska motståndare i stater där oppositionella förföljs, människor som lever med hemlig identitet på hemlig ort för att de måste hålla sig undan tidigare våldsamma relationer, för att inte tala om barn som vill kunna flagga för en vuxen och vara säker på att samtalet inte läcker.

Lagförslaget bryter mot de mänskliga rättigheterna. Borde det inte räcka för att förpassa chat control till historiens sophög?

I grunden handlar det här om vilket EU vi vill ha. Lagförslaget bryter mot Europakonventionen, mot EU:s rättighetsstadgan och FN:s deklaration om de mänskliga rättigheterna, som säger att alla har rätt till ett privatliv och privat korrespondens. EU:s dataskyddsmyndighet sågar förslaget. FN:s mänskliga rättigheter-kommissionär varnar för det. Men allt detta vet EU-kommissionen om. De nämner det till och med själva i lagförslaget: ”Även om rätten till respekt för privatlivet och familjelivet, skyddet av personuppgifter samt yttrande- och informationsfriheten är mycket viktiga är det ingen av dem som måste skyddas till varje pris.”

När man tar en titt på hur massövervakning har gått till i historien så är den fylld av exempel där den gått från ett syfte till ett annat. Ändamålsglidningen är total på det här området. Det betyder att människor inte kommer att vara säkra på om de är avlyssnade eller inte och när människor känner sig övervakade självcensurerar de sig. Till en början kommer vi att tänka oss för innan vi skriver något snuskigt till en partner och vi kommer att vara noga med vilka sorts bilder vi tar. När vi sen bara anar att systemet kanske kollar annat, då kommer vi att anpassa oss efter det. Till sist leder självcensuren till att fria samtal begränsas. Förändringen kommer inte som en käftsmäll utan den smyger sig på. Installerar vi den här typen av bakdörrar är det bakdörrar där vår frihet sakta sipprar ut. När vi inte kan ha privata samtal slår vi undan en av de grundstenar som ett demokratiskt samhälle bygger på.

Chat control kommer inte ens att hjälpa barnen.

Vi kommer i den här texten inte gå in på hur dåligt lagförslaget är skrivet, hur svårt det blir att implementera och vad det skulle innebära för EU:s ekonomi, teknikutveckling och företagande. Lagförslaget är så inkräktande och kränkande att det inte går att tolka som något annat än att man knuffar barnen framför sig som ursäkt för att införa total massövervakning. Men om vi bortser från det och ägnar några rader åt det påstådda syftet: chat control kommer inte ens skydda barnen.

Till att börja med kommer flaggningen av falskt material att dränka myndigheterna i arbete och ta resurser från jakten på brottslingarna. Inte ens idag hinner polisen följa upp alla fall på det här området. De ligger på hög och väntar. Ett införande av chat control skulle kosta otroliga summor bara för att hålla igång byråkrati, system, mjukvara, underhåll och det enorma antal anställda som ska följa upp allt som rapporteras. Tänk om man kunde satsa de pengarna på att jaga brottslingarna istället.
Dessutom skulle chat control inte ens komma åt brottslingarna, för de hittar alltid andra vägar. De kommer inte att använda kommersiella kanaler som de vet är avlyssnade. De kommer att kryptera sina meddelanden själva (det är jobbigt, men det går om man är motiverad) eller vända sig till olagliga krypterade tjänster. De kommer att jobba med länkar som inte fastnar i filtret och med zippade arkiv. Om lagen och tekniken anpassar sig gör de det också.

Lägg resurserna på att skapa säkra platser för barnen och låt polisen lägga tid och kraft på att jaga brottslingarna.

Det finns inget enkelt svar på hur man löser problemet med barnpornografi och grooming. Men en sak är säker: det är inte genom att införa chat control. Vi har ingen färdig lösning, men skulle vilja rikta diskussionen och arbetet i en annan riktning.

Innan vi börjar diskutera vad vi tror är en framkomlig väg, så är det relevant att berätta att lagförslaget chat control dessutom förbjuder barn att använda sociala medier. Det verkar vara EU-kommissionens lösning på själva grooming-delen och vi tycker att det är en ganska talande bild för hur verklighetsfrånvänd chat control-lagen är. Lagförslaget kräver helt enkelt att app-butiker ska införa säkra ålderskontroller (vilket dessutom gör det omöjligt att vara anonym och använda de här tjänsterna) och blocka barn från att använda tjänster där kontakt med vuxna kan ske (vilket betyder alla appar). Även om vi ser en del positiva effekter med att barn tillbringar mindre tid på sociala medier, så tror vi på en annan lösning när det gäller grooming.

Vi föreslår att man istället för chat control utreder och arbetar för att hitta en teknisk lösning som gör det enklare för (vissa) sociala plattformar att vara säkra för barn. Man skulle kunna jobba med krav på tillförlitlig identifiering och förbud mot konversationer mellan vuxna och minderåriga om de inte konfirmerats av till exempel en identifierad förälder och andra lämpliga åtgärder som skulle behöva för att klassas som en ”barnsäker plattform”. Det finns garanterat sociala medier idag som skulle vara intresserade av ett sådant certifikat. Stora aktörer skulle sedan kunna dela med sig av själva tekniken till mindre plattformar, så att ett verktyg som detta skulle kunna få bra spridning och inte kosta för mycket resurser och pengar för mindre aktörer.
Alla plattformar skulle inte omfattas av detta. Om man går i den här riktningen innebär det att sociala plattformar som vill bidra till säkra platser på internet för barnen kan göra det. Och samtidigt kan människor som faktiskt har något att dölja och som måste förbli anonyma för sin egen säkerhets skull använda andra meddelandetjänster.

Att bygga en infrastruktur likt den här skulle kräva en del arbete. Det finns flera frågor som behöver utredas: Hur ska identifieringen gå till? Hur undviker man att äldre syskon hjälper barnen att falsk-identifiera sig? Hur vet man att inte brottslingar använder sina egna barns identiteter? Kanske behöver en teknisk lösning likt den här kombineras med andra verktyg som gör det enklare för föräldrar att hålla koll. Det finns flera aspekter att ta hänsyn till och vi hoppas att man med rätt expertis lägger arbetsbördan här istället. Att ta fram säkra platser för barn på internet är inte gjort i en handvändning, men det skulle medföra betydligt mindre arbete än den apparat av imperialistiska mått som chat control skulle innebära.

Till sist: Säkrare platser för barnen på internet skulle inte stoppa spridningen av redan befintligt material. Nej. Men det skulle inte chat control heller. Det där är upp till polisen att lägga fullt fokus på, istället för att sitta och scrolla igenom hela EU:s samlade familjealbum.



Mullvad är ett svenskt VPN-bolag och vår verksamhet påverkas inte direkt av en eventuell chat control-lag. Vi är ändå starka motståndare till lagförslaget eftersom vi bryr oss om de mänskliga rättigheterna och för att personlig integritet är det vi brinner för. Utan rätten till privata samtal dör samhället.

Vi uppmanar Sveriges riksdag och regering att rösta nej till lagförslaget under 2023. Och vi uppmanar alla Europas politiker att satsa resurserna på att jaga brottslingar istället för att övervaka hela befolkningar.