I industrialiseringens barndom var det säkert lätt att bli lyrisk över alla nya möjligheter och nyttigheter, men ganska svårt att se baksidorna, för att inte tala om de långsiktiga konsekvenserna. Till exempel hur utsläpp påverkar klimat och miljö

Även i de digitala plattformarnas era är det lätt att hänföras av möjligheter och nyttor. Se föregående avsnitt av denna bloggserie om plattformisering. Men tyvärr blir det allt tydligare att det även finns baksidor. Vissa är kanske mer principiella än praktiska, men jag menar att det inte får vara en ensamrätt för teknikskeptiska ”neo-ludditer” och konspiratoriska ”foliehattar” att ta riskerna på allvar. Därför är det utmärkt att kunniga personer med många olika perspektiv medverkar i samtänkandet. Darja Isaksson formulerar sig som vanligt väl i antologin: ”plattformar ökar våra möjligheter att göra skillnad, men inte nödvändigtvis vår förmåga att göra det på ett klokt sätt”.

Här är ett försök att sortera de utmaningar jag tycker mig kunna urskilja efter läsningen av ”Plattformssamhället”.

”Svarta lådor” gör det svårare att förstå världen

Jutta Haider och Olof Sundin konstaterar i antologin att det ofta är svårt eller omöjligt att få insyn i eller påverka plattformarnas algoritmer. Anledningen kan vara både omsorg om användarens upplevelse, affärshemligheter, juridiska och praktiska hinder för algoritmisk transparens. Henrik Blomgren tar upp en av fördelarna: Genom att teknikaliteter göms i en ”svart låda” blir det enklare att nyttja digitaliseringen. Vi behöver inte förstå exakt hur en bil fungerar för att kunna köra den, och på samma sätt är det naturligtvis med digital teknik. Men samtidigt blir det svårare att fatta kloka beslut.

Hus med utanpåliggande rördragning.

Det är inte så snyggt när tekniken är synlig för alla, men det blir lättare att förstå hur den fungerar. Och vem som helst kan upptäcka och åtgärda fel. På digitala plattformar däremot är kopplingarna ofta helt osynliga. Foto CC-BY-SA Jorge Royan.

Det är ”otroligt svårt att överblicka konsekvenserna av vad vi gör på nätet när data flödar mellan tjänster” skriver Olof Sundin. Vi har ingen aning om hur ”rören” är kopplade i de digitala plattformarna. Marina Svensson exemplifierar: ”en kinesisk app som används för att hyra cyklar i Uppsala och Stockholm samlar också in en mängd olika data kring etnicitet och religiös tillhörighet.” Med den nya dataskyddsförordningen kanske det räcker att alltid välja europeiskt? Nja, som Jutta Haider konstaterar: ”plattformar är globala och ägandet kan förändras”.

Jag menar att även den huvudsakligen datadrivna finansieringen och de ogenomträngliga användarvillkoren som ingen läser gör oss digitalt blinda. ”Genom att vi inte ser den verkliga kostnaden är det svårt att undvika oskäliga erbjudanden. Hur ska jag veta om appen är värd ’priset’ när beloppet är noll kronor?”.

”Ignorance är inte bliss” menar Amelia Andersdotter, men ”med bättre kunskap hos allmänheten kan vi komma långt för att skapa bättre ’cyberhygien’”.

Makt överförs till aktörer som vi inte kan påverka

Som användare betalar vi oftast inga pengar för att använda plattformarna. Men om vi studerar transaktionen lite närmare (vilket bland annat jag själv gör i ett av bokens kapitel) finner vi att betalningen ändå är att vi lämnar ifrån oss kontroll. ”Eller makt, om man så vill.”:

Vi som individer påverkas

Självklart påverkas våra ekonomiska val när vi använder plattformar som finansieras med reklam eller matchning av köpare och säljare. Men vår närvaro på plattformarna påverkar oss även på andra områden. Inte minst påverkar de hur vi spenderar vår tid. Eftersom plattformarna tjänar mer pengar ju starkare relation vi har med dem så tenderar de att optimeras för att vi ska ägna plattformarna mer tid och uppmärksamhet – inte för våra egna eller samhällets långsiktiga behov. Många liknar plattformarnas erbjudanden med snabbmat. Den har sina fördelar, men en klok person väljer ibland nyttigare alternativ.

Shoshana Zuboff går ännu längre i sin bok The Age of Surveillance Capitalism: ”Övervakningskapitalismen” raderar både den fria viljan och de fria marknaderna. Ett pedagogiskt exempel är Pokémon Go: De som använder appen upplever att de spelar ett spel, befolkat av digitala monster och ”pokestops”. I själva verket är användarna själva spelpjäser på en plattform, där de riktiga spelarna – alltså de som placerar ut det digitala innehållet - manipulerar inte bara användarnas tankar utan även deras fysiska rörelser

Vi har ofta inget val

Så länge det inte finns interoperabilitet och dataportabilitet så gynnar plattformslogiken en eller ett fåtal dominerande plattformar. Nätverkseffekter gör det svårt för nykomlingar att slå sig in. Tyvärr leder det till en ”winner takes it all”-situation där det inte nödvändigtvis är den bästa som är vinnaren.

Finns mina vänner på exempelvis Snapchat, Facebook eller Tiktok så måste jag välja samma. Annars blir jag utanför. Om jag ska sälja något så behöver jag i regel finnas på den dominerande plattformen för aktuell produktkategori. Annars får jag inte fulla marknadspriset. Vill jag använda e-post måste jag acceptera att Google kommer att analysera mina brev eftersom många använder G-mail. Har skolan köpt in Android-plattor så blir det svårt för mig att välja bort Google.

I Michael Forsmans kapitel läser jag att ”Plattformsföretag som Google, Apple och Microsoft är numera en förutsättning för att bedriva skolarbete.” Isobel Hadley-Kamptz skriver om megaplattformarna att ”Vi kan helt enkelt inte lämna dem.” Samma erfarenhet gjorde journalisten Kashmir Hill nyligen då hon försökte leva utan plattformsjättarna under några veckor. Det gick inte.

Det är svårt att påverka plattformarna

Förutom att vi inte kan välja bort plattformarna har vi svårt att påverka dem. I mitt eget kapitel tar jag upp de användningsvillkor som vi alla måste godkänna för att ens komma över tröskeln till de digitala tjänsterna.

En person står invid en hög mur av användarvillkor.

Avtalsvillkoren på tröskeln till varje plattform är ofta i praktiken ogenomträngliga för användarna, och mycket sällan förhandlingsbara. Det är ”take it or leave it” och ”one size fits all”, trots att digitaliseringen brukar vara så bra på att individanpassa.

I de allra flesta fall går det inte att förhandla om innehåll, och det går som sagt inte alltid att ”rösta med fötterna” och välja en annan plattform. Vissa plattformsägare är lyhörda för användarnas önskemål, andra närmast okontaktbara. För globala plattformar är det svårt att tillgodose alla önskemål. Stefan Larsson förklarar: ”Olika grupper kommer att ha olika kulturella standards och sociala normer, och en del av dessa är rentav direkt motstridiga andra.”. Ibland går det att påverka plattformarna på traditionell demokratisk väg via reglering. Men inte alltid.

Plattformarna utmanar nationalstater

Även från ett nationellt perspektiv kan plattformiseringen leda till minskad kontroll. Som Joakim Wernberg formulerar det: ”Digitala plattformars räckvidd utmanar nationella regleringars territoriella begränsningar”. Vilket lands lagar gäller när plattformarna är globala? Vad händer om myndigheter förlitar sig på utländska digital plattformar och dessa läcker information eller blir onåbara? Vad händer med inhemsk ekonomi om utländska plattformar täljer en stor del av alla transaktioner? Hur påverkar det nationell konkurrenskraft om vi inte äger några plattformar? Förlorar vi skatteintäkter om transaktionerna flyttas till en annan del av plattformen?...

Den som kontrollerar en dominerande plattform får makt, och med plattformiseringens winner takes it all-logik skapar detta maktkoncentration. Människor är inte ofelbara, och när den som fått stor makt gör fel så får det stora konsekvenser. När Jutta Haider får frågan (om plattformarnas algoritmer) ”Vilka maktaspekter finns i detta?” svarar hon ”Vilka maktaspekter finns inte i detta?”.

Både det privata och det offentliga rummet krymper

Som Michael Forsman konstaterar innebär lärplattformarna att elevernas framsteg kan analyseras löpande istället för i samband med examination. Det kan absolut finnas fördelar med detta, men inte desto mindre innebär det att eleven blir mer och mer övervakad. Och övervakningen ökar inte bara i skolan. Nästan alla plattformar profilerar sina användare för att kunna optimera matchning och användning. ”Det som tidigare var skeenden ’mellan skål och vägg’ förvandlas till kvantifierbara artefakter som därmed ligger till grund för analys, hantering och handel av information i den digitala ekonomin.” skriver Jonas Andersson Schwartz och Stefan Larsson.

Integritet är ett svårdefinierat begrepp. Jag tror att Darja Isaksson kommer ganska nära med ”integritet är ett begrepp som till stor del handlar om makten att välja sin egen grad av synlighet för andra”. Amelia Andersdotter beskriver dataskydd med liknande terminologi: ”att sätta privatpersoners egna preferenser, viljor och möjligheter att förstå och påverka sin egen person och omvärld i centrum”.

Professorn i etik Susanne Wigorts Yngvesson har i boken Övervakad: Människor, maskiner & Gud (Timbro 2018) redogjort för djupgående existentiella konsekvenser av att ständigt vara betraktad. Som många andra återkommer hon till Jeremy Benthams idé om ett ”panoptikon”.

Arkitektonisk realisering av panoptikon-iden: Ett fängelse med vakttorn i mitten och celler i periferin.

Fängelse där vakten alltid kan se alla. Foto CC BY-SA 3.0 Wikipedia user Friman.

Fängelser utformas ibland som så kallade panoptikon, alltså så att en övervakare ständigt har möjlighet att betrakta vilken cell som helst. Att tvingas leva under sådana förhållanden är ett straff. I praktiken har internet – inte minst på grund av plattformiseringen – kommit att bli ett digitalt panoptikon. Det finns förvisso skillnader. De digitala övervakarna är oftast bara just digitala. Programvaror som vi inte ser och lättare glömmer bort. Och vi är inte inlåsta. Eller hur var det nu igen?

Så länge övervakningens enda konsekvens är skräddarsydd reklam som finansierar tjänsterna är det kanske okej. Men utvecklingen i Kina visar tydligt att övervakningen kan få betydligt större konsekvenser. Varje ord, varje möte, varje köp kan registreras, och om jag har andra värderingar än den som för tillfället kontrollerar systemet så straffas jag. Automatiskt. Faktiskt även om jag har ”rätt” värderingar finns det risk för att jag straffas, då systemet trots alla inte mäter allt, och lätt kan missförstå mig. Vem vågar ens föra ett hypotetiskt resonemang när ”likes” från en politiskt styrd AI avgör mina och mina anhörigas livschanser?

Det är inte bara privatlivet som hotas. När en stor del av samhällsdebatten flyttar in i en handfull privatägda plattformar krymper också det helt offentliga rummet. De flesta plattformarna är i och för sig väldigt inkluderande och bjuder in alla som vill, men fortfarande måste du godkänna plattformens villkor. Än så länge kan du i praktiken yttra vilken åsikt som helst både på digitala plattformar och på torget. Skillnaden är att den som eventuellt stoppar dig på torget är en polis som agerar utifrån demokratiskt beslutade lagar medan den som eventuellt stoppar dig på en digital plattform är ett privat företag som agerar utifrån ägarens direktiv, möjligen i kombination med lagarna i ett land där du aldrig satt din fot.

En person med texten "Rösta på mig" på tröjan säger en sak "Jag lovar A" till en väljargrupp och motsatsen "Inte skulle väl jag" till en annan. Alla står på en plattform. 

När politiker sprider budskap och vallöften på ett torgmöte kan vem som helst lyssna, och komma med motargument. På digitala plattformar kan de rikta olika – mer eller mindre motstridiga - vallöften till olika delar av befolkningen.

Med hjälp av sådana ”Dark posts” som Hadley-Kamtz kallar det kan budskapen i praktiken stå oemotsagda. Det i sin tur kan leda till att politiska program som är logiskt osammanhängande kan vinna val. Var detta förklaringen till Trump och Brexit?

Plattformslogiken kan leda till politisk radikalisering

Isobel Hadley-Kamptz skriver i sitt kapitel ”[…] Trump och högerpopulismen tror jag till inte liten del måste förstås utifrån internet […]”. En delförklaring är att de sociala plattformarna optimerar sina algoritmer att öka vårt engagemang på plattformen snarare än för samhällets goda. ”Det är känslor som får oss att vilja gilla och dela och göra kommentarer.” Därför gynnas extremism av plattformarna, även om plattformens ägare bara ville skapa engagemang. 

Två personer som skriker åt varandra.

Starka känslor ger stort engagemang, vilket plattformarna premierar. Illustration: Geralt @pixabay

Plattformslogiken kan utnyttjas av hänsynslösa

Det finns även exempel på att algoritmerna utnyttjas medvetet på ett sätt som skadar användare. Mest uppenbart är kanske spam och olika typer av nätbedrägerier för kommersiell vinnings skull. Bland annat på Youtube finns en hel del material som riktar sig till barn och med hjälp av skamlös exploatering av plattformens algoritmer utsätter barnen för rent skräp för att få del av annonspengar. Isobel Hadley-Kamptz exemplifierar med trollfabriker som använder plattformarna för att påverka politiskt och ”så split och söndring”. 

Det papperslösa samhället förpapprar samhället

Redan när vi sa ”ADB” eller ”datorisering” var en av visionerna ”det papperslösa samhället”. Ur skogsnäringens perspektiv kanske digitaliseringen är på väg att ta oss dit, jag vet inte, men en utveckling som gått hand i hand med plattformiseringen är faktiskt en ökad ”förpappring”, alltså ökade krav på dokumentation och mätningar. (Termen blev ett av Språkrådets nyord 2018 efter att filosofen Jonna Bornemark använt det i sin samtidsbetraktelse Det omätbaras renässans.)

Bakgrunden är att plattformarna är just digitala. Även om digitala system kan hantera nyanser utmärkt så behöver de kvantifiera världen, och plattformarna blir som allra mest rationella när de kan organisera världen med mallar. Så vi mäter och räknar och fyller i formulär som aldrig förr. En datadriven digital plattform behöver inte basera sig på stickprov. Alla användare kan inkluderas i statistiken! Detta ger påvisbar nytta. Enkla nyckeltal som gör det lätt att följa upp. Sakliga underlag för beslut. SMARTa mål och rättssäkerhet. Eller? 

Michael Forsman lyfter fram farhågan att skolan blir ”en fabrik för det som är mätbart” och ”närmast motsatsen till de ideal om lärande som social och delad aktivitet som brukar kopplas samman med bildning som term för kvalificerad, reflekterad och omdömesgill kunskap”.

Farorna med digital förpappring redovisas kanske allra bäst i matematikern Cathy O’Neills bok ”Weapons of Math Destruction”. Till exempel kan konsekvenserna bli mycket olyckliga om vi mäter fel saker. Både för enskilda individer som inte får en rättvis behandling, och för samhället i stort.

Automatisering kan reproducera befintliga missförhållanden

Stefan Larsson konstaterar att de enorma mängder användare som plattformarna hanterar tvingar fram maskininlärning. Ett problem med maskininlärning är dock att den måste utgå från data. När det finns skevheter i befintliga data så riskerar skevheterna att fortplanta sig genom system som baseras på sådan maskininlärning. Det är därför vi ser exempel på AI som blir rasistisk, som diskriminerar kvinnor eller på andra sätt upprepar missförhållanden som finns i världen. 

Isobel Hadley-Kamptz nämner en besläktad problematik: När big data och självlärande algoritmer används för att optimera försäljning kan det råka leda till exploatering av svagheter hos exempelvis personer med vissa psykiatriska diagnoser.

 

Darja Isaksson konstaterar i boken att ”det går snabbt nu, och en av de viktigaste utmaningarna plattformarna ställer oss inför är därför att hitta svaren på hur vi som samhälle kan dra nytta av de många fördelar plattformar ger, och samtidigt klara av att hantera de skadliga effekterna”. Nästa avsnitt handlar just om hur samhället skulle kunna förhålla sig till plattformiseringen.

Samtänk om digitalisering! En bokcirkel i fem delar.

Blogginlägg av Pär Lannerö om digitalisering och plattformisering, utgående från Fores antologi ”Plattformssamhället”.