I många år har användare av sociala medier rapporterat märkliga fenomen. Influerares inlägg på Instagram förlorar plötsligt lejonparten av alla interaktioner, som om deras följare inte längre såg deras inlägg. Twitterinlägg försvinner oförklarligt från platser där de borde ha dykt upp. Att hitta framstående republikaners Twitterkonton blir plötsligt svårare än att hitta framstående demokraters konton.

Detta, att inlägg eller konton blir mindre synliga eller till och med helt osynliga, kallas ”shadowbanning” – skuggblockering. Medan inlägg som bryter mot reglerna tas bort, kan inlägg som av en eller annan anledning betraktas som oönskade av en social medieplattform prioriteras ned så att de visas för färre följare. Idén är från början att minska spam, men det kan även drabba verifierade användare med stora följarskaror.

De drabbade menar att det är en konsekvens av Silicon Valleys politiska slagsida. De sociala medieplattformarna brukar å sin sida förklara fenomenet med att det är en bugg. Den förklaringen avfärdas nu som statistiskt osannolik av en grupp franska forskare. I stället menar de att skuggblockering sprids som en epidemi mellan användare som interagerar med varandra. Följer du någon som har drabbats är risken högre att det kommer att hända även dig.

Bara en bugg?

Forskarna, som kommer från tre franska forskningsinstitut med IT-fokus, valde att undersöka Twitter. Det är inte en slump. Hur plattformen modererar användarnas inlägg har de senaste åren varit föremål för flera kontroverser.

Sommaren 2018 blev en av dem så uppmärksammad att den dåvarande amerikanske presidenten Donald Trump twittrade om fenomenet skuggblockering. Bakgrunden var ett reportage i Vice om att kända republikaner var svårare att hitta på Twitter än kända demokrater. 

I vanliga fall föreslår Twitter populära konton när man börjar skriva något i plattformens sökfält, men för att kunna hitta exempelvis Republikanernas partiordförande Ronna McDaniel, flera konservativa kongressledamöter och Donald Trump Juniors talesman behövde man skriva in hela namnet och trycka ”sök”, om man inte redan följde dem. Demokrater verkade däremot inte vara drabbade, vare sig partiordföranden eller någon av de 78 demokratiska ledamöterna i partiets största gruppering i kongressen.

”Vi är medvetna om att vissa konton inte automatiskt dyker upp när man söker och arbetar på en förändring för att ta itu med det”, skrev en talesman för Twitter till Vice efter att ha fått se skärmdumpar av sökningarna. Missförhållandet åtgärdades av Twitter så att de drabbade kontona åter blev enkla att hitta.

På frågan varför enbart konservativa republikaner och inte liberala demokrater verkade drabbas, skrev talesmannen: ”Jag skulle vilja betona att vår teknologi baseras på kontons *beteende* och inte innehållet i inlägg.”

I maj samma år hade Twitter i ett blogginlägg beskrivit vilken sorts beteende som leder till att man görs mindre synlig på plattformen, till exempel att inte verifiera sin e-post eller ofta nämna personer som inte följer en i sina inlägg. Dessa prioriteras ned till förmån för ”personer som bidrar till en sund konversation”.

– Detta är inte bevis på ett mönster av antikonservativ partiskhet eftersom vissa republikaner fortfarande dyker upp och vissa inte gör det. Det verkar bara vara ett kluster av konservativa som har påverkats. Om något, verkar det som att Twitters teknologi för att minimera konton i stället för att blockera dem helt enkelt inte är särskilt bra, sade professor Ari Ezra Waldman vid New York Law School till Vice.

Däremot var det många som tolkade reportaget så. Redan före Vice-reportaget hävdade konservativa profiler, både i och utanför den amerikanska kongressen, att de behandlades sämre av IT-jättarna i Silicon Valley.

En inblick i algoritmen

I praktiken är det svårt att veta om man har blivit skuggblockerad.

– De här algoritmerna läggs ofta fram som i en svart låda, vilket innebär att användare inte vet någonting om hur de fungerar, men ställs inför deras beslut som en konsekvens av vilken data de tillhandahåller, säger Erwan Le Merrer, en av forskarna bakom den franska studien, till Techxplore.

Att förstå hur algoritmerna fungerar är med andra ord svårt för en utomstående. Le Merrer och hans kollegor har utgått från öppen källkod – datorprogram vilkas kod allmänheten kan komma åt och ändra – som kan upptäcka vissa restriktioner på en Twitteranvändares synlighet.

– Vi förbättrade den här koden så att den kunde stödja omfattande testkampanjer och inspekterade synligheten för inlägg från omkring 2,5 miljoner Twitteranvändare, förklarar forskarna.

Denna data använde de sedan för att prova två hypoteser om varför vissa användares synlighet begränsas. Den första var den förklaringen som de sociala medieplattformarna själva brukar ge: att skuggblockering beror på buggar. Den andra var att skuggblockering ”smittar” mellan användare som interagerar med varandra.

Om buggar orsakade skuggblockeringen, skulle alla konton löpa samma risk att drabbas. Det skulle i sin tur speglas i statistiken. I stället visade det sig att vissa typer av användare drabbades i betydligt högre utsträckning än andra. Exempelvis skuggblockerades politiker och kändisar i lägre grad än automatiserade konton och slumpmässigt utvalda användare. Med andra ord: att buggar eller andra fel skulle orsaka skuggblockering är statistiskt osannolikt.

Politiken i Silicon Valley

I stället provade forskarna sin andra hypotes: att skuggblockering smittar. Det visade sig stämma. Forskarna stötte på en mängd kluster av skuggblockerade användare.

– Med andra ord visar vår modell att skuggblockerade användare i högre utsträckning har skuggblockerade vänner. Denna förekomst av skuggblockering omkring vissa användare och deras kontakter ifrågasätter verkligen Twitters påståenden om dess modereringsförfarande.

Orsaken till detta mönster i skuggblockering kan vara att de ansvariga algoritmerna behandlar kopplingar till skuggblockerade användare som ett argument för skuggblockering. Det kan också handla om att algoritmen riktar in sig på ord som är vanligt förekommande inom vissa grupper, skriver Techxplore.

Detta behöver inte bero på att IT-jättarna i Silicon Valley har en politisk slagsida. Att de lutar åt det demokratiska hållet finns det flera indikationer på, exempelvis att 98 procent av donationerna från internetföretag i förra årets amerikanska presidentval gick till Demokraterna. Det finns även indikationer på att sådana preferenser får genomslag i hur sociala medier agerar, till exempel ett uppmärksammat reportage i Gizmodo 2016 där en visselblåsare på Facebook berättade att hans arbetsgrupp regelbundet blockerade ”konservativa” nyheter från plattformens nyhetsspalt ”Trending”.

Enligt en undersökning som Pew Research Center gjorde 2018, tror 72 procent av USA:s befolkning att sociala medier avsiktligt censurerar vissa politiska uppfattningar. 43 procent uppfattar det som att IT-jättarna lutar åt det liberala hållet, medan bara 11 procent tror att de lutar åt det konservativa.

Om det verkligen ligger politiska motiv bakom skuggblockering går i dag inte att svara på. Vad den nya forskningen tyder på, att det åtminstone inte är en fråga om buggar, är dock ett steg på vägen mot att bringa klarhet i fenomenet. Forskningsrapporten kommer att presenteras på en konferens i maj, och gruppen ser sig redan om efter nya algoritmer att undersöka.

– Vi planerar att genomföra andra undersökningar av algoritmiska svarta lådor. Internettjänster exponerar nuförtiden sina användare för en stor mängd av dessa system (till exempel rekommendationssystem, kreditbetyg, många sorters rankning, etcetera), så valet kommer att bli svårt, säger forskarna till Techxplore.

Text: Bulletin/Nyhetsredaktionen