Utrikes.

2021-05-12 08:30
  • Bild: Jason Henry/The Guardian
  • ”Det kändes lite som reaktionen efter varje masskjutning. Folk är överens om att det är dåligt, men ingen kan komma överens om vad man ska göra åt det”, säger Sophie Zhang.  Bild: Jason Henry/The Guardian
    ”Det kändes lite som reaktionen efter varje masskjutning. Folk är överens om att det är dåligt, men ingen kan komma överens om vad man ska göra åt det”, säger Sophie Zhang. 
  • På Hacker Way, i Menlo Park strax utanför San Francisco, ligger Facebooks huvudkontor.  Bild: Jason Henry/The Guardian
    På Hacker Way, i Menlo Park strax utanför San Francisco, ligger Facebooks huvudkontor. 
  • ”Antagandet är att om ett fall inte får uppmärksamhet i media så utgör det ingen samhällelig risk… Vad har vi för ansvar när samhällelig risk skiljer sig från pr-risk?”, säger Sophie Zhang. Bild: Jason Henry/The Guardian
    ”Antagandet är att om ett fall inte får uppmärksamhet i media så utgör det ingen samhällelig risk… Vad har vi för ansvar när samhällelig risk skiljer sig från pr-risk?”, säger Sophie Zhang.
Puffetikett
Dagens ETC

Visselblåsaren på Facebook: ”Jag har svårt att sova om nätterna”

Facebook erbjuder världens despoter en möjlighet att styra opinionen, bara de är beredda att betala det som en påverkanskampanj kostar.

Sophie Zhang förde en desperat kamp mot otyglad manipulation.

Hon såg hur miljoner människor drabbades.

Men hennes chefer förhalade och avstyrde.

Nu berättar hon sin historia.

Vill du fortsätta läsa?

Bli prenumerant på Dagens ETC!
Om du redan är det loggar du in här.

Betala per vecka

Från

39 kr

Beställ här!

Prenumerera och betala per vecka. Avsluta när du vill.

Betala per månad

Från

139 kr

Beställ här!

Prenumerera och betala per månad. Avsluta när du vill.

Strax innan Sophie Zhang förlorade åtkomst till Facebooks system postade hon ett sista meddelande på företagets interna forum, en avskedstradition på Facebook som kallas ”badge post”:

”Officiellt är jag en (dataanalytiker) på låg nivå som i dag får sparken på grund av dålig prestation”, inleddes inlägget.

”I praktiken har jag under de 2,5 år som jag jobbat på Facebook… upptäckt flera uppen­bara försök av utländska regeringar att missbruka vår plattform i stor skala för att vilseleda sin egen befolkning, och orsakat internationella nyheter vid flera tillfällen.”

Med 7 800 dräpande ord beskrev Zhang hur Facebook låtit bli att bekämpa politiska mani­pulationskampanjer liknande det Ryssland gjorde under det amerikanska valet 2016.

”Vi brydde oss helt enkelt inte tillräckligt mycket för att stoppa dem”, skrev hon.

”Jag vet att jag vid det här laget har blod på mina händer.”

Stängd ned hennes webbsida

Zhang visste att det här var en berättelse som Facebook inte ville att hon skulle berätta, så när hon klickade på publicera så startade hon också en lösenordsskyddad webbsida med en kopia av meddelandet, och gav länken och lösenordet till anställda vid Facebook. Facebook nöjde sig inte med att tillfälligt radera inlägget internt, de kontaktade också Zhangs webbhotell och domänregistrator och tvingade bort hennes webbsida från nätet.

Nu, när det amerikanska valet är över och en ny president har installerats, träder Zhang fram för att berätta hela historien öppet. (Utdrag ur hennes meddelade publicerades först av BuzzFeed News i september.) Den här artikeln bygger på omfattande intern dokumentation som The Guardian har tagit del av.

– Det vi har sett är att flera länders presidenter anser att den här aktiviteten är tillräckligt värdefull för deras autokratiska ambitioner att de känner att de behöver göra det så uppenbart att de inte ens bryr sig om att dölja det, säger Zhang till The Guardian.

– Jag försökte lösa det här problemet inom Facebook… Jag diskuterade det ingående med min chef, med min chefs chef, med olika team, alla ända upp till en vice vd för före­taget. Jag försökte upprepade gånger få folk att ordna saker… Jag erbjöd mig att stanna kvar gratis efter att de avskedat mig, men de sa nej. Jag hoppades att inlägget jag postade när jag slutade skulle kunna övertyga folk om att ändra på saker och ting, men det har det inte gjort.

Hon menar att Facebook låter sina egen­intressen inkräkta på sitt ansvar att skydda demokratin, och att allmänheten och tillsynsmyndigheter måste få veta vad som händer för att kunna hålla uppsikt.

– Hela poängen med icke-autentisk aktivitet är att inte bli upptäckt. Man kan inte fixa något om man inte vet om att det existerar, sade hon.

President fixade ”falska likes”

En talesperson för Facebook, Liz Bourgeois, säger:

– Vi instämmer inte alls med Zhangs beskrivning av våra prioriteringar och ansträngningar för att utrota missbruk på vår plattform. Vi försöker ihärdigt stoppa missbruk runt om i världen och har specialiserade team som fokuserar på detta arbete. Till följd av det har vi tagit bort över 100 nätverk av koordinerat icke-autentiskt beteende. Ungefär hälften av dem var inhemska nätverk som verkade i länder runt om i världen, bland annat i Latinamerika, Mellanöstern, Nordafrika och det asiatiska Stillahavsområdet. Att be­kämpa koordinerat icke-autentiskt beteende är vår prioritet. Vi tar också itu med problemen med spam och falskt engagemang. Vi utreder varje ärende innan vi vidtar åtgärder eller gör offentliga uttalanden om dem.

Facebook bestrider inte Zhangs sakpå­ståenden om sin tid på företaget.

Zhang hade arbetat för Facebook i ungefär sex månader när hon insåg att Juan Orlando Hernández, Honduras president, fick stora mängder falska likes för det innehåll han postade till sina 500 000 följare på Facebook. Under en sexveckorsperiod, från juni till juli 2018, fick Hernández Facebookinlägg likes från 59 100 användare, varav över 78 procent inte var riktiga människor.

Hernández falska engagemang stack inte bara ut på grund av sin omfattning, utan även på grund av en tydlig innovation i hur han skaffade det. Merparten av dessa falska likes på Facebook kommer från falska eller komprometterade användarkonton, men Hernández fick tusentals likes från Facebooksidor – Facebookprofiler för företag, organisationer eller offentliga personer – som hade skapats för att likna användarkonton, med namn, profilbilder och yrkestitlar. En person var administratör för flera hundra av de här falska sidorna, såväl som de officiella sidorna för både Hernández och hans bortgångna syster, som hade varit kommunikationsminister.

Engagemang lurar algoritmen

Bakom sin datorskärm kunde administratören publicera ett inlägg på presidentens Facebooksida om hur väl Hernández utförde sitt arbete, och sedan använda sina hundratals falska sidor för att få inlägget att framstå som populärt – den digitala motsvarigheten till att bussa in fejkpublik till ett tal.

Zhang hade anställts i januari samma år för att jobba i ett relativt nytt team som var avsett att bekämpa ”falskt engagemang” – likes, kommentarer, delningar och reaktioner från icke-autentiska eller komprometterade konton. Utöver att förvanska allmänhetens uppfattning om hur populärt ett visst innehåll är, kan falskt engagemang påverka hur det innehållet presterar i den ytterst viktiga nyhetsflödesalgoritmen. Det är ett slags falsk valuta på Facebooks uppmärksamhetsmarknad.

Den stora merparten av falskt engagemang på Facebook finns i inlägg eller på sidor av enskilda individer, företag eller varumärken, och det tycks vara kommersiellt motiverat. Men Zhang upptäckte att det också användes för det som Facebook kallade ”medborgerliga” – det vill säga politiska – mål. Det mest påfallande exemplet var Hernández, som fick 90 procent av allt känt politiskt falskt engagemang i Honduras från och med augusti 2018.

Hernández – en högernationalist som stödde militärkuppen i Honduras 2009 – valdes till president 2013. Hans omval 2017 ses allmänt som valfusk, och hans andra mandatperiod har kantats av anklagelser om kränkningar av mänskliga rättigheter och otyglad korruption. Amerikanska federala åklagare har benämnt Hernández som medkonspiratör i flera fall av narkotikahandel. Han har inte åtalats för brott och har förnekat att han gjort något fel.

Hernández har inte svarat på förfrågningar som skickats till hans pressekreterare, advokat och minister för insyn.

Den taktik som hjälpte fram Hernández på nätet liknade det som den ryska internet­byrån Internet Research Agency hade gjort under det amerikanska valet 2016, då de skapade Facebookkonton där de utgav sig för att vara amerikaner och använde dem för att manipulera enskilda personer och påverka politiska debatter på Facebook. Facebook hade hittat på ett namn för detta – ”koordinerat icke-autentiskt beteende” (CIB) – för att kunna förbjuda det.

Men till en början motsatte sig Facebook att kalla den honduranska aktiviteten för CIB – delvis på grund av att nätverkets användning av sidor för att skapa falska profiler och falskt engagemang var ett allvarligt kryphål i företagets regler. Facebooks policys för att säkerställa autenticitet fokuserar på konton: användare kan bara ha ett konto och det måste stå i deras ”riktiga” namn. Men Facebook har inga sådana regler för sidor, vilka kan göra mycket av det som konton kan, däribland trycka gilla, dela och kommentera.

Skyllde på resursbrist

Zhang antog att när hon hade underrättat rätt personer om sin upptäckt så skulle Hondurasnätverket utredas och kryphålet för falska sidor skulle stängas. Men det stod snart klart att ingen var intresserad av att ta på sig ansvaret att kontrollera missbruk utfört av presidenten i ett fattigt land med bara 4,5 miljoner Facebookanvändare. Budskapet som hon fick från alla håll – däribland hotunderrättelsen, det lilla elitteam av utredare som ansvarar för att avslöja CIB-kampanjer – var att missbruket var dåligt, men att man hade ont om resurser och att Honduras, då det inte förekom några externa påtryckningar, helt enkelt inte var en prioritet.

– Det är inte vår uppgift att utreda falskt engagemang, sa en utredare från teamet till Zhang. Katie Harbath, Facebooks dåvarande chef för offentliga policys för globala val, uttryckte intresse för ett ”avskalat sätt att titta efter det här och aktivitet på andra politikersidor”, men framhöll att det var osannolikt att fallet skulle få särskilt mycket uppmärksamhet utanför Honduras, och att hon inte kände ”superstarkt” för det. Några av de andra överordnade och chefer som Zhang informerade var Samidh Chakrabarti, dåvarande chef för medborgerlig integritet, David Agranovich, chef för global hotstörning, och Guy Rosen, vice vd för integritet.

– Jag tror inte att folk tänker så mycket på Honduras här, sa en chef från medborgerlig integritet till Zhang i en chatt.

Misstankarnas bekräftades

När det gått flera månader utan att några åtgärder vidtagits, gjorde Zhang, som vid det laget var frustrerad och otålig, sina farhågor halvoffentliga, inom ramen för företagets interna kommunikationsplattform. I slutet av mars 2019 postade hon ett inlägg i en grupp för företagets ”kärnteam för valintegritet”, där hon påpekade att Hernández var ”den ende presidenten som direkt, aktivt och konsekvent missbrukat Facebook för att utnyttja falskt engagemang för sig själv” och att företaget hade vetat om problemet i flera månader utan att göra något.

Inlägget lyckades bekymra en utredare från hotunderrättelseteamet, men i april fördröjdes fallet ytterligare då ledningen tillfälligt stoppade utredningar i CIB-fall som inte inbegrep inblandning av en utländsk regering. I juni började utredaren arbeta med fallet och kunde snart bekräfta Zhangs upptäckter: det fanns ett stort CIB-nätverk i Honduras som arbetade för att främja Hernández och som hade kopplingar till presidenten själv.

”Kampanjen har ihärdigt propagerat för en sannolikt illegitim president i ett riskland”, skrev utredaren i en rapport som betonade dess sannolika ”påverkan IRL (i verkliga livet)”. De aktuella kontona och sidorna hade skapats under 2016 och 2017, innan Hernández omstridda omval, noterade utredaren.

Den 25 juli 2019, nästan ett år efter att Zhang hade rapporterat nätverket till Facebook, meddelade företaget att man skulle ta bort 181 konton och 1 488 sidor med inblandning i ”inrikesfokuserad koordinerad icke-­autentisk aktivitet i Honduras”. Kampanjen kunde ”kopplas till enskilda personer som skötte sociala medier åt Honduras regering” och hade spenderat över 23 000 dollar på Facebook-annonser, sa Facebook.

Fick beröm – i början

David Agranovich, chefen för global hot­störning, hyllade Zhang för hennes roll i nedstängningen, och skrev i en officiell feedbackkanal:

”De här störningarna tog bort nätverk på Facebook som använde våra tjänster för att undertrycka demokratiska uttryck, rikta in sig på oskyldiga användare på vår plattform och möjliggöra hemlig geopolitisk konflikt. Detta är bland det viktigaste arbetet på Facebook och vi kunde inte ha gjort någon av de här nedstängningarna utan dina insatser.”

Privat tillade han:

”Hondurasfallet skulle aldrig ha hänt utan ditt oavbrutna arbete… Det betyder att vi har skapat ett prejudikat att sidor-som-profiler är icke-autentiskt beteende.”

Zhang kände sig styrkt av sin framgång med Hondurasnedstängningen och trodde att det ”prejudikat” som Agranovich talade om skulle bana vägen för snabbare nedstängningar i framtiden.

Dagen efter uppmärksammade hon hotunderrättelseteamet på ett nätverk av falska sidor som stödde politiska ledare i Albanien. I augusti upptäckte och eskalerade hon misstänkta nätverk i Azerbajdzjan, Mexiko, Argentina och Italien. Under hösten och vintern lade hon till nätverk i Filippinerna, Afghanistan, Sydkorea, Bolivia, Ecuador, Irak, Tunisien, Turkiet, Taiwan, Paraguay, El Salvador, Indien, Dominikanska republiken, Indonesien, Ukraina, Polen och Mongoliet.

– Ofta kändes det som att jag försökte tömma ett hav med en pipett, säger Zhang till Guardian.

Sögs upp av byråkratin

Nätverken uppfyllde sällan Facebooks skiftande kriterier för att prioriteras för CIB-nedstängningar, vilka utreds av hotunderrättelseteamet och tillkännages offentligt, men stred ändå mot Facebooks policys. Nätverk av falska konton hanterades genom identitetskontroller, en process där användarna måste bevisa sin identitet, annars stängs deras konton. Taktiken är ett effektivt sätt att bli av med icke-autentiska konton, men den gjorde inte mycket åt det missbruk av sidor som utfördes av icke-autentiska konton. Den kunde också utföras av Facebooks anställda inom ”communityanvändning”, vilka var betydligt fler än hotunderrättelseutredarna.

Det var genom arbetet med de här fallen som Zhang upprepade gånger kom i kontakt med Facebooks policybyråkrati. Några av Facebooks policytjänstemän fungerar som ett slags lagstiftande gren om Facebook skulle liknas vid en världsregering. De utformar reglerna och rådger personalen inom communityanvändning som upprätthåller dem. Andra fungerar mer som en privatiserad diplomatisk kår och bemannar kontor runt om i världen för att etablera kontakter med lokala företag, grupper i civilsamhället, myndigheter och politiker. Policytjänstemän kan också tillhandahålla expertis på ett givet lands eller regions språk, och utifrån dess historia och politiska kontext, i syfte att ta fram underlag för beslut som fattas vid Facebooks huvudkontor i Silicon Valley.

Policyteamets respons på de fall som Zhang avslöjade varierade stort. Policytjänstemän yrkade på att nätverk av falska konton i Sydkorea, Taiwan, Ukraina och Italien skulle utredas snabbt, medan de lät andra fortgå i månader utan att agera.

– Det kändes lite som reaktionen efter varje masskjutning. Folk är överens om att det är dåligt, men ingen kan komma överens om vad man ska göra åt det. Så det är bara tankar och böner, sade Zhang.

Inneboende intressekonflikt

Tidvis lät Facebook sina egenintressen ta plats i diskussioner om tillämpningen av regler.

2019 övervägde några Facebookanställda att offentliggöra det faktum att en oppositionspolitiker i Filippinerna fick lågkvalitativt, falskt engagemang som följde manus, trots att man inte visste huruvida politikern var inblandad i att skaffa dessa falska likes. Företaget hade ”strategiska incitament att offentliggöra”, sa en researcher, då politikern hade varit kritisk mot Facebook. ”Vi får en del kritik från Duterteanhängare för den senaste tidens nedstängningar, och att meddela att vi gör ännu en nedstängning som även gäller andra kandidater kan vara till hjälp”, tillade en chef för offentlig policy.

Inga åtgärder vidtogs efter att Zhang på­pekat att det var möjligt att Duterte eller hans anhängare försökte ”sätta dit” oppositions­politikern genom att köpa falska likes för att få denne att framstå som korrupt. Men diskussioner som denna är ett av skälen till att Zhang nu hävdar att Facebook måste skapa åtskillnad mellan de anställda som ansvarar för att upprätthålla Facebooks regler och de som ansvarar för att bibehålla goda relationer till regeringstjänstemän.

Hon misstänker att policyavdelningens inneboende intressekonflikt är förklaringen till att den beslutade att bevara kryphålet i verkställandet av Facebooks regler om användning av falska sidor.

2019 antog teamet Zhangs förslag om att förbjuda användning av icke-autentiska sidor för att skapa falskt engagemang. De avvisade dock ett annat förslag av Zhang om att bestraffa de som mest aktivt missbrukar plattformen genom att förbjuda dem att ha personliga konton. Policytjänstemän hänvisade till att de var obekväma med att vidta åtgärder mot personer med kopplingar till högprofilerade konton, såsom sidadministratören för Honduras president.

Frånvaron av en verkställighetsmekanism utgör fortfarande ett kryphål i Facebooks policys. Även om företaget tar bort dussintals falska sidor så finns det ingenting som stoppar användare med ett autentiskt konto att nästa dag skapa dussintals nya.

– Om folk börjar inse att vi gör undantag för sidadministratörer för presidenter eller politiska partier, kan dessa operatörer så småningom räkna ut det och medvetet lägga sitt CIB i mer officiella kanaler, sa en researcher från teamet för medborgerlig integritet medlidsamt till Zhang efter att hennes förslag skjutits i sank.

Att hitta ”rätt prioritering”

Samtidigt som Zhang upptäckte nya påverkansoperationer, dök en gammal upp igen. ­I oktober 2019 märkte hon att Hondurasnätverket höll på att återuppbyggas – och att hotunderrättelseteamet inte var särskilt sugna på att ta bort det igen. Facebook säger att de övervakar CIB-nätverkens försök att återuppta verksamheten genom att använda manuella och automatiserade metoder, och att de ”fortlöpande” plockar bort nya sidor och konton med koppling till nätverken.

När Zhang klagade på att inget gjordes i ännu ett internt inlägg i december, fick hon ett svar från Guy Rosen som var typiskt för hur Facebook rättfärdigade att man ignorerade missbruk i små eller fattiga länder som inte fått uppmärksamhet i media: man hän­visade till företagets otaliga prioriteringsramar.

Facebook hade ”agerat långsammare än vi ville på grund av prioriteringar” i Hondurasfallet, skrev Rosen. ”Det är tråkigt att det är tillbaka och jag vill gärna lära mig av detta och bättre förstå vad vi behöver göra systematiskt”, tillade han. Men han kritiserade henne också för att hon klagat offentligt:

”Det som bekymrar mig är att trådar som denna kan underminera de människor som kliver upp på morgonen och gör sitt absolut bästa för att försöka komma på hur man ska tillbringa den begränsade tid och energi vi alla har, och som lägger ned hjärta och själ i detta.”

Rosen hade börjat jobba på Facebook 2013, när företaget förvärvade hans uppstartsföretag, Onavo, ett webbanalysföretag som Facebook sedan kom att använda för att hålla koll på användningen av rivaliserande appar. Vid Facebook ledde Rosen projektet Internet.org och var vice vd för tillväxt, innan han utnämndes till vice vd för integritet, och som sådan övervakade företagets säkerhets-, integritets- och trygghetsinsatser.

Chatt visar att chefer bekräftade

Efter att Zhang avskedats och hennes avskedsinlägg publicerats av BuzzFeed News, tonade Rosen ned betydelsen av det missbruk hon hade avslöjat, och skrev på Twitter:

”Med all respekt, det som hon beskrivit är falska likes – vilka vi rutinmässigt tar bort med hjälp av automatiserad spårning. Precis som alla team inom branschen eller inom samhällsstyret så prioriterar vi att stoppa de mest överhängande och skadliga globala hoten. Falska likes är inte ett av dem.”

Men Zhang hade diskuterat sitt arbete, vilket inte var begränsat till falska likes, med Rosen vid flera tillfällen. I april 2019, efter att hon privat informerat honom om Hondurassituationen, uppmuntrade han henne att hålla sig till de prioriteringar som ledningen tagit fram, och sa:

”Vi har bokstavligen talat hundratals eller tusentals sorters missbruk (gott om jobb inom integritet, eller hur!)… Det är därför vi borde börja uppifrån (toppländer, områden med högst prioritet, sådant som kan bli pre­judikat etc.) och försöka att på något sätt arbeta oss nedåt.”

I december 2019, i en privat konversation där de följde upp Hondurasnätverkets återupptagna verksamhet, sa Zhang till Rosen att hon hade informerats om att hotunderrättelseteamet bara skulle prioritera kampanjer i ”USA/Västeuropa och utländska motståndare som Ryssland/Iran/etcetera”, ett ramverk som Rosen stödde. Han sa: ”Jag anser att det är rätt prioritering.”

Zhang svarade:

”Jag fattar att USA/Västeuropa/etcetecera är viktiga, men för ett företag som i själva verket har obegränsade resurser så förstår jag inte varför det här inte kan hamna på någons bord… En chef för strategisk respons sa till mig att världen utanför USA/Europa i stort sett är som Vilda västern, med mig som en deltidsdiktator på min fritid. Han såg det som en positiv utveckling, för så vitt han visste så var det ingen som bevakade det här innan han fick höra om mitt arbete.”

Rosen svarade:

”Jag önskar att resurserna var obegränsade.”

Vid den tidpunkten skulle företaget just rapporterat årliga rörelseresultat på 23,9 miljarder dollar på 70,7 miljarder dollar i intäkter. Det hade 54,86 miljarder dollar i kassabehållning.

Passivitet tills media rapporterar

På Facebook var alla kriterier för prioriteringar som bortblåsta i samma ögonblick som ­media eller allmänheten fick nys om något.

I september 2018, till exempel, uppmärksammade Zhang policyteamet på att Alejandro Murat Hinojosa, guvernör i Oaxaca i Mexiko, fick betydande mängder falskt engagemang. Ingenting gjordes förrän den 7 januari 2019, då hotunderrättelseteamet fick ett utkast till en artikel av tankesmedjan Atlantic Councils digitala forskningslabb, DFRLab, som avslöjade misstänkta likes från sydasiatiska Facebookkonton på Murats sidor. Plötsligt ansågs att de falska likesen skulle eskaleras till högprioriterade och Zhang kallades in för att ta bort dem.

Man gjorde dock inget för att undersöka källan till detta falska engagemang, eller för att ta itu med det vidare problemet med falskt engagemang i mexikansk politik. I augusti 2019 eskalerade Zhang ärenden som gällde misstänkta nätverk av konton som stödde lokala politiker i sju mexikanska delstater. I december 2019 uppdaterade hon att det nu rörde sig om sammanlagt 18 nätverk som verkade för lokala och delstatliga politiker, däribland ännu ett som stödde Murat. Nätverken var inte prioriterade så man lät dem vara tills augusti 2020, då, 360 dagar efter Zhangs rapport, över 5 000 falska konton slutligen kontrollerades.

Huruvida icke-autentisk aktivitet får uppmärksamhet hos media eller allmänheten är en dålig indikator på hur allvarlig den är, menar Zhang.

Improviserade i svenska valet

Under det allmänna valet i Storbritannien 2019 oroades allmänheten av vågor av identiska, stödjande kommentarer på Boris Johnsons Facebooksida. Zhang plockades in i flera ärenden som eskalerats till ”högprioriterade” för att undersöka kommentarerna, vilka inte kom från de misstänkta ”ryska botarna”, utan var resultatet av verkliga Brexitanhängare som låtsades vara ryska botar för att trolla Labourväljare.

Rosen själv ändrade en gång en Facebookpolicy för att undvika ett pr-problem. Den 7 september 2018 – två dagar innan det allmänna valet i Sverige – informerades Facebook om en kommande artikel från Atlantic Councils DFRLab, vilken väckte frågor om oproportionerliga nivåer av engagemang för det höger­extrema partiet Alternativ för Sverige (AfS). AfS är ett marginalparti utan platser i riks­dagen, men fick av någon anledning nästan lika många likes på Facebook för sitt innehåll som Sveriges största politiska parti.

Zhang ombads att undersöka saken och hon upptäckte att AfS:s aktivitet var koordinerad, men inte icke-autentisk. Den bröt inte mot någon av företagets policys. Rosen yrkade dock på att åtgärder skulle vidtas mot deras aktivistkonton. Han skrev i en mejltråd till cheferna Joel Kaplan, Monika Bickert, Nathaniel Gleicher och Rachel Whetstone:

”Även om vi är sent ute här så verkar det ändå bättre att göra något och att prata om det än att inte göra någonting. Om vi tycker att det är det rätta.”

Flera chefer ställde sig negativa till det och påpekade att han föreslog att de skulle hitta på en ny policy mot ett beteende som Facebook hade uppmuntrat hos sina användare (att dela inlägg i Facebookgrupper) och att börja tillämpa den bara timmar innan röstningen inleddes i ett nationellt val. Rosen körde över dem och implementerade den nya policyn. Whetstone tog fram en kommunikationsplan i händelse att media skulle ställa frågor. Planens angivna ”mål” inbegrep ”Begränsa memet att vi är långsamma med att upptäcka felaktig användning – och inte kan kontrollera Facebook” och ”Begränsa memet att vi inte kan kontrollera våra system – eller är för långsamma med att upptäcka de här olika typerna av missbruk”.

Jobbade med Google Translate

Av alla de fall av icke-autentiskt beteende som Zhang avslöjade, var det som oroade henne mest – och som tog längst tid att ta bort – det i Azerbajdzjan. Det var ett av de största hon sett och det användes uppenbart för att stödja en auktoritär regim med ett fruktansvärt förflutet gällande mänskliga rättigheter.

Det azerbajdzjanska nätverket använde samma taktik som setts i Honduras – tusentals Facebooksidor som skapats för att se ut som användarkonton – men i stället för att skapa falska likes användes sidorna för att trakassera. Under en 90-dagarsperiod 2019 producerade det ungefär 2,1 miljoner negativa, trakasserande kommentarer på Facebook­sidorna för oppositionsledare och oberoende medier. Kommentarerna anklagade dem för att vara förrädare och hyllade landets en­väldige ledare, president Ilham Aliyev, och hans regerande parti Yap.

Facebook anlitade inte en särskilt avsedd policytjänsteman eller marknadsspecialist för Azerbajdzjan, och inget av företagets policyteam för Östeuropa eller Mellanöstern tog ansvar för det. Så småningom upptäckte Zhang att det var policyteamet för Turkiet som skulle bevaka den tidigare Sovjetrepubliken, men ingen i teamet talade azerbajdzjanska eller hade någon expertis om landet. Sedan augusti 2020 hade inte Facebook några heltids- eller kontraktsanställda som talade azerbajdzjanska, så personalen fick förlita sig på Google Translate, Googles översättningsverktyg, för att försöka förstå vad det rörde sig om för missbruk.

Det dröjde till december 2019 innan Facebook gav någon i uppdrag att undersöka trakasserikampanjen, och till januari 2020 innan utredningen inleddes. I början av februari hade utredaren fastställt att kampanjen hade ”tydliga kopplingar till det styrande partiet Yap”. Men en månad senare ändrade utredaren, utan förklaring, prioriteringsnivån på eskaleringen från ”hög” till ”låg”. Än en gång hade Zhang upptäckt en påverkansoperation av en odemokratisk regering mot sin egen befolkning, och än en gång drog Facebook fötterna efter sig. Efter att den här artikeln publicerats förnekade Yap alla kopplingar till sidor som nyligen lämnat trakasserande kommentarer på en oberoende nyhetskanals Facebooksida.

Zhang lobbade återigen internt för att Azerbajdzjanfallet skulle prioriteras.

– Jag har fått höra direkt från ledningen att jag ska ignorera de här fallen, för om de är verkningsfulla så kommer vi så småningom att få kritik för dem som motiverar en förändring, sa hon 2020 under en presentation vid ett internt toppmöte med fokus på frågor kring medborgerlig integritet, enligt sina anteckningar.

– Antagandet är att om ett fall inte får uppmärksamhet i media så utgör det ingen samhällelig risk… Vad har vi för ansvar när samhällelig risk skiljer sig från pr-risk?

”Hade för mycket ansvar och makt”

I augusti 2020, efter nyheten att Aliyev slog till mot oppositionsledare och journalister, tog Zhang återigen sitt fall till den interna gruppen för ”diskussioner kring valintegritet”.

”Tyvärr har Facebook blivit delaktiga i dessa auktoritära kraftåtgärder genom sin passivitet”, skrev hon.

”Trots att vi i början av februari kunde konstatera att det här nätverket hade band till element i regeringen, och har sammanställt omfattande bevisning för dess kränkande natur, så fattades ett faktiskt beslut att inte prioritera det, i sak att blunda för det.”

Det internt offentliga inlägget bidrog till att inspirera verklig respons. En researcher inom medborgerlig integritet förklarade att trakasserikampanjen var ”något av det värsta jag sett” och lovade att ”spendera en del politiskt kapital” för att se till att åtgärder vidtogs. Hotunderrättelseteamet eskalerade det på nytt och en utredare förklarade för Zhang att ”det nog förmodligen bara hamnat mellan stolarna”.

I slutet av augusti hade hotunderrättelseteamet hittat ”säkra bevis” för Yaps inblandning och förberedde sig för att fastställa nätverkets hela omfattning. Zhang skulle dock inte vara kvar på Facebook för att uppleva det slutgiltiga tillkännagivandet av CIB och nedstängningen av 589 Facebookkonton, 7 665 sidor och 437 Instagramkonton kopplade till YAP:s ungdomsgren den 8 oktober.

Hon avskedades för dålig prestation i mitten av augusti 2020, en följd av att hon tillbringat för mycket tid med att fokusera på att utrota medborgerligt falskt engagemang och inte tillräckligt mycket tid på de prioriteringar som ledningen utarbetat. Hennes psykiska hälsa och arbetsprestation hade tagit mycket stryk under pressen att försöka göra båda, samt av stressen över coronapandemin.

– Det borde inte ha varit mitt jobb, men när allt kommer omkring så var jag den enda som faktiskt fattade några beslut gällande de här fallen, säger hon till The Guardian.

– Huruvida ett nätverk togs bort eller inte avgjordes i praktiken av hur hårt jag valde att driva det, hur mycket jag valde att skrika på andra människor om det.

– Jag har fortfarande svårt att sova om nätterna ibland. Det var bara väldigt överväldigande och frustrerande för jag skulle, ärligt talat, aldrig ha haft så här mycket ansvar och makt.

”Kommer inte att prioriteras”

Under sin sista dag gick hon igenom listan med utestående arbetsuppgifter som hon hade registrerat om ännu aktiva nätverk av icke-autentiska konton. Hon körde frågor och lämnade anteckningar till de anställda som hon hoppades skulle fortsätta hennes arbete efter att hon slutat. Det fanns då 200 misstänkta konton som fortfarande hjälpte fram politiker i Bolivia, antecknade hon, 100 i Ecuador, 500 i Brasilien, 700 i Ukraina, 1 700 i Irak, 4 000 i Indien och över 10 000 i Mexiko.

Sedan gjorde hon en sista uppdatering i akten om Honduras, där hon skrev:

”Då jag lämnar företaget i dag gjorde jag en sista koll i Honduras och fick fram vad som förefaller vara ungefär 130 återkommande användare som fortfarande är aktiva för presidenten (Juan Orlando Hernández)… Jag inser att det här inte kommer att prioriteras eller tas itu med, men ville ändå lämna en uppdatering för fullständighet.”

Läs vidare på nästa sida: Tidslinje