AI-monstret har redan vaknat - det heter Facebook

ANALYS. I diskussionen om AI brukar den värsta farhågan vara att datorerna ska "vakna till liv" och förgöra mänskligheten. Men tänk om förödelsen istället skapas av att algoritmer vänt människor mot varandra?
Dela artikeln

Facebook tjänar pengar på att du och jag spenderar maximalt med tid på nätverket, så att vi kan exponeras för annonser. Och eftersom vi människor framförallt är känslostyrda innebär det att sådant material som ger upphov till starka känslor premieras i flödet. Bäst för Facebook är när vi blir upprörda - då kommenterar vi och delar vidare i affekt.

Vissa menar att detta driver på polariseringen i samhället. I USA såg vi Trump komma till makten med en digital kampanj som byggde nästan uteslutande på ilske-budskap. Vi har tidigare skrivit om effekten av filterbubblor i Camino, något som är omtvistat i forskningen.

– Vi bombarderas av nyheter som bekräftar vår befintliga världsbild, och när vi stärks i våra åsikter göds polariseringen i samhället. Vi människor vill passa in bland de vi anser vara nära oss. I bubblorna bekräftar vi varandra och får ett ok från omgivningen att tycka på ett visst sätt. På så sätt förstärks åsikter och normer i respektive bubblor: i den högerextrema bubblan vågar fler ge uttryck för rasism och hat, i den vänsterextrema göds istället hatet mot rasisterna. Vi glider isär och vår förståelse för människor med andra åsikter och bakgrunder minskar, beskrev journalisten Per Grankvist som undersökt saken bland annat i sin bok En värld av filterbubblor.

Även polarisering är något som är svårt att få tydliga svar på genom forskningen, på grund av svårigheterna att mäta detta. I psykologin är det dock enkelt att hitta en grund. I boken Gruppens grepp – Hur vi fördomsfulla flockvareleser kan lära oss att leva tillsammans, skriver Mikael Klintman, professor i sociologi på Lunds universitet tillsammans med journalisten Thomas Lunderquist och psykologiforskaren Andreas Olsson, om vilken enorm kraft grupptrycket har på oss. På bokmässan hösten 2019 i Göteborg beskrev de hur detta är kopplat till sociala medier.

"Det är viktigare för oss att vara lojal med vår grupp än att söka sanning"

– Vår grupplojalitet påverkar våra verklighetsuppfattningar. Det är viktigare för oss att vara lojal med vår grupp än att söka sanning. Ta klimatförnekelse som exempel. Det är lätt att ställa sig frågande till hur någon kan förneka all den här vetenskapen. Men om gruppen tycker så, är det väldigt socialt rationellt att göra så. Ju mer absurd uppfattningen är, desto mer tajt får jag vara med i den grupp som tycker så, sa Thomas Lunderquist.

Fenomenet har evolutionära förklaringar som sitter djupt rotade i oss människor.

– Vi hittar grupper som vi bör lita på eller inte. I jägar-samlar-samhället var vi ungefär 100–150 personer, som vi kunde känna tillit till. Det viktigaste för oss människor är att stärka vår ställning i gruppen, då ökar våra chanser att överleva. Och då är det väldigt effektfullt att prata illa om de som inte är i vår grupp, beskrev Thomas Lunderquist.

"Polarisering och näthat verkar vara summan av interaktionen mellan människor och algoritm"

Som resultat växer polariseringen och näthatet på sociala medier. Detta är troligen ingen AI:s onda strategi, datorerna är nog inte ens medvetna om effekten. Men det verkar bli summan av interaktionen mellan människor och algoritm. Det kommer allt fler rapporter om hur konflikter runt om i världen trappas upp av sociala medier. I folkmordet på rohinghyer i Myanmar har Facebook erkänt att plattformen användes för att elda på hatet som lett till detta mänsklighetens värsta brott.

Insikten börjar nå allt fler som arbetar på Facebook och liknande sociala medier. Samtidigt är de som driver dessa företag bakbundna av vinstkraven. De "måste" vinstmaximera, oavsett vad det får för konsekvenser på det omkringliggande samhället. Facebook har blivit ett monster som istället för att föra oss samman - vilket inledningsvis hävdades vara syftet - drar oss isär.

Är detta överhuvudtaget möjligt att reglera? Algoritmerna är idag extremt hemliga och dess effekter nästintill omöjliga att mäta vetenskapligt. Som ensamt land är det svårt, men EU har gjort försök att ge sig på internet-jättarna i andra frågor. Resultaten har hittills varierat men unionen och USA är de enda demokratiska makter som är tillräckligt stora för att matcha dessa multinationella företags oerhörda inflytande.

En annan möjlighet är ett nytt konkurrerande socialt media som drivs utan vinstkrav - som ett public service-företag, vars uppdrag kan innehålla att ta socialt och hälsomässigt ansvar för sina användare. Men då krävs att vi som mediekonsumenter byter dit, och hoppar av Facebook. Det sistnämnda kan upplevas som extremt svårt just nu när de nästintill har monopol på viss kommunikation. Nära nog allt i undertecknads omgivning kommuniceras via Facebook-grupper eller Messenger numera. Det blir som att stänga av sig själv från de flesta sociala sammanhang.

Facebook lär troligen vara med oss en bra tid framöver, men räkna med att strålkastarljuset kommer vara riktat mot dem - och på frågan hur deras negativa påverkan på oss ska reduceras.

Läs mer